SiliconANGLE· Ryan Stevens·· 3 天前AI 评分31
CoreWeave 称 GPU 的布线与供电方式可将 AI 延迟改变数个数量级
Wiring and powering GPUs differently can swing AI latency by orders of magnitude, says CoreWeave
AI 导读
CoreWeave 高级副总裁指出，GPU 的布线与供电配置能导致 AI 延迟产生数个数量级的差异。该公司推出的 CoreWeave Forge 开发层在一个互联环境中运行训练、推理、评估和智能体开发。同时，LlamaIndex 作为一家专注于文档解析与提取的模型构建商，其 75% 的工作负载是推理，并依赖专业云服务来应对突发性需求。
来源：SiliconANGLE · siliconangle.com