跳到正文
SiliconANGLE· Paul Gillin·· 3 小时前AI 评分55

IBM 支持的 llm-d 框架发布 1.0 版本,增强企业自托管 AI 模型的运行控制

IBM-backed llm-d framework adds controls for running AI models in-house

AI 导读

IBM 支持的开源 llm-d 框架发布 1.0 版本,新增多租户服务质量控制、零停机升级和针对 AI 智能体的请求路由优化,支持在 Kubernetes 上协调模型服务。

来源:SiliconANGLE · siliconangle.com