SiliconANGLE· Paul Gillin·· 3 小时前AI 评分55
IBM 支持的 llm-d 框架发布 1.0 版本,增强企业自托管 AI 模型的运行控制
IBM-backed llm-d framework adds controls for running AI models in-house
AI 导读
IBM 支持的开源 llm-d 框架发布 1.0 版本,新增多租户服务质量控制、零停机升级和针对 AI 智能体的请求路由优化,支持在 Kubernetes 上协调模型服务。
来源:SiliconANGLE · siliconangle.com