Hacker News · AI· CrankyBear·· 2 小时前精选AI 评分58
llm-d 1.0 发布：开源 Kubernetes AI 推理框架进入生产阶段
LLM-D 1.0 Takes Open-Source Kubernetes AI Inference into Production
AI 导读
llm-d 1.0 发布，作为 CNCF 的 Kubernetes 原生框架，新增多租户流量控制、高可用路由、稳定 API 和智能体感知服务等功能，支持 vLLM 和 SGLang 等引擎。
推荐理由
原文展示了 llm-d 1.0 的新功能和实测性能提升，读者可据此判断其在生产环境中的可用性和成本优势。
来源：Hacker News · AI · techstrong.ai