NVIDIA 构建验证的 Kubernetes 运行时用于 Dynamo

NVIDIA 推出 Dynamo 分布式推理框架，用于在 GPU 工作节点间协调模型服务。该框架部署在 Kubernetes 上，但需配合 GPU 驱动、资源分配、调度、网络和监控等组件才能实现完整模型部署。Dynamo 提供了从模型配置到推理端点的可重复路径，适用于 AI 应用开发团队。