NVIDIA · 开发者博客· Elizabeth Goodman·· 4 小时前AI 评分37
NVIDIA 推出 Green Contexts 控制 GPU 资源共享方式
Control How Your GPU Shares Work with Green Contexts
AI 导读
NVIDIA 发布 Green Contexts 技术,用于控制 GPU 内多个独立组件的资源共享。该技术旨在优化同时运行的低延迟操作与高吞吐量后台内核之间的资源分配。适用于数据预处理与模型推理并行等场景,提升 GPU 利用效率。
来源:NVIDIA · 开发者博客 · developer.nvidia.com