跳到正文
InfoQ · AI/ML· Sergio De Simone·· 4 小时前精选AI 评分59

Google 发布 ML Drift 开源 GPU 推理引擎,加速端侧 AI 推理

Google ML Drift Accelerates On-Device AI Inference Across Diverse GPUs

AI 导读

Google 发布 ML Drift,一个开源的跨平台 GPU 计算引擎,用于端侧 AI 推理,支持 OpenGL ES、OpenCL、Metal 和 WebGPU,抽象不同 GPU 硬件复杂性。

推荐理由

原文给出了开源许可、支持的 GPU API 和性能基准,读者可以据此判断它在端侧推理中的实际可用性和迁移路径。

来源:InfoQ · AI/ML · infoq.com