跳到正文
InfoQ · AI/ML· Sergio De Simone·· 4 小时前AI 评分35

Google 推出 LiteRT Tensor API 用于设备端 ML 模型构建、定制和优化

Google Launches LiteRT Tensor API for Building, Customizing, and Optimizing ML Models for On-Device

AI 导读

Google 推出 LiteRT Tensor API,允许开发者用 C++ 直接构建、定制和优化设备端 ML 模型,提供跨平台兼容性并减少对特定后端的依赖。该 API 支持直接加载 Hugging Face .safetensors 权重文件、零拷贝缓冲区互操作性,并兼容 AI 编码智能体生成 C++ 代码。

来源:InfoQ · AI/ML · infoq.com