InfoQ · AI/ML· Sergio De Simone·· 4 小时前AI 评分35
Google 推出 LiteRT Tensor API 用于设备端 ML 模型构建、定制和优化
Google Launches LiteRT Tensor API for Building, Customizing, and Optimizing ML Models for On-Device
AI 导读
Google 推出 LiteRT Tensor API,允许开发者用 C++ 直接构建、定制和优化设备端 ML 模型,提供跨平台兼容性并减少对特定后端的依赖。该 API 支持直接加载 Hugging Face .safetensors 权重文件、零拷贝缓冲区互操作性,并兼容 AI 编码智能体生成 C++ 代码。
来源:InfoQ · AI/ML · infoq.com