跳到正文
热点事件持续更新

Windows ML 新增实验性 llama.cpp 支持

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

微软为 Windows ML 增加了实验性的 GGUF 模型支持和 Runtime API,使开发者能在本地通过特定任务 API 运行 GGUF 模型。 微软称,这些新功能目前处于实验阶段,建议开发者在用于生产环境前,先查看支持的场景和已知限制。

AI 根据报道生成 · 40 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. Hacker News · AI
    Windows ML新增对GGUF和llama.cpp的实验性支持,强化本地AI开发栈

    Windows ML发布新功能,支持通过实验性API运行GGUF模型,集成llama.cpp并提供OpenAI兼容端点;同时增强PyTorch和Triton在Windows Arm64上的原生支持,支持模型训练、导出和本地推理,开发者可通过Windows ML CLI进行模型优化和基准测试。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。