Towards Data Science· Irfan Alghani Khalid·· 6 小时前AI 评分54
如何用 Apple fm CLI 在 Python 中运行本地大模型
How to Use Apple's fm CLI to Run On-Device LLMs From Python
AI 导读
作者实测了 Apple macOS 内置的 fm CLI 工具,演示了如何在 Python 中通过 subprocess 或 fm serve 两种方式调用本地大模型,支持文本推理和图像解析,并指出其在事实问答和视觉分类上的局限,适合本地原型开发和苹果原生应用。
来源:Towards Data Science · towardsdatascience.com