跳到正文
Towards Data Science· Irfan Alghani Khalid·· 6 小时前AI 评分54

如何用 Apple fm CLI 在 Python 中运行本地大模型

How to Use Apple's fm CLI to Run On-Device LLMs From Python

AI 导读

作者实测了 Apple macOS 内置的 fm CLI 工具,演示了如何在 Python 中通过 subprocess 或 fm serve 两种方式调用本地大模型,支持文本推理和图像解析,并指出其在事实问答和视觉分类上的局限,适合本地原型开发和苹果原生应用。

来源:Towards Data Science · towardsdatascience.com