Hacker News · AI· Ir0n·· 3 小时前AI 评分48
Show HN: Goethe – The infrastructure for self-hosted AI
Show HN: Goethe – The infrastructure for self-hosted AI
AI 导读
Goethe 是一个可在本地运行的 AI 基础设施,将 Linux 机器转换为兼容 OpenAI、Anthropic 和 LiteLLM 客户端的自定义 API。用户可通过三步安装模型、通过 API 提供服务并配置访问权限,所有请求通过模型名称选择对应模型。Goethe 支持 NVIDIA 多代 GPU,提供自定义内核加速,并自带 CUDA 13 运行时和编译器,无需额外安装 CUDA 工具包。
来源:Hacker News · AI · github.com