跳到正文
热点事件持续更新

GPT-Load 开源自托管 AI 网关发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

开发者 tbphp 开源发布了 GPT-Load,一个支持本地部署的 AI 网关。 该网关提供统一入口,支持管理 OpenAI、Claude、Gemini 等主流模型的 API 密钥、订阅账户、流量调度和使用计费,并具备可逆脱敏功能。 其声称提供缓存补偿机制,部分组别可保证每日 65% 至 85% 的缓存命中率,并在请求不足时退还差额。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. Hacker News · AI
    Show HN: GPT-Load – 一个支持多通道、多凭证的自托管 AI 网关,具备可逆脱敏功能

    GPT-Load 是一个自托管 AI 网关,提供统一入口管理多个 AI 模型的 API 密钥、订阅账户、流量调度和使用计费等功能,支持可逆脱敏。该平台兼容 OpenAI、Claude、Gemini 等主流模型,提供缓存补偿机制,部分组别可保证每日 65% 至 85% 的缓存命中率,并在请求不足时退还差额。用户可通过单个 API 端点和密钥访问多个模型,支持本地部署和多种数据库后端。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。