Hacker News · AI· janandonly·· 3 小时前AI 评分36
Requesty:用于 EU 数据中心中 600 模型的 AI 网关和 LLM 路由器
Requesty: AI Gateway and LLM Router for 600 Models in EU Datacenters
AI 导读
Requesty 提供一个 AI 网关和 LLM 路由器,支持通过单一 API 访问 600+ 模型,并具备路由、故障转移、花费限制和请求可观测性功能。平台支持自动缓存、负载均衡和区域网关,每日处理 225B+ tokens,缓存命中率 78.6%,节省 $978。用户可通过 OpenAI 兼容 API 集成,无需更改现有代码栈,且无供应商锁定。
来源:Hacker News · AI · requesty.ai