Requesty发布AI网关与LLM路由器服务
热点事件持续更新
Requesty发布AI网关与LLM路由器服务
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Requesty发布了一项AI网关和LLM路由器服务，支持通过单一API访问超过600个模型，并宣称每日处理超过2250亿个token。 该服务提供路由、故障转移、成本限制和请求可观测性等功能，据称其缓存命中率为78.6%，可节省978美元。用户可通过OpenAI兼容API集成，无需更改现有代码栈。 服务目前支持在欧盟法兰克福的AWS数据中心使用，采用按应用实际支出加收5%的付费模式，并允许用户自带密钥。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 16:20
Requesty：用于 EU 数据中心中 600 模型的 AI 网关和 LLM 路由器报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- Hacker News · AIRequesty：用于 EU 数据中心中 600 模型的 AI 网关和 LLM 路由器
Requesty 提供一个 AI 网关和 LLM 路由器，支持通过单一 API 访问 600+ 模型，并具备路由、故障转移、花费限制和请求可观测性功能。平台支持自动缓存、负载均衡和区域网关，每日处理 225B+ tokens，缓存命中率 78.6%，节省 $978。用户可通过 OpenAI 兼容 API 集成，无需更改现有代码栈，且无供应商锁定。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。