Together AI·· 17 天前AI 评分32
Together AI 推出 Dedicated Model Inference 支持 GLM-5.2 编码智能体高并发负载
How a global fintech scaled coding agent traffic with Dedicated Model Inference
AI 导读
Together AI 为一家全球金融科技公司部署 Dedicated Model Inference，支持 GLM-5.2 在 256K 上下文窗口下实现高并发编码代理负载，峰值并发达 178K tokens。该方案提供自服务端点控制、可编程指标 API 与模型灵活切换能力，实现零停机配置更新与团队级可观测性。
来源：Together AI · together.ai