Together AI·· 17 小时前AI 评分39
Together AI 推出 Polymorphic Inference:面向开源模型的自适应推理技术
Polymorphic Inference: self-tuning inference for open models
AI 导读
Together AI 提出 Polymorphic Inference(多态推理),一种能适应快速变化的模型架构、工作负载和硬件平台的推理方法。80% 的 OpenRouter 流量来自过去三个月发布的模型,而传统静态推理配置难以应对这种多样性。
来源:Together AI · together.ai