跳到正文
Together AI·· 17 小时前AI 评分39

Together AI 推出 Polymorphic Inference:面向开源模型的自适应推理技术

Polymorphic Inference: self-tuning inference for open models

AI 导读

Together AI 提出 Polymorphic Inference(多态推理),一种能适应快速变化的模型架构、工作负载和硬件平台的推理方法。80% 的 OpenRouter 流量来自过去三个月发布的模型,而传统静态推理配置难以应对这种多样性。

来源:Together AI · together.ai