跳到正文
热点事件持续更新

Together AI发布持续编译系统Together Compiler

2 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

Together AI发布了一个名为Together Compiler的AI推理编译器,该公司称其能通过持续优化,在特定模型上实现比现有开源方案更高的吞吐量。 Together AI称,该系统在Llama 1B、MiniMax M3.1-Flash、DeepSeek v4.1-Flash等模型上测试,实现了2.6倍的每秒处理事务提升。该系统面向动态推理负载,旨在通过高吞吐智能体和持久化引擎进行持续优化。 该公司表示,Together Compiler目前以有限测试版向终端客户开放。

AI 根据报道生成 · 46 分钟前更新

事件进展

2 个进展

  1. 11月4日 08:00 · 1 篇报道
    Together Compiler: Continuous Compilation for AI inference
    Together AI:Together Compiler 发布:面向动态推理负载的持续编译系统
  2. 11月4日 08:00 · 1 篇报道
    发布Together Compiler持续编译优化功能
    Together AI:Together AI 推出 Polymorphic Inference:面向开源模型的自适应推理技术

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. Together AI精选
    Together Compiler 发布:面向动态推理负载的持续编译系统

    Together AI 发布 Together Compiler(TKCC),一个面向动态推理负载的持续优化系统,通过高吞吐智能体和持久化引擎实现2.6x TPS提升,在Llama 1B、MiniMax M3.1-Flash、DeepSeek v4.1-Flash等模型上超越现有开源方案,支持多领域通用优化。

  2. Together AI
    Together AI 推出 Polymorphic Inference:面向开源模型的自适应推理技术

    Together AI 提出 Polymorphic Inference(多态推理),一种能适应快速变化的模型架构、工作负载和硬件平台的推理方法。80% 的 OpenRouter 流量来自过去三个月发布的模型,而传统静态推理配置难以应对这种多样性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。