跳到正文
The Decoder· Matthias Bastian·· 2 小时前精选AI 评分58

Anthropic 推出 Message Threads 功能,长对话首 token 延迟降低 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

AI 导读

Anthropic 在 Claude 平台推出 Message Threads 公测版,通过仅传输对话变更部分,将 50 万至 100 万 token 长对话的首 token 延迟降低约 35%。

推荐理由

原文说明了新功能对长对话延迟的优化幅度和适用场景,读者可据此评估其对高负载工作流的实际价值。

来源:The Decoder · the-decoder.com