Tom's Hardware· Shane Downing ·· 2 天前AI 评分48
AI 智能体使用量是人类的 5 倍,缓存提示词占比超 85%
AI agents use 5x more tokens than humans as cached prompts explode, headed for 10x
AI 导读
AI 智能体在 OpenRouter 平台的 token 使用量是人类的 5 倍,预计将增长至 10 倍。超过 85% 的智能体 token 来自缓存提示词,而非新生成内容。该数据表明,智能体的 token 数量可能高估了实际成本,但对高带宽内存(HBM)的需求正在上升。
来源:Tom's Hardware · tomshardware.com