跳到正文
The Decoder AI in practice· Matthias Bastian·· 3 小时前AI 评分60

Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间降低约 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

先看结论

对长对话 API 调用,该功能减少重复传输历史带来的首 token 等待,但 token 计费不变,且线程闲置五分钟即过期。

报道讲了什么

  • Anthropic 在 Claude 平台以公开测试形式发布 Message Threads。
  • 此前每个 API 请求都要重发完整对话历史,现在只传上一条消息以来的变化。

可以做什么

  • 据 Anthropic 说法,50 万至 100 万 token 的请求首 token 时间降低约 35%。
  • 官方称编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最大。
  • 可在 Claude 平台以及 AWS、Microsoft Foundry 和 Google Cloud 上使用。

怎么使用

原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。

结果与限制

  • 线程在请求之间以加密形式保存在内存中,闲置五分钟后过期。
  • token 用量不变,因为 Claude 仍读取完整对话历史。
  • 35% 的降幅是 Anthropic 给出的说法,原文未提供独立实测。

使用入口与依据

来源:The Decoder AI in practice · the-decoder.com

事件后续

查看事件全部

正在读取事件进展…