Anthropic 推出消息线程功能，降低长会话延迟
Anthropic 在 Claude 平台公开测试版推出 message threads 功能，长会话中每轮只需发送新增内容，无需重传全部对话历史。对 50 万至 100 万 token 的请求，中位首 token 延迟约降低 35%，适合长时间运行的编码和计算机使用类智能体。
要点速览
- 01Claude 平台公开测试版上线 message threads，通过 thread 参数使用
- 0250 万至 100 万 token 请求的中位首 token 延迟降低约 35%
- 03线程在内存中加密保存，5 分钟无请求后过期，需重传完整对话
- 04token 计费不变，按标准费率和现有速率限制执行
- 05已在 Claude 平台及 AWS、微软 Foundry、谷歌云版本可用
背景
编码智能体一次会话可能发出数百个请求，每轮重传全部历史消息会显著增加响应前的等待时间，该功能旨在优化这一瓶颈。
影响
对开发长时运行智能体的开发者最有用，尤其是编码、计算机操作和文档图像密集型场景，可明显降低响应延迟。
原文来自 Claude 官方博客，版权归原作者所有。中文标题和摘要由 AI 根据原文自动生成，可能有误，请以原文为准。