资讯摘要

Anthropic 在 Claude Platform 推出 message threads 公测,智能体每轮只需发送新增消息而无需重发全部对话历史,从而缩短首 token 时间。

精选理由 · AIHOT

原文给出了 500k 至 1M token 请求下 TTFT 中位数下降约 35% 的数据,以及线程生命周期和接入方式,便于评估长会话智能体的延迟收益。

来源与原文

摘要和精选理由由 AIHOT 提供。原始来源:Claude:Blog(网页)。

阅读原始报道 · 查看 AIHOT 条目