2026-02-18Anthropic Research

实践中衡量 AI Agent 自主性

原文：Measuring AI agent autonomy in practice

导读

Anthropic 用 Claude Code 和公开 API 的真实交互数据观察 agent 自主性：用户正在让 agent 跑得更久、更独立，但有效监督并不是每一步审批，而是可见、可中断、可校准的协作。

说明：本文按 Agent Learning 的中文阅读页格式，对原文结构与关键技术细节做中文转述与解读，保留关键数字和技术含义，不做逐字镜像。

核心观点

正文

为什么要从真实使用中衡量 autonomy

能力评测能告诉我们模型在理想环境中的上限，但无法解释真实用户如何授权、监督和打断 agent。Anthropic 因此把 Claude Code 的完整会话和公开 API 的 tool calls 结合起来：前者能看完整 workflow，后者能覆盖更多行业部署。

这套研究没有试图复原每个客户的完整 agent 架构，而是从工具调用、会话时长、审批模式、interrupt、clarification 和风险分类中建立经验图景。它回答的是“agent 在现实里被允许做到什么程度”，不是“模型理论上能做到什么”。

Claude Code 正在更久地自主工作

多数 Claude Code turn 仍然很短，中位数大约 45 秒。但最有信息量的是最长尾：99.9 分位的 turn duration 在 2025 年 10 月到 2026 年 1 月之间接近翻倍，从不到 25 分钟到超过 45 分钟。

这个增长并没有紧贴模型发布形成跳变，而是比较平滑。这说明真实 autonomy 的增长不只来自模型能力，也来自用户信任、任务野心、产品效率和使用经验积累。

经验用户不是放弃监督，而是换了监督方式

Claude Code 默认要求用户批准 action。随着经验增加，用户更常打开 full auto-approve：少于 50 个 session 的新用户约 20%，到 750 个 session 的用户超过 40%。

有意思的是，interrupt rate 也随经验上升。新用户约 5% turns 会 interrupt Claude，经验用户约 9%。这不是矛盾，而是监督策略变化：新用户逐步审批，老用户让 Claude 先跑起来，在关键时刻中断和修正。

agent 自己停下来也是一种监督

文章强调 agent-initiated stops。复杂任务中，Claude Code 主动询问澄清的频率明显上升，并且比人类 interrupt 更常见。这说明模型是否知道“不确定时该问”是安全属性的一部分。

这也改变了产品设计的重心：可靠 agent 不应总是勇往直前，也不应被动等待人类发现问题。它需要在 ambiguity、偏好选择、权限边界和不可逆操作前主动交还控制权。

风险和 autonomy 的分布

公开 API 数据显示，大多数 agent actions 风险低、可逆。但风险前沿已经出现，包括安全相关动作、金融交易、医疗信息和客户服务自动化。作者提醒，某些高风险动作可能来自 eval 或 red-team，但单次错误也可能有真实后果。

当前 agentic activity 仍高度集中在软件工程，约占近 50%。这很合理：代码容易测试、回滚、review，因此更适合建立信任。但随着 agent 进入法律、医疗、金融等领域，验证成本会更高，风险边界也会移动。

建议：监控、校准和可干预

文章给 model developers、product developers 和 policymakers 的建议都围绕一件事：需要 post-deployment monitoring。预部署 eval 只能测能力，真实部署才会暴露用户如何授权、agent 如何停顿、风险如何扩散。

同时，产品不应僵硬要求“每一步都人类审批”。更好的目标是让用户处在能理解、监控和干预的位置：看得见 agent 在做什么，能在错误方向上及时打断，也能让 agent 在不确定时主动问。

深度解读

这篇文章最重要的洞见是：autonomy 不是一个开关，而是一种社会技术关系。模型能力、用户信任、权限设计、任务风险、可观测性和可回滚性共同决定 agent 实际能走多远。对工程团队来说，真正成熟的 agent 平台不会只做“更强模型 + 更多工具”，而会把 session log、权限、interrupt、clarification、telemetry 和风险分层做成基础设施。

落地启示