你是不是 Agent 的瓶颈?每月做一次人力依赖审计

本页内容

发生了什么

@mihai673 回看自己 30 天的对话,“下一步呢?”问了 60 次,其中 32 次紧接着的下一句就是“做吧”1。待处理的决定一早就堆成长长一串1;Agent 越加越多,光是管理它们就快占掉一整个工作日3。Agent 卡在登录页等验证码,等不到就自己暂停了流程4。这几个案例指向同一件事:瓶颈已经不是 Agent 够不够聪明,而是人的注意力2;代码写得再快,后面还在等需求澄清和评审,整体也快不起来5。

Hugging Face 等机构的论文把这称为“审批疲劳”:Agent 自主程度越高,人越容易随手批准、过度依赖,判断能力也会退化67。在 @anishmoonka 整理的案例里,Claude Code 在一次会话中向同一位开发者请求了 47 次权限,他每次都没看就点了同意8。

常见做法

1. 每月让 Agent 盘点一次。 一段“人力依赖审计”Prompt16 让 Agent 回顾过去一个月,列出你反复审批、反复补资料、手动转交的地方。两次实际运行的结果,都挖出了十多项可改进之处,大部分也真的改了1718。

2. 按风险分级审批。 共同原则是:可撤回、影响小的放手,涉及钱、发邮件、删除、对外发布的留给人1315。一次类似的审计发现,大半瓶颈是一再审批早已批过五次的事;改成常态授权后,解决的问题比任何 Prompt 都多19。PR 多到审不过来时,可以让 Agent 在检查通过后从几个风险维度给每个 PR 打分,低风险的自动批准,其余通知人处理;最后点合并的仍然是人23。

3. 先限制能力,再减少审批。 沙箱、收紧权限、开发与生产环境分离,能让很多操作根本不用问人。但沙箱挡得住误删文件,挡不住 Agent 拿着合法权限对生产数据库做错事,这类操作仍然要逐次审批12。

4. 让另一个 Agent 先审。 OpenAI 推出了由第二个 Agent 审查操作的 Auto-review。@thsottiaux 贴出的图表显示,10,000 个操作中有 9,280 个留在沙箱内910。

5. 只上报例外。 一封没人看的续费通知导致了退款,之后改成到期前提前提醒、平时只上报例外21。涉及钱的流程,第一步可以只做“读取、标记、准备好交给人审批”24。

共识

  • 审批按钮本身不是管控。人来不及看懂、也撤不回来,按钮就只是摆设13。
  • 审批请求要写清楚改了什么、检查了什么、哪些无法确认,否则就是走过场盖章22。
  • 常态授权要有期限、可以撤销,也要留下记录20。

分歧

  • 人该不该留在环路里? 逐步审批本身就是瓶颈,违背了用 Agent 的初衷14;但拿自动驾驶来比,平时全自动、关键时刻突然让人接管,人反而接不住14。
  • 自动审查算不算监督? 它减少的是低风险的打扰10;可同一个模型、同一份上下文审自己,算不上独立检查13。
  • 问题出在审批太多,还是任务切得太细? 这么多次审批也可以看作不是界面问题,而是任务切得太细:先规划好整件事、一次问完,就不会疲劳830。
  • 要不要逐项授权? 另一种做法是把授权放在 Agent 之外,由独立的策略层来判断,而不是靠 Prompt 约束11。

怎么做

  1. 每月固定一天运行下面的审计 Prompt。如果 Agent 记不住过往工作,就把上个月的对话记录或待办清单一起贴上。
  2. 只处理前 5 项,一次改一条,观察两周再改下一条。
  3. 先处理“每次都给同样答复”的审批,改成有期限的常态授权。
  4. 付款、发邮件、删除、公开发布一律留给自己。
  5. 下个月先检查上次开的授权该不该收回,再跑新一轮审计。

通用 Prompt

发给任何能读取你过往工作记录的 Agent 都能用:

人力依赖审计 · 25 行
人力依赖审计
请回顾我们过去〔30〕天的协作。数据来源:〔你记得的工作/我附上的对话记录或任务清单〕。
只依据实际存在的记录,记不清的地方直接说明,不要猜。

找出所有停下来、变慢,或回头等我才能继续的地方,尤其是:
1. 不用我开口你也能启动的工作
2. 你一再等我拍板的决定
3. 你反复向我要、其实可以存下来的信息
4. 我每次都给出同样答复的审批
5. 我手动在不同工具或 Agent 之间转交的工作
6. 可以改成定时或自动触发的重复检查
7. 我手动分发、其实你可以直接送达的产出
8. 我每件都要看、其实只看例外就够的工作

每一项请写明:
- 分类:留给我判断/需要教你/需要存成固定资料/可以自动化/只上报例外
- 依据:举出具体的工作或记录
- 等待:大约停下来等了我多久、多久发生一次(有记录才写,不要估算)
- 建议改法:如果要给你常态授权,写明范围、期限,以及〔30〕天后复盘
- 风险:改了之后可能出什么问题、能不能撤回

规则:
- 先不要改任何东西。从影响最大的开始列,之后我们逐条讨论。
- 付款、发邮件、删除、以我的名义公开发布,一律归入“留给我判断”。
- 以后向我申请审批时,请写明:要做什么、改了什么、你检查了什么、哪些无法确认。

〔 〕内换成你的情况

参考 @Michael_Fenech_ 的做法整理

不同工具的差异

  • 记忆:能跨对话记住工作的 Agent(例如 Grok Bot 的记忆保存偏好、角色背景和摘要,每个 Bot 相互独立27)可以直接回顾;不具备记忆的工具,需要你自己附上记录。
  • 审批机制:Claude Code 的子代理可以设置权限模式25;Grok Bot 用自己的邮箱发邮件时,每封都要审批,定时任务或其他 Bot 发起的审批请求过一阵子就会失效2628;OpenAI 的 Auto-review 由第二个 Agent 先审9。改成常态授权前,先看看你的工具能把授权设得多细。
  • 定时运行:能定时执行的工具(例如 Grok Bot 的 Routines,每次运行都会消耗用量29)可以把审计设成每月一次;不能定时的,就在日历里设提醒,手动贴上 Prompt。

参考来源

  1. @mihai673:60 次“下一步呢?”、32 次直接说好、41 个待决事项 ↩ a b
  2. @StanleyWei4748:瓶颈是人的注意力 ↩
  3. Jason M. Lemkin(LinkedIn):从 3 个 Agent 到 22 个,每天管理时间变成 8 小时 ↩
  4. Ashish Gupta(LinkedIn):Agent 等不到验证码就暂停 ↩
  5. Kelly Waters(LinkedIn):产出变快,等待没变少 ↩
  6. @rohanpaul_ai:论文《AI Agents Push Humans Out of the Loop》摘要 ↩
  7. @mmitchell_ai:论文整理的六种监督策略 ↩
  8. @anishmoonka:一次会话 47 次“允许” ↩ a b
  9. @thsottiaux:Auto-review 免费开放,10,000 个操作的分布图 ↩ a b
  10. @aakashgupta:由 guardian 子代理审查命令 ↩ a b
  11. r/AI_Agents:把授权放在 Agent 和流程代码之外 ↩
  12. @vicky_grok:沙箱与凭证隔离;评论指出合法权限的风险 ↩
  13. Junaid Ahmed(LinkedIn):五类该留人的工作;同模型互审不算独立 ↩ a b c
  14. Adrian Sanabria(LinkedIn):质疑人在环路里是瓶颈;评论中的自动驾驶比喻 ↩ a b
  15. mindforge.iq(TikTok):低风险可撤回的多自动化,高影响的留人 ↩
  16. @Michael_Fenech_:人力依赖审计原始 Prompt ↩
  17. @Kevin_Logan:找到 15 项、采纳 13 项 ↩
  18. @DisruptConcept:找到 15 项、落实 12 项,改成每 30 天跑一次 ↩
  19. @OpsDaddyAI:把重复审批改成常态授权 ↩
  20. @YoKoSuKa929:常态授权要设期限、可撤销 ↩
  21. @DanielMed_2:漏看续费通知后改成只上报例外 ↩
  22. @brandononchain:审批请求要附上检查内容 ↩
  23. How I AI(YouTube):按风险给 PR 打分,低风险自动批准(11:36 起讲流程,15:47 起讲六项风险评分) ↩
  24. r/AI_Agents:涉及钱的流程先读取、标记、等人审批 ↩
  25. Claude Code 官方文档:Subagents ↩
  26. Grok Bot 官方帮助:FAQs ↩
  27. Grok Bot 官方文档 ↩
  28. Grok Bot 官方帮助:Agent email ↩
  29. Grok Bot 官方帮助:Routines ↩
  30. @madebyoliver 回复:47 次审批说明任务切得太细 ↩