你是不是 Agent 的瓶颈?每月做一次人力依赖审计
本页内容
发生了什么
@mihai673 回看自己 30 天的对话,“下一步呢?”问了 60 次,其中 32 次紧接着的下一句就是“做吧”1。待处理的决定一早就堆成长长一串1;Agent 越加越多,光是管理它们就快占掉一整个工作日3。Agent 卡在登录页等验证码,等不到就自己暂停了流程4。这几个案例指向同一件事:瓶颈已经不是 Agent 够不够聪明,而是人的注意力2;代码写得再快,后面还在等需求澄清和评审,整体也快不起来5。
Hugging Face 等机构的论文把这称为“审批疲劳”:Agent 自主程度越高,人越容易随手批准、过度依赖,判断能力也会退化67。在 @anishmoonka 整理的案例里,Claude Code 在一次会话中向同一位开发者请求了 47 次权限,他每次都没看就点了同意8。
常见做法
1. 每月让 Agent 盘点一次。 一段“人力依赖审计”Prompt16 让 Agent 回顾过去一个月,列出你反复审批、反复补资料、手动转交的地方。两次实际运行的结果,都挖出了十多项可改进之处,大部分也真的改了1718。
2. 按风险分级审批。 共同原则是:可撤回、影响小的放手,涉及钱、发邮件、删除、对外发布的留给人1315。一次类似的审计发现,大半瓶颈是一再审批早已批过五次的事;改成常态授权后,解决的问题比任何 Prompt 都多19。PR 多到审不过来时,可以让 Agent 在检查通过后从几个风险维度给每个 PR 打分,低风险的自动批准,其余通知人处理;最后点合并的仍然是人23。
3. 先限制能力,再减少审批。 沙箱、收紧权限、开发与生产环境分离,能让很多操作根本不用问人。但沙箱挡得住误删文件,挡不住 Agent 拿着合法权限对生产数据库做错事,这类操作仍然要逐次审批12。
4. 让另一个 Agent 先审。 OpenAI 推出了由第二个 Agent 审查操作的 Auto-review。@thsottiaux 贴出的图表显示,10,000 个操作中有 9,280 个留在沙箱内910。
5. 只上报例外。 一封没人看的续费通知导致了退款,之后改成到期前提前提醒、平时只上报例外21。涉及钱的流程,第一步可以只做“读取、标记、准备好交给人审批”24。
共识
分歧
- 人该不该留在环路里? 逐步审批本身就是瓶颈,违背了用 Agent 的初衷14;但拿自动驾驶来比,平时全自动、关键时刻突然让人接管,人反而接不住14。
- 自动审查算不算监督? 它减少的是低风险的打扰10;可同一个模型、同一份上下文审自己,算不上独立检查13。
- 问题出在审批太多,还是任务切得太细? 这么多次审批也可以看作不是界面问题,而是任务切得太细:先规划好整件事、一次问完,就不会疲劳830。
- 要不要逐项授权? 另一种做法是把授权放在 Agent 之外,由独立的策略层来判断,而不是靠 Prompt 约束11。
怎么做
- 每月固定一天运行下面的审计 Prompt。如果 Agent 记不住过往工作,就把上个月的对话记录或待办清单一起贴上。
- 只处理前 5 项,一次改一条,观察两周再改下一条。
- 先处理“每次都给同样答复”的审批,改成有期限的常态授权。
- 付款、发邮件、删除、公开发布一律留给自己。
- 下个月先检查上次开的授权该不该收回,再跑新一轮审计。
通用 Prompt
发给任何能读取你过往工作记录的 Agent 都能用:
人力依赖审计
请回顾我们过去〔30〕天的协作。数据来源:〔你记得的工作/我附上的对话记录或任务清单〕。
只依据实际存在的记录,记不清的地方直接说明,不要猜。
找出所有停下来、变慢,或回头等我才能继续的地方,尤其是:
1. 不用我开口你也能启动的工作
2. 你一再等我拍板的决定
3. 你反复向我要、其实可以存下来的信息
4. 我每次都给出同样答复的审批
5. 我手动在不同工具或 Agent 之间转交的工作
6. 可以改成定时或自动触发的重复检查
7. 我手动分发、其实你可以直接送达的产出
8. 我每件都要看、其实只看例外就够的工作
每一项请写明:
- 分类:留给我判断/需要教你/需要存成固定资料/可以自动化/只上报例外
- 依据:举出具体的工作或记录
- 等待:大约停下来等了我多久、多久发生一次(有记录才写,不要估算)
- 建议改法:如果要给你常态授权,写明范围、期限,以及〔30〕天后复盘
- 风险:改了之后可能出什么问题、能不能撤回
规则:
- 先不要改任何东西。从影响最大的开始列,之后我们逐条讨论。
- 付款、发邮件、删除、以我的名义公开发布,一律归入“留给我判断”。
- 以后向我申请审批时,请写明:要做什么、改了什么、你检查了什么、哪些无法确认。
〔 〕内换成你的情况
参考 @Michael_Fenech_ 的做法整理
不同工具的差异
- 记忆:能跨对话记住工作的 Agent(例如 Grok Bot 的记忆保存偏好、角色背景和摘要,每个 Bot 相互独立27)可以直接回顾;不具备记忆的工具,需要你自己附上记录。
- 审批机制:Claude Code 的子代理可以设置权限模式25;Grok Bot 用自己的邮箱发邮件时,每封都要审批,定时任务或其他 Bot 发起的审批请求过一阵子就会失效2628;OpenAI 的 Auto-review 由第二个 Agent 先审9。改成常态授权前,先看看你的工具能把授权设得多细。
- 定时运行:能定时执行的工具(例如 Grok Bot 的 Routines,每次运行都会消耗用量29)可以把审计设成每月一次;不能定时的,就在日历里设提醒,手动贴上 Prompt。
参考来源
- @mihai673:60 次“下一步呢?”、32 次直接说好、41 个待决事项 ↩ a b
- @StanleyWei4748:瓶颈是人的注意力 ↩
- Jason M. Lemkin(LinkedIn):从 3 个 Agent 到 22 个,每天管理时间变成 8 小时 ↩
- Ashish Gupta(LinkedIn):Agent 等不到验证码就暂停 ↩
- Kelly Waters(LinkedIn):产出变快,等待没变少 ↩
- @rohanpaul_ai:论文《AI Agents Push Humans Out of the Loop》摘要 ↩
- @mmitchell_ai:论文整理的六种监督策略 ↩
- @anishmoonka:一次会话 47 次“允许” ↩ a b
- @thsottiaux:Auto-review 免费开放,10,000 个操作的分布图 ↩ a b
- @aakashgupta:由 guardian 子代理审查命令 ↩ a b
- r/AI_Agents:把授权放在 Agent 和流程代码之外 ↩
- @vicky_grok:沙箱与凭证隔离;评论指出合法权限的风险 ↩
- Junaid Ahmed(LinkedIn):五类该留人的工作;同模型互审不算独立 ↩ a b c
- Adrian Sanabria(LinkedIn):质疑人在环路里是瓶颈;评论中的自动驾驶比喻 ↩ a b
- mindforge.iq(TikTok):低风险可撤回的多自动化,高影响的留人 ↩
- @Michael_Fenech_:人力依赖审计原始 Prompt ↩
- @Kevin_Logan:找到 15 项、采纳 13 项 ↩
- @DisruptConcept:找到 15 项、落实 12 项,改成每 30 天跑一次 ↩
- @OpsDaddyAI:把重复审批改成常态授权 ↩
- @YoKoSuKa929:常态授权要设期限、可撤销 ↩
- @DanielMed_2:漏看续费通知后改成只上报例外 ↩
- @brandononchain:审批请求要附上检查内容 ↩
- How I AI(YouTube):按风险给 PR 打分,低风险自动批准(11:36 起讲流程,15:47 起讲六项风险评分) ↩
- r/AI_Agents:涉及钱的流程先读取、标记、等人审批 ↩
- Claude Code 官方文档:Subagents ↩
- Grok Bot 官方帮助:FAQs ↩
- Grok Bot 官方文档 ↩
- Grok Bot 官方帮助:Agent email ↩
- Grok Bot 官方帮助:Routines ↩
- @madebyoliver 回复:47 次审批说明任务切得太细 ↩