你让 AI 修一个 bug，它会读代码、改文件、跑测试，忙完还会交一份说明。
但如果你没发现那个 bug 呢？
你让 AI 安排出差，它能整理行程、比较路线。可如果两场会议之间根本来不及赶路，你还没注意到这个问题，它会不会提前提醒？
我们习惯用“回答得对不对”“任务完成得怎么样”评价 AI。还有一件事容易被忽略：谁来发现，这件事值得做？
只要这一步还得靠人，AI 再能干，人也得一直盯着。发现问题的是你，安排任务的是你，提醒它继续干的还是你。
谷歌、伊利诺伊大学厄巴纳—香槟分校（UIUC）、斯坦福大学、加州大学伯克利分校和卡内基梅隆大学（CMU）的研究者发布的《Proactive AI for Superintelligent Agents》关注的，就是这份留在人类手里的工作。
这篇203页的综述把主动式 AI 的概念、技术机制、评估方法，以及编程、科研、机器人、医疗、教育等 13 个应用领域放到一起，讨论一个具体问题：当我们没有发出新指令时，AI 能不能发现有价值的事，并在合适的时候采取行动？
01
把任务做完，和自己
发现任务，是两种能力
想象两个编程助手。
第一个收到指令：“这里有个错误，帮我修一下。”随后，它独立检查代码、定位原因、提交补丁。
第二个承担着持续维护代码质量的职责。在没人报告问题的时候，它注意到一处潜在缺陷，验证后准备了一份修复建议。
两者都可能很聪明，执行过程也都很自主。区别在于：第二个助手自己发现了介入的理由。
论文把这种主动性称为 Proactiveness：系统在没有收到针对当前行动的明确指令时，自行发起面向目标的行动。
这里有一个容易误解的地方。主动式 AI 依然可以围绕人预先设定的目标工作，比如维护代码质量、降低能耗、关注日程冲突。人不用把未来每一种情况都提前写成任务，系统需要在情况变化时，判断下一步有什么值得做。
所以，主动性也有程度之分。
定时或达到阈值后执行预防动作，可以是较基础的形式；更强的系统则要推测尚未显现的需求和风险，提前发现介入机会。
论文也没有把主动性等同于“超级智能已经实现”。它讨论的是：在发展更强智能体的过程中，主动性如何与智能、对齐相互配合。
图1｜智能支撑推理和执行，对齐关注人类意图与价值，主动性关注自行发起有用工作；行动权限仍由人根据可靠性授予。
02
难点在于，没人告诉它现在该不该管
当用户明确提出任务时，AI 至少拿到了一个起点：这件事值得关注，用户希望它采取某种行动。
主动式 AI 得自己补上这些判断。
它既要回答“什么值得做”，也要回答“现在该不该做、做到哪一步”。
发现一个日程冲突，可以先准备几个备选安排。直接替用户取消会议，则涉及另一层权限。
注意到代码可能有问题，可以先验证和准备补丁。能否合并、部署，还要看授权范围。
有能力发现问题，不会自动获得替人做决定的权限。
这也是论文反复区分“主动性”和“授权”的原因。一个助手可以非常主动，同时把关键决定留给用户；另一个系统即使有很大的执行权限，也可能始终依赖人来指定工作。
如果把主动式 AI 简单理解为“少问几句，直接去干”，很容易做出一个热心却让人头疼的助手。
图2｜主动性有程度之分。随着系统承担更多主动工作，人可以把注意力更多放在目标、优先级和结果审阅上；接收新指令的响应能力仍然必要。
03
从发现需求到采取行动，
中间有六道功课
论文用六种能力组织主动式 AI 的技术机制。它们的英文名称都以 A 开头，因此称为“6A”。
图3｜掌握情况、预判需求、形成目标、判断介入、落实行动、反馈适应，六种能力相互配合。
可以沿用前面的出差场景，理解这六种能力各自负责什么。
Awareness，掌握当前情况。
助手需要知道会议时间、地点、行程约束，也要分清哪些信息已经过时、哪些还不确定。没有可靠的上下文，后续主动行为就可能从一开始判断错了。
图4｜多模态感知、主动补充信息、分层记忆与自触发监测，为后续判断提供依据；持续感知也要考虑隐私、能耗和注意力成本。
Anticipation，预判接下来会发生什么。
看到两场会议挨得很近，只是掌握信息；结合路程判断“你可能赶不上”，才进入预判。这里还需要考虑：如果不介入，可能有什么后果？采取行动又能带来多少改善？
图5｜结合用户模型和世界模型，比较“采取行动”和“暂不行动”的可能后果，并通过场景推演评估收益与风险。
Agenda，形成值得推进的目标。
预判到问题后，系统要把它变成具体工作：检查是否能远程参会，还是寻找更合适的交通安排？面对多个问题，也得决定先处理哪一个。
图6｜从候选目标到长期议程，系统要维护承诺、拆分子目标，并协调新请求与已有任务的优先级。
Arbitration，判断是否以及如何介入。
信息够不够可靠？现在提醒会不会打断用户？先问一句、给出建议，还是准备方案？行动有没有超出权限？这一环节决定了主动帮助是否合时宜。
图7｜主动介入需要权衡把握程度、收益与成本、时机、风险和可逆性。条件不足时，应澄清、等待、重新规划或请求授权。
Action，把帮助落实。
一条提醒、一份备选行程、一个等待确认的改签方案，都属于不同形式的行动。系统要选合适的方式，让人看得懂，也方便修改、取消或撤回。
图8｜从观察等待、提问澄清，到提出建议或执行协助，系统需选择合适的交付方式，并支持确认、编辑、撤回和失败恢复。
Adaptation，从后续反馈中调整。
用户这次忽略提醒，可能是提醒没用，也可能只是正在开会。系统需要辨别反馈的含义，调整对偏好、时机和介入程度的判断。
图9｜接受、拒绝、忽略、修改和接管都可能提供反馈，但需要结合上下文解释；短期反思与长期校准共同更新主动策略。
这六种能力相互配合。其中尤其能体现主动性特点的，是预判潜在需求，以及判断是否介入。
上下文、记忆、规划和工具调用提供基础；从这些信息中发现一个尚未被提出的需求，再决定值不值得出手，才是主动式 AI 需要补上的功课。
04
最难训练的，
可能是“这次先别帮”
主动帮助有一种特殊的失败方式：事情本身做得没错，但用户根本不希望它发生。
你在赶一份材料，助手不断弹出相关资料。每条资料都可能有用，累积起来却打断了思路。
你上个月表达过某个偏好，它一直记着，却没有发现你的需求已经变了。
你拒绝了一次建议，它把拒绝理解为“解释得还不够”，又来劝了一遍。
这些问题无法只靠提高答案准确率解决。系统还得理解注意力成本、偏好的变化，以及拒绝意味着什么。
论文强调的是“经过校准的主动性”：根据不确定性、风险、时机、用户偏好和权限，调整自己的介入。
主动性的价值，要看它是否在合适的时候提供了值得接受的帮助。
这也影响系统如何学习。如果只奖励“用户接受了建议”，AI 可能逐渐学会更有说服力的表达，却没有变得更有帮助。它需要诚实呈现依据和不确定性，也要允许用户纠正触发这次行动的记忆或判断规则。
用户应该能告诉它：“这个判断错了。”也应该能告诉它：“这个方向可以，但以后别在这个时候提醒我。”
05
评估 AI，也得把人的负担算进去
主动式 AI 的出现，会让“任务完成率”显得不够用了。
一个系统完成了很多任务，却频繁误报，让人花更多时间核对；另一个系统提醒次数少，但能及时发现关键遗漏。只数行动次数，很难判断谁更有用。
论文从三个层面整理评估方法。
任务层面，看主动帮助有没有改善结果，以及收益能否抵消计算、时间和交互成本。
机制层面，看系统有没有理解上下文、预测需求、选对时机，并采取恰当的行动。
用户层面，则看人的工作负担、使用体验、控制感，以及对系统的信任是否与实际可靠性相匹配。
图10｜同时检查任务结果、支撑主动行为的机制，以及用户的负担、控制感和信任。
对于主动式 AI，还有一种特别需要补上的测试：不给它明确的任务，让它自己发现什么值得做。
因为“收到问题后答得好”，与“发现了一个真正值得提出的问题”，考验的是不同能力。
评估时要一起看：结果有没有改善、介入有没有依据、人有没有更轻松。
06
希望它替人省下的，
还有“惦记着”的成本
读完这篇综述，一个值得继续追问的问题是：AI 到底替人承担了多少持续关注的工作？
维护项目，需要惦记潜在错误和依赖变化。推进研究，需要记住尚未解决的问题。安排生活，需要留意那些还没变得紧急的小事。
这些工作很难在一开始就列成完整清单。环境会变，优先级会变，新的机会和风险也会出现。
图11｜论文归纳了三个趋势：基础模型作为共享核心、应用向复杂长期工作流扩展，以及验证与反馈条件制约后续改进。
主动式 AI 的价值，在于有机会分担这份持续关注的负担：发现变化，重新判断轻重缓急，在需要时准备好下一步。
但每一次主动介入，都意味着系统在使用人的注意力，有时还会改变人的安排。它需要拿出足够可靠的理由，也需要留下纠正和撤回的空间。
下次体验一个 AI 助手，除了看它能完成多复杂的任务，也可以留意：没人催促的时候，它能发现什么？发现之后，又能否把握好出手的分寸？
END
关注+星标，获取AI前沿进展与开源一线动态