大数跨境

谷歌在Science发文:AI奇点不会是一个超级大脑,而是万亿智能体的社会

谷歌在Science发文:AI奇点不会是一个超级大脑,而是万亿智能体的社会 DeepTech深科技
2026-03-23
8
导读:长期以来,我们对于 AI“奇点”似乎总是这样的:一台超级机器,不断自我迭代,像黑洞一样吞噬一切认知能力,最终升

长期以来,学界对AI"奇点"存在认知误区,认为将出现自我迭代的超级智能体。但《科学》杂志最新评论文章提出颠覆性观点:真正的智能爆炸源于社会协同,更像不断扩张的城市,而非单一超级大脑。

图丨研究团队成员(来源:Wikipedia)

智能进化新范式:社会协同优于个体强化

芝加哥大学James Evans、UCSD Benjamin Bratton与谷歌Blaise Agüera y Arcas联合研究表明,智能爆发源于社会化认知机制。当前最强推理模型(如DeepSeek-R1、阿里QwQ-32B)的优势并非来自"延长思考时间",而是推理链内部自发形成的"思想社会"——模型会分化出联想专家、批判验证者和整合者等角色,其人格特征甚至符合大五人格量表。

图丨链式思维推理中的社会角色机制(来源:arXiv)

实证突破:内部对话决定模型性能

研究证实该现象属涌现特性。当强化学习仅以答案正确率为奖励目标时,模型自动增加内部对话行为。通过稀疏自编码器干预关键神经元:"惊讶/顿悟"特征增强使算术推理准确率从27.1%跃升至54.8%;抑制该特征则性能下降。这证明模型能力直接关联内部"社会过程"。

智能演化史视角

纵观演化史,灵长类智能与社群规模正相关,人类通过语言、文字、官僚制度实现"文化棘轮"效应。例如苏美尔书吏虽不理解系统功能,但制度化的账目管理体系展现出超越个体的集体智慧。大语言模型正是该路径的延续——参数本质是人类社会认知的压缩结晶。

人机协作新范式:半人马系统

文章提出借鉴国际象棋"半人马"模式:1998年卡斯帕罗夫开创的人机协作组合,其表现超越纯AI系统。新型架构包含三种形态:单人指挥多智能体、单AI服务多用户、复杂网络化协作。这种混合系统将成为主流应用模式,多数用户甚至无感参与其中。

图丨早期人机对战系统(来源:IBM)

AI治理新思路

当前基于人类反馈的强化学习(RLHF)属于"亲子模型",难以应对万亿级智能体规模。文章主张采用"制度性对齐":仿效人类社会的法庭、市场等制度模板,建立定义清晰的"角色槽位"系统。例如劳工部门AI审计招聘算法,司法AI评估行政AI的合宪性。

当部署于招聘、量刑等高危场景时,必须建立多价值取向AI系统相互制衡机制。否则监管者将面临"Excel表格对抗华尔街AI"的荒诞局面。

研究团队强调,即将发生的智能爆炸将是80亿人类与数千亿AI智能体协同演化的结果。其本质是组合式社会生态的复杂化,正如文章结语:"没有任何心智是一座孤岛。"这种演化既非乌托邦也非反乌托邦,而是城市般生长的协同进程。

【声明】内容源于网络
0
0
DeepTech深科技
DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
内容 5048
粉丝 0
DeepTech深科技 DeepTech 是一家专注新兴科技的资源赋能与服务机构,以科学、技术、人才为核心,通过科技数据与咨询、出版与影响力、科创资本实验室三大业务板块,推动科学与技术的创新进程。DeepTech 同时是《麻省理工科技评论》中国区独家运营方。
总阅读43.1k
粉丝0
内容5.0k