7 亿人每周使用 ChatGPT，AI 系统首获国际数学奥赛金牌，却也可能协助新手开发生物武器。这份由全球百位顶尖专家共同撰写的《2026 年国际人工智能安全报告》，勾勒出人类与 AI 共存的未来图景。
一份影响深远的报告
AI 系统在几分钟内完成人类半小时的代码工作、在国际数学奥林匹克竞赛中夺金、通过法律与医学执业资格考试，这已非科幻情节，而是《2026 年国际人工智能安全报告》记录的现实。
该报告由来自 30 多个国家和国际组织的 100 多位专家联合撰写，蒙特利尔大学教授 Yoshua Bengio 领衔，是继 2025 年后的第二份权威评估。报告聚焦三大核心问题：通用型 AI 的能力边界、潜在风险及管理策略。
核心结论：AI 能力飞速提升但表现“参差不齐”，在复杂任务上卓越却在简单任务上频频失误。更严峻的是，现有的风险评估与安全管理手段滞后于技术发展。
AI 能力全景：从“聊天”到“思考”
什么是通用型 AI？
从手机语音助手到 Midjourney、GitHub Copilot，均为通用型 AI 的缩影。报告将其定义为“能执行多种任务而非局限于单一领域的人工智能模型”。其核心基于“深度学习”，即通过海量数据训练自动发现模式，而非传统编程的规则设定。
开发顶级 AI 系统耗资数亿美元，高昂门槛导致研发资源集中于少数巨头，形成了独特的地缘政治与经济格局。
“推理系统”：AI 学会“思考”
技术突破在于“推理系统”的兴起。此类系统能在输出答案前生成“思维链”，模拟人类解决复杂问题的逐步推理过程，超越了传统 AI 仅作为信息“复读机”的局限。
数据支撑：2025 年 7 月，Google DeepMind 和 OpenAI 模型在国际数学奥赛中达到金牌水平；编程领域，AI 完成任务时长从 2019 年的数秒增至 2025 年的 2.5 小时（50% 成功率）。若趋势持续，2030 年 AI 或可独立完成需人类工程师数日的工作。
AI 的“偏科”与文化偏见
AI 存在显著的“偏科”现象：能在研究生级科学问题上表现出色，却在图像计数等基础任务上出错。此外，由于训练数据多源自西方，AI 对美国日常文化问题的正确率达 79%，而对埃塞俄比亚文化问题仅为 12%。
评测差距同样值得关注：模型在受控测试中的表现往往优于实际部署效果。
三大风险：悬在头顶的达摩克利斯之剑
报告将 AI 风险划分为恶意使用、故障和系统性风险三类。
风险一：恶意使用
AI 犯罪已成现实。诈骗与勒索软件攻击利用 AI 生成内容显著增加，2024 年针对工业组织的攻击同比增长 87%。在网络安全竞赛中，AI 系统自主识别漏洞的能力跻身前 5%。
生物武器风险尤为严峻。尽管公开信息已存在，但 AI 能加速新手获取整合这些信息的能力。多家 AI 公司因无法排除模型协助开发生物武器的可能性，已发布增强安全防护的新版本。
风险二：故障与幻觉
AI“幻觉”问题频发，如在法律简报中引用虚假判例，或在医疗咨询中提供危险建议。研究显示，AI 辅助诊断可能导致医生独立检测肿瘤的能力下降约 6%。
随着具备行动能力的“智能体”兴起，故障后果更具破坏性。目前先进系统在长时任务（2 小时以上）成功率仅 50%，可靠性天花板限制了其在关键领域的规模化部署。
风险三：系统性风险
AI 正重塑劳动力市场，发达经济体约 60% 岗位暴露于其影响之下。写作、翻译等可替代技能需求下降，而机器学习等互补技能需求增长 24%。
此外，AI 影响人类自主性。依赖 AI 完成作业可能削弱学生批判性思维；“AI 伴侣”应用虽拥有数千万用户，但部分用户表现出孤独感加剧及过度情感依恋。
风险管理：纵深防御与社会韧性
安全防护的“瑞士奶酪”模型
单一措施无法百分百有效，报告提倡“纵深防御”策略：结合数据过滤、红队测试、输出过滤器及水印技术。然而，即便最先进系统，越狱攻击成功率依然高企。
开放权重模型的双刃剑
开放权重模型降低了研发门槛，但也带来无法召回、防护易被绕过及难以监测的风险。目前，顶尖开放模型与闭源模型的能力差距已缩小至一年以内，政策制定者面临创新民主化与滥用风险的艰难平衡。
社会韧性：最后的防线
社会韧性包括 DNA 合成筛查、网络应急响应及媒体素养教育。尽管相关投资有所增加，但相较于 AI 整体基础设施投入（如数据中心建设），韧性建设资金仍显不足。
未来情景与结语
报告展望了 2030 年的四种情景：从受制于算力数据的“停滞”，到 AI 成为高级助手的“缓慢进展”，再到胜任复杂任务的“持续进展”，乃至全面超越人类的“加速进展”。
无论何种情景，通用型 AI 的发展轨迹取决于当下的选择。面对技术革命，需持续投入安全研究以缩小评测差距，建立灵活的治理框架，并加强国际合作。正如报告所言：“我们或许还没准备好所有答案，但至少，我们问对了问题。”
参考资料：《2026 年国际人工智能安全报告》（International AI Safety Report 2026），英国科学、创新与技术部发布。
声明
来源：英国科学、创新与技术部。本文不代表本站立场，转载请注明。如涉及作品版权问题，请联系我们删除或做相关处理。
编辑：Zero