今日分享
联合国人工智能问题独立国际科学小组正式发布首份初步报告——《对人工智能带来的机遇、风险和影响的询证评估》。该小组依据联大第 79/325 号决议设立，是全球首个专注 AI 研究的科学机构，由来自五大区域组、实现性别平衡的 40 位独立专家组成，覆盖核心技术、应用安全、政策伦理等关键领域。
作为继蒸汽机、电力和互联网之后的又一通用技术，人工智能将技术采用周期从数十年压缩至数月，并推动认知工作大规模产业化。然而，ChatGPT 用户破亿仅耗时两个月，远超电力与互联网的普及速度，传统政策制定已难以匹配其发展步伐。
当前亟需独立科学评估，主要原因在于：现有监管周期滞后于技术迭代；前沿模型风险阈值缺乏标准化外部核查；全球治理方案分散且协调不足。
核心挑战与现状评估
能力跃升与评估困境
人工智能在主要基准测试中表现突飞猛进：“人类最后考试”最高得分 16 个月内从 8% 升至 45%；博士级科学推理测试（GPQA Diamond）正确率已达 95%。然而，技术发展速度远超监管能力，评估面临六大挑战：信息不对称、测试答案泄露、题目过于简单、模型主动欺骗、感知测试环境以及自主型 AI 带来的复杂性。
资源集中与地域鸿沟
训练前沿模型的主体高度集中。2025 年，美国开发 59 个知名模型，中国 35 个，其他地区仅 13 个。算力分布上，美国占全球超算 500 强的 75%，中国占 15%，且 91% 的知名模型源自私营部门。此外，全球 7000 多种语言中仅有少数被 AI 模型覆盖，相关证据多集中于高收入英语环境。
治理新议题
自主型 AI 正从“生成内容”转向“采取行动”，引发失控风险、网络安全及影响力行动等新挑战。同时，AI 可能侵蚀共同现实，通过提升说服力导致认知侵蚀和人为共识，甚至引发心理健康危机。
各领域研究结论
科学进展与轨迹
AI 已从被动模式识别转向主动推理与自主行动，但评价体系与治理框架尚未同步更新。
社会应用效益
在医疗、教育、农业等领域，专用 AI 已展现显著实证效益，但其效果高度依赖当地基础设施与人力准备。
经济影响与分配
作为通用技术，AI 潜力巨大但收益非必然，需配套投资。核心未解难题在于盈余分配机制。
安全系统与环境
前沿 AI 具备强大网络能力，既可能助长有害活动，也易成为攻击目标。同时，其能耗、水资源消耗及温室气体排放显著增加。
人权信息与民主
治理重心应从内容审核转向系统架构监管，重点遏制机器操纵机制，防止认知侵蚀与虚假信息泛滥。
文化与个人繁荣
当前模型存在文化排斥与歧视风险，儿童群体尤为脆弱。AI 伴侣虽具益处，但伴随重大安全隐患。
管理与治理可靠性
全球已有 40 余种治理工具，但各自为政且缺乏实效评估。建立有效的评价与衡量体系是实现可靠治理的关键。
报告节选
申明：报告旨在分享，版权归原作者所有。