By LIN Yuchen

2023年以来，随着ChatGPT的广泛应用，公众对先进人工智能系统潜在风险的关注显著上升。此类技术可能冲击社会规范，带来歧视延续、虚假信息传播及个人敏感数据泄露等问题。

▲ 一名参与者在2024年日内瓦“人工智能向善”全球峰会上与中国移动研发的棋类机器人对弈。（新华社）

大语言模型基于训练数据生成内容，而这些数据多来源于网络书籍或论坛，本身可能存在偏见或错误信息。由于AI缺乏人类对情感反应、社会影响和意识形态的综合判断能力，其输出可能加剧对特定群体的歧视。

此外，AI生成的虚假信息无论是否存在误导意图，均会削弱公众对信息的信任。此前GPT-2训练数据提取事件中，电话号码与电子邮件等可识别个人信息曾被公开，凸显数据安全风险。

为应对挑战，各国需建立敏捷高效的AI监管机构并提供充足资金支持。以美国为例，AI安全研究所年度预算为1000万美元，远低于食品药品监督管理局（FDA）的67亿美元预算，资源明显不足。

全球应结合本国法律体系推进立法，并加强国际合作。AI领域亟需强化风险评估机制，落实可执行监管措施，而非依赖模糊的模型评估。企业须将安全置于首位，证明其系统不会造成危害，切实承担技术安全责任。

目前，包括OpenAI、Google、Amazon、Microsoft在内的16家跨国科技公司已在AI首尔峰会上签署《前沿人工智能安全承诺》，欧盟也于同日正式通过《人工智能法案》。国际社会普遍认同，必须加快全面监管步伐，通过协同努力维护社会价值与公众信任。

END

Editor | SONG Ziyan

Supervisor| FANG Linlin