近年来，人工智能技术发展迅猛。然而，在技术备受追捧的同时，正确且适时的监管至关重要。若缺乏有效管控，AI尤其在涉及人类生活的领域可能做出错误决策，产生严重影响。
OpenAI管理层呼吁国际监管
OpenAI核心管理层Sam Altman、Greg Brockman、Ilya Sutskever在博客文章中主张，应由国际机构统一监管该技术。
三人指出，未来十年内大多数AI系统将超越专家技能水平，生产力堪比当今最大公司。“超级智能”的潜在影响力远超以往任何技术，因此必须降低当前风险。
对此，OpenAI管理层提出了以下建议路径：
首先，为确保超级智能安全发展并与人类社会无缝融合，需在领先开发团队间进行协调。具体途径包括：由各国政府创建联合项目整合现有努力；或共同限制前沿AI能力的年增长率。此外，必须对企业施加极高的负责任行为标准。
建立类似IAEA的国际监管机构
其次，建议设立类似国际原子能机构（IAEA）的国际权威组织。该机构应对超过特定能力阈值的AI项目进行系统监管，包括要求审计、测试安全标准合规性，以及对部署级别和安全等级施加限制。
实施步骤上，第一步可由企业自愿落实相关要素，第二步再由各国单独推行。关键在于，此类机构应专注于降低“存在性风险”，而将内容界定等事务留给各国自行决定。
第三点强调，实现超级智能安全仍需持续的技术能力建设。
监管范围与公众监督
OpenAI认为，应允许企业和开源项目在重要阈值之下自由开发模型。当前系统的风险水平与其他互联网技术相当，但其创造的价值巨大；真正令人担忧的是拥有超越现有技术力量的系统。
此外，不仅最强系统的治理需要强有力的公众监督，其部署决策也应通过民主方式确定边界和默认设置。尽管目前尚不清楚具体实现路径，但这仍是必要方向。
为何这很重要？
OpenAI的倡导具有深远意义。只有确保AI技术的伦理合规与有效监管，它才能成为改善人类生活的工具。反之，缺乏管控将带来严重的社会风险。这份文件实际上为AI的未来治理描绘了一条关键路线图。