OpenAI首席执行官萨姆·奥特曼在接受斯坦福大学采访时指出，AI安全将成为下一阶段人工智能发展的核心议题，也是当前最具研究价值的领域之一。他以个性化AI为例，阐述了其近期对安全问题的深度思考。
AI安全的重新定义与对抗鲁棒性
针对“AI系统安全性”及“提示注入攻击”等提问，奥特曼表示，传统意义上的AI安全问题正被重新归类为可通过AI技术解决的新挑战。他鼓励相关领域的学生投身于此，并强调随着模型能力增强，若要在广泛场景中部署，安全问题将愈发严峻。
“我认为这是最值得学习的领域之一。我们很快将进入一个新时代，许多传统AI安全问题将以不同方式被重新定义。鉴于模型能力的不断提升，对抗鲁棒性问题正变得相当严峻。”
这意味着，研究人员和工程师需专注于提升AI抵御操纵、提示注入及其他类型攻击的能力，以应对日益复杂的欺骗手段。
个性化功能带来的隐私泄露风险
奥特曼特别提到，AI个性化服务在提升用户体验的同时，也构成了新的安全挑战。当高度个性化的模型连接外部服务时，恶意攻击者可能利用这一特性窃取敏感数据。
“人们喜爱模型的个性化能力及其调用外部资源的便利性，但这二者结合带来了真正的安全隐患。人类尚能判断信息分享的边界，但模型目前还无法做到这一点。例如，用户不应期望电商网站获知其私人健康状况，但要彻底解决此类隐私与可用性的冲突并保持100%鲁棒性，极具难度。”
这表明，使AI更便捷的特性也可能成为网络攻击的新入口。从个人历史中学习的模型一旦被操纵，极易导致隐私暴露，如何在保障便利性的同时确保数据安全，是当前亟待解决的难题。
AI在网络安全中的双重角色
奥特曼最后强调，AI既是安全威胁的来源，也是解决方案的关键。他指出，AI技术在防御网络攻击方面具有巨大潜力，将在未来网络安全体系中发挥双向作用。
“它的作用方向是双向的。你可以利用AI来保护系统，这在各个时期都将是应对网络攻击的重要手段。”
核心要点总结
- AI安全成为发展核心：奥特曼预测，AI安全将取代单纯的防护概念，成为人工智能领域的核心挑战与机遇。
- 个性化引发新攻击面：基于用户数据学习的AI系统日益普及，个性化功能可能被攻击者利用以提取敏感信息，带来新的隐私风险。
- AI的双重安全角色：AI既会催生新的安全威胁，也将成为检测和预防这些威胁的有力工具。
- 专业人才需求迫切：行业急需懂得如何负责任地保护、测试和部署AI的专业人员，以应对未来的安全挑战。