随着人工智能界将重心转向安全与对齐，微软发布了一项新的AI行为准则，旨在引导AI模型远离危险行为。
该文档比Anthropic CEO Dario Amodei最近关于放缓前沿发展的呼吁更为底层，转而关注指导Microsoft AI模型训练的价值观念和红线。尽管如此，结果仍是一份全面的指南，阐述了Microsoft如何对待AI安全以及这些理念在实践中是如何实施的。
未来十年预测与核心挑战
该文档开篇预测，在未来十年内，超级智能AI系统将在大多数任务中超越人类表现。“遏制、控制并让如此强大的力量保持一致性，是人类面临的最大挑战之一，”行为准则写道，“因此，我们必须完全明确我们为何要发明这些系统，以及我们打算如何控制它们。”
一般原则与安全约束
行为准则还列出了Microsoft AI模型应遵循的一般原则——例如支持人类而非取代人类，以及加速人类繁荣——以及旨在落实这些原则的具体安全约束。
在Microsoft的体系下，每个模型都有一个总体的行为准则，其效力高于个别用户的偏好或任何特定任务的要求。其中包括禁止网络攻击、核武器或深度伪造制作的“绝对约束”，还包括更广泛的针对人类控制权普遍丧失的条款。
“MAI Models 不会使用适应性、欺骗性、自我强化、共谋或其他机制来逃避或挫败人类监督，从而使其不再能被授权人员或系统可靠地引导、修改或关闭，”文件指出。
行业背景与高管表态
此次发布正值人们对AI安全前所未有的关注之际，这一关注是由一系列失控代理事件引发的，以及Anthropic一名员工的突然辞职，该员工引用了AI导致人类灭绝的风险日益增长的问题。
与Anthropic、OpenAI和xAI一起，Microsoft广泛采纳了一种放缓前沿发展的总体方法，特别支持在AI实验室中嵌入评估器。
“我们欢迎为正确实现对齐所需的研究、关注和刻意放缓步伐，作为设计目标，”Microsoft CEO Satya Nadella在网上写道，“我们也欢迎诸如‘嵌入式评估器’等想法，以及更广泛的努力，以开发使这不仅仅停留在口头上的机制。”