上个月，埃隆·马斯克宣布成立新人工智能公司 xAI，其使命为“理解宇宙的真实本质”。这凸显了回应人工智能承诺与风险等生存性关切的重要性。无论该公司旨在降低技术风险还是超越 OpenAI，其成立都引发了关于企业应如何真正回应 AI 关切的思考：
- 在基础模型公司内部，究竟是谁在审视技术的短期和长期影响？
- 他们是否具备恰当的视角和专业能力？
- 他们是否在技术考量与社会、道德及认识论问题间取得了平衡？
跨学科思维：应对 AI 挑战的关键
大学期间，我主修计算机科学和哲学。这种看似不协调的组合，在当今思考 AI 治理时已不再违和。AI 的影响关乎生存，企业需做出相称的真诚承诺。这意味着领导团队必须配备能梳理技术后果的利益相关者，其能力需超越工程师编写代码和保护 API 的自然专长。
AI 不仅是计算机或神经科学挑战，更是人类挑战。解决这一问题需要拥抱持久的“AI 思想汇聚”模式，规模堪比奥本海默在新墨西哥州组织的跨学科聚会。
对齐问题与伦理 AI 的内涵
人类欲望与 AI 意外后果的碰撞导致了“对齐问题”。正如 Brian Christian 在《对齐问题》中所描述，机器常误解指令，而作为统治者的我们，在让机器理解意图方面记录并不理想。最终，算法可能加剧偏见和虚假信息；长远来看，甚至可能出现“诡诈转向”，使文明运作失控。
伦理上的人工智能需要对存在、需求、认知及智能展开有深刻理解。这是一项分析性工作，需根植于人文学科与科学的批判性综合方法。
构建负责任的 AI 高管“梦幻团队”
不同领域的思想家需紧密合作。一家希望做好此事的公司，其核心团队应包括：
- 首席人工智能和数据伦理官：独立于 CTO，负责解决数据与 AI 的短长期问题（如伦理原则、参考架构、公民数据权利及行为协议）。作为 CEO 团队高级职位，弥合内部决策与监管间的沟通差距。数据是 AI 的前提与燃料，两者不可分割。
- 首席哲学家架构师：聚焦长期生存性关切与“对齐问题”，定义保障措施、政策、后门及紧急停止开关，确保 AI 符合人类需求。
- 首席神经科学家：研究意识关键问题、智能在模型中的展开方式、相关人类认知模型，以及 AI 对人类认知的反哺。
要将抽象概念转化为负责任的技术，还需具备全局视野的产品负责人/设计师。新一代产品领导者需穿梭于 AI 基础设施与新兴服务之间，设计“人在回路”工作流以落实保障措施；兼具文艺复兴式工程师能力，将政策转化为可运行系统；并甄别催生更智能、负责任 AI 的研究成果。
结语：迈向可信的未来
以 OpenAI 为例，尽管拥有首席科学家、全球政策负责人及总法律顾问，但若缺乏上述三个关键职位，技术影响的重大问题仍未解决。若 Sam Altman 担忧超级智能的治理，构建全方位高管阵容是良好起点。
我们必须构建一个企业成为数据可信受托者、AI 创新等同于善的未来。仅靠法务团队无法解决 AI 时代的伦理问题。唯有让视野开阔、视角多元的各方参与决策，才能在确保机器各安其位的前提下，实现服务于人类繁荣的数据与伦理 AI。