OpenAI表示，希望采纳公众关于确保未来AI模型“与人类价值观保持一致”的建议。
为此，这家AI初创公司宣布组建新的“集体对齐（Collective Alignment）”团队。该团队由研究人员和工程师组成，旨在建立一套系统，收集并将公众对模型行为的反馈“编码”至OpenAI的产品和服务中。
OpenAI在博客文章中写道：“我们将继续与外部顾问及资助团队合作，包括开展试点项目，将相关原型纳入模型引导过程。”“我们正在招募具备多样化技术背景的研究工程师，共同推进此项工作。”
集体对齐团队源于去年5月启动的OpenAI公共项目。该项目旨在通过颁发资助金支持实验，探索决定AI系统应遵循规则的“民主程序”。OpenAI当时表示，目标是资助个人、团队和组织开发概念验证方案，以解答有关AI护栏和治理的问题。
在最新博客文章中，OpenAI回顾了受助者的工作成果，涵盖从视频聊天界面到AI模型众包审计平台，以及“将信念映射为可用于微调模型行为的维度”等方法。今日上午，所有受助项目代码均已公开，同时发布的还有各提案的简要总结与核心见解。
OpenAI曾试图将该计划描绘为与其商业利益无关。但考虑到CEO Sam Altman对欧盟等地监管措施的批评，这一说法难以令人信服。Altman与总裁Greg Brockman、首席科学家Ilya Sutskever多次辩称，AI创新速度极快，现有监管机构无法充分遏制该技术发展，因此需要众筹相关工作。
包括Meta在内的竞争对手指责OpenAI等公司通过游说反对开放AI研发，企图实现对AI行业的“监管俘获”。OpenAI对此予以否认，并可能将资助计划和集体对齐团队作为其“开放性”的例证。
无论如何，OpenAI正面临政策制定者日益严格的审查。因其与亲密合作伙伴兼投资者微软的关系，该公司正接受调查。近期，OpenAI试图通过在欧盟利用都柏林子公司来降低数据隐私方面的监管风险，从而减少欧盟部分隐私监管机构单方面处理担忧的能力。
为安抚监管机构，OpenAI昨日宣布正与多家组织合作，限制其技术被用于恶意影响或操纵选举。具体措施包括使工具生成的图像更具可辨识度，并开发即便图像经修改后仍能识别生成内容的技术。