兑现承诺赠款
OpenAI 5月公告
2. 民主政策制定的集体对话
制定反映知情公众意愿的政策,利用集体对话有效地扩大民主审议规模并找到共识领域。报告地址:
https://arxiv.org/pdf/2311.02242.pdf
3. 大规模审议:社会民主对人工智能的投入
通过人工智能促进的视频通话在小组对话中实现民主审议。项目地址:
https://findcommonground.online/top-level-pages/final-report-democratic-inputs-to-ai
4. 民主微调
在聊天对话中从参与者那里引出价值观,以创建可用于微调模型的价值道德图。项目地址:
https://meaningalignment.substack.com/p/the-first-moral-graph
5. Energize AI:Aligned - 一个协调平台
制定指南,使人工智能模型与实时、大规模参与和“社区笔记”算法保持一致。项目地址:
https://energize.ai/wp-content/uploads/2023/11/openai.pdf
6. 生成性社会选择
将大量自由文本观点提炼成简明扼要的模板,使用社会选择理论的数学论证来保证公平代表。
https://procaccia.info/GenSoc_OpenAI_report.pdf
7. Inclusive.AI:让服务不足的人群参与人工智能的民主决策
使用具有去中心化治理机制(例如 DAO)的平台来促进与 AI 相关的决策过程,从而为服务不足的群体赋权。项目地址:
https://socialcomputing.web.illinois.edu/images/Report-InclusiveAI.pdf
8. 让 AI 透明化和负责任 by Rappler
通过链接的线下和线上流程,讨论和理解参与者对复杂、两极分化主题的看法。项目地址:
https://www.rappler.com/technology/features/generative-ai-use-enriching-democratic-consultations/
9.Ubuntu-AI:公平和包容的模型训练平台
将价值返还给那些帮助创造它的人,同时促进LLM发展并确保对非洲创造性工作更具包容性的知识。项目地址:
https://www.researchgate.net/publication/374870830_Interim_Report_for_Ubuntu-AI_A_Bottom-up_Approach_to_More_Democratic_and_Equitable_Training_and_Outcomes_for_Machine_Learning
10. vTaiwan和查塔姆研究所:在递归公众之间架起桥梁
使用经过调整的 vTaiwan 方法为 AI 创建一个递归的、连接的参与过程。项目地址:
OpenAI 表示各个团队提交的项目中反馈了一些主要经验:
公众舆论可能经常变化
跨越数字鸿沟仍然很困难,这可能会扭曲结果
在两极分化的群体中寻找一致性
达成共识与代表多样性
对人工智能治理未来的希望和焦虑
随着人工智能变得越来越先进和广泛使用,为了让大模型更好地与人类价值观保持一致,让公众参与决定人工智能应该如何表现至关重要,OpenAI此举无疑为推动人工智能的发展又迈出了一步。
GPT-5 遭泄露

