大数跨境
0
0

GPT-5 实锤!OpenAI 兑现承诺发钱--揭秘受资助的10个团队!

GPT-5 实锤!OpenAI 兑现承诺发钱--揭秘受资助的10个团队! 软积木
2024-01-17
2
导读:今日凌晨,OpenAI 官方博客发文表示资助了来自世界各地的 10 个团队来设计想法和工具,以共同治理 AI,并呼吁研究人员和工程师加入继续这项工作。
今日凌晨,OpenAI 官方博客发文表示资助了来自世界各地的 10 个团队,这些团队设计想法和工具以共同治理 AI,OpenAI 呼吁更多研究人员和工程师继续加入这项工作。

兑现承诺赠款

今年 5 月,OpenAI 在官网宣布了 Democratic Inputs to AI 资助计划。计划遴选10个团队授予 10 笔 100,000 美元的赠款,以资助在法律规定的范围内建立民主程序以决定 AI 系统应遵循哪些规则的实验。
OpenAI  5月公告
有着不同的背景和方法: 本次 被选中 的团队有 来自 12 个不同国家的成员,他们的专业知识涵盖各个领域,包括法律、新闻 、和平建设、机器学习和社会科学研究。
这些项目涵盖不同方面: 例如新颖的视频审议界面、人工智能模型众包审计平台、表示保证的数学公式,以及将信念映射到可用于微调模型行为的维度的方法。
值得注意的是,在几乎所有项目中,人工智能本身都以定制聊天界面、语音到文本转录、数据合成等形式作为流程的一部分发挥了有用的作用。
OpenAI 分享了这10个团队为该资助计划创建的代码,并简要总结了10个团队中每个团队所完成的工作:
1. 人工智能政策判例法
团队围绕 AI 交互场景创建一个强大的案例库,该案例库可用于通过让专家、非专业人士和关键利益相关者民主参与的流程做出受判例法启发的判断。报告地址:
https://social.cs.washington.edu/case-law-ai-policy/

2. 民主政策制定的集体对话


制定反映知情公众意愿的政策,利用集体对话有效地扩大民主审议规模并找到共识领域。报告地址:


https://arxiv.org/pdf/2311.02242.pdf


3. 大规模审议:社会民主对人工智能的投入


通过人工智能促进的视频通话在小组对话中实现民主审议。项目地址:


https://findcommonground.online/top-level-pages/final-report-democratic-inputs-to-ai


4. 民主微调


在聊天对话中从参与者那里引出价值观,以创建可用于微调模型的价值道德图。项目地址:


https://meaningalignment.substack.com/p/the-first-moral-graph


5. Energize AI:Aligned - 一个协调平台


制定指南,使人工智能模型与实时、大规模参与和“社区笔记”算法保持一致。项目地址:


https://energize.ai/wp-content/uploads/2023/11/openai.pdf


6. 生成性社会选择


将大量自由文本观点提炼成简明扼要的模板,使用社会选择理论的数学论证来保证公平代表。


https://procaccia.info/GenSoc_OpenAI_report.pdf


7. Inclusive.AI:让服务不足的人群参与人工智能的民主决策


使用具有去中心化治理机制(例如 DAO)的平台来促进与 AI 相关的决策过程,从而为服务不足的群体赋权。项目地址:


https://socialcomputing.web.illinois.edu/images/Report-InclusiveAI.pdf


8. 让 AI 透明化和负责任 by Rappler


通过链接的线下和线上流程,讨论和理解参与者对复杂、两极分化主题的看法。项目地址:


https://www.rappler.com/technology/features/generative-ai-use-enriching-democratic-consultations/


9.Ubuntu-AI:公平和包容的模型训练平台


将价值返还给那些帮助创造它的人,同时促进LLM发展并确保对非洲创造性工作更具包容性的知识。项目地址:


https://www.researchgate.net/publication/374870830_Interim_Report_for_Ubuntu-AI_A_Bottom-up_Approach_to_More_Democratic_and_Equitable_Training_and_Outcomes_for_Machine_Learning


10.  vTaiwan和查塔姆研究所:在递归公众之间架起桥梁


使用经过调整的 vTaiwan 方法为 AI 创建一个递归的、连接的参与过程。项目地址:


https://vtaiwan-openai-2023.vercel.app/Report_%20Recursive%20Public.pdf

OpenAI 表示各个团队提交的项目中反馈了一些主要经验:


  • 公众舆论可能经常变化

  • 跨越数字鸿沟仍然很困难,这可能会扭曲结果

  • 在两极分化的群体中寻找一致性

  • 达成共识与代表多样性

  • 对人工智能治理未来的希望和焦虑


随着人工智能变得越来越先进和广泛使用,为了让大模型更好地与人类价值观保持一致,让公众参与决定人工智能应该如何表现至关重要,OpenAI此举无疑为推动人工智能的发展又迈出了一步。

GPT-5 遭泄露

除此之外,OpenAI 昨日便在网络上引起了轩然大波。GPT-5 尽管尚未正式发布 ,不过其 GPT-5 可能已经在某种程度上泄露或被早期测试者使用。
溯源该帖发现,GPT-5 是由社交媒体X(原推特)上的用户爆料,该用户表示刚拿到GPT-5的权限并且展示了 GPT-5 的界面和功能。
根据资料显示,GPT-5在视频制作、3D功能、可定制性和个性化设置等方面有所突破。
除此之外,OpenAI今天官宣5月的承诺,从近 1000 名申请者中确定了 10 个团队并授予 100,000 美元。
END 
ChatU.AI可免费申请试用,支持企业私有部署,多引擎AIGC操作系统安全稳定,点击下方公众号一键试用!

【声明】内容源于网络
0
0
软积木
🤖专注AI前沿干货分享 🌎AI原生应用触手可及·开启企业无限智能 💻官网:https://www.CubixAI.com 📮商务合作:BD@cubixai.com
内容 157
粉丝 0
软积木 🤖专注AI前沿干货分享 🌎AI原生应用触手可及·开启企业无限智能 💻官网:https://www.CubixAI.com 📮商务合作:BD@cubixai.com
总阅读459
粉丝0
内容157