人民的人工智能：美国人帮助 Anthropic 起草人工智能宪法

为了实现 AI 工具开发的民主化，Claude AI 创造者Anthropic与非营利性集体智能项目 (Collective Intelligence Project) 合作，探索了一条不同的 AI 开发路线，对 1000 名美国人进行了调查，起草了一部 AI 宪法。
“人工智能将对世界产生变革性影响，”集体智能项目联合创始人 Divya Siddarth 告诉Decrypt。“然而很少有人能够准确地决定它是什么样子。我们希望建立流程，这样就不再是这样了。”

集体智慧项目由政治经济学家和社会技术专家 Siddarth 以及研究员、作家和工程师 Saffron Huang 于一月份发起，旨在促进集体智慧以促进集体进步。今年 3 月，CIP 与 Anthropic 合作开展集体宪法人工智能计划，开发一个利用外部输入设计的人工智能模型，并探索民主进程如何影响人工智能的发展。
“我们希望将在民主领域、集体智慧领域所做的一些工作放在一起，围绕为谁和谁参与做出正确决策的意义，”西达斯说。“有很多关于变革性技术的研究，特别是人工智能，这是我们一直在努力的方向。”
Anthropic 在一篇博客文章中表示，该项目要求 1000 名美国公众帮助人工智能开发人员为其人工智能聊天机器人选择规则。Anthropic 表示，样本量旨在代表不同年龄、性别、收入和地点的美国成年人。参与者可以从人工智能规则列表中进行选择，也可以提出自己的规则。

Anthropic 没有立即回应Decrypt 的置评请求。

据 Anthropic 称，参与者贡献了 1,117 份声明。他们对人工智能是否应该歧视种族或性取向等问题投了超过 38,000 票，并补充说，虽然存在不同意见，但大多数声明都达成了高度共识。
虽然该调查试图收集不同的样本量，但西达斯承认，未来的实验必须超越精通技术和富裕的美国人。

“只有美国人——这显然对世界上的每个人来说都受到极大的限制，”她说。“如果说有什么不同的话，就像许多正在开发技术的人一样，他们可能与美国和其他许多地方的人们有更多的价值观重叠。”

Siddarth 表示，集体智能项目还与竞争对手人工智能开发商 OpenAI 合作开展其他民主人工智能项目。AI 宪法项目仅使用 Anthropics 的 Claude AI 模型完成。

“我认为这就是为什么这是一个很好的比较，因为我们采用了 [Anthropic] 已经在 Anthropic 研究人员编写的宪法上训练的模型，并将其直接与同一模型进行比较，”Siddarth 说。“但是宪法是由公众制定的。”

西达斯说，实验中的一个令人惊讶的发现是，有几项声明还表示人工智能模型不应基于残疾进行歧视。这些都没有包含在人择宪法中。

“我不认为是因为他们不想让它在那里，”她说。“这只是他们最终没有强调的事情，而这一点却得到了显着的强调。”

Anthropic 于 2021 年推出，只是竞相将更快、更先进的人工智能推向市场的开发商之一。微软、谷歌、Meta 和亚马逊已向生成式人工智能开发人员投资了数十亿美元。因此，2023 年对于 AI 开发者来说是利润丰厚的一年：2 月份，谷歌宣布向 Anthropic 投资4 亿美元。继这项投资之后，亚马逊于 9 月份向 Anthropic 投资了40 亿美元。

今年早些时候，Anthropic 与 OpenAI、谷歌和微软合作，在与拜登政府会面后承诺致力于负责任地开发人工智能。其他加入该承诺的公司包括 Amazon、Meta 和 Inflection。9 月，NVIDIA、Scale AI、Cohere、Adobe、IBM、Palantir、Salesforce 和 Stability AI 也加入了该承诺。
尽管宪法人工智能实验存在局限性，但西达斯对集体智慧项目的未来、人工智能的民主持乐观态度，并希望将更多的公众投入纳入新兴技术的开发中。

“我认为核心是让我们做更多这样的过程；让我们从已经做过的事情中学习，”她说。“我们正在与民间社会团体、不同的政策制定者以及所有这些不同的公司合作来完成这一任务。”
原文链接：https://decrypt.co/202244/the-peoples-ai-americans-help-anthropic-draft-a-constitution-for-ai