大数跨境

伦理学家反击“AI暂停”公开信,称其“忽视了真正的危害”

伦理学家反击“AI暂停”公开信,称其“忽视了真正的危害” 海外洞察
2023-03-31
5
导读:知名AI伦理学家撰文反驳本周引发争议的呼吁,要求对人工智能发展暂停6个月。

一群知名人工智能伦理学家针对本周呼吁暂停AI开发六个月的公开信撰写了反驳文章。他们批评该信过度关注假设性未来威胁,而忽视了技术滥用造成的现实危害。

尽管包括史蒂夫·沃兹尼亚克和埃隆·马斯克在内的数千人签署了生命未来研究所的公开信,提议暂停GPT-4等模型开发以避免“失去对文明的控制”,但蒂米尼特·格布鲁、艾米丽·M·本德、安吉丽娜·麦克米伦-梅杰和玛格丽特·米切尔并未在列。

这四位AI与伦理领域的重要人物曾因批评AI能力的论文被迫离开谷歌,目前合作于旨在研究、揭露和预防AI危害的DAIR研究所。他们发表驳斥信指出,原信未能应对科技造成的现有问题。

他们在信中写道:“这些假设性风险是所谓‘长期主义’(longtermism)这一危险意识形态的焦点,它无视了今天部署人工智能系统所导致的实际伤害。”他们列举了工人剥削、数据窃取、支撑现有权力结构的合成媒体,以及权力进一步向少数人集中的现象。

当Clearview AI等公司被警方用于陷害无辜男子时,担心终结者或《黑客帝国》式的机器人末日实属避重就轻。既然拥有可通过在线传票工厂访问的Ring摄像头,便无需担忧T-1000。

在被谷歌排挤后,Timnit Gebru 创立了自己的 AI 研究机构:DAIR

虽然DAIR团队认同识别合成媒体等目标,但他们强调必须立即采取行动解决当今问题,并利用现有补救措施:

我们需要的是强制要求透明的监管。不仅在我们遇到合成媒体时应当始终清晰可辨,而且构建这些系统的组织还应被要求记录和披露训练数据及模型架构。确保工具安全使用的责任应落在构建和部署生成式系统的公司身上,这意味着这些系统的构建者应对其产品产生的输出承担问责。

当前朝着越来越大的“AI 实验”狂奔的局面,并非一条注定之路,让我们只能选择跑得多快;相反,这是一系列由利润动机驱动的决定。企业的行为和选择必须受到保护人民权利和利益的监管的约束。

确实到了行动的时候:但我们的关注点不应放在虚构的“强大数字心智”上。相反,我们应该聚焦于那些声称在构建此类系统的公司所进行的极其真实且迫在眉睫的剥削行为,这些公司正在迅速集中权力并加剧社会不平等。

这与Uncharted Power创始人Jessica Matthews在西雅图AfroTech活动上的观点不谋而合:“你不应该害怕AI,你应该害怕的是建造它的人。”

尽管大型公司几乎不可能同意根据公开信暂停研究,但该信引发的广泛互动表明,AI风险——无论是真实的还是假设的——已引起社会各层面的极大担忧。若企业不愿主动行动,或许将有人不得不替他们采取行动。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14239
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读46.0k
粉丝0
内容14.2k