欢迎「关注」AIGverse 并设为星标⭐️
全球规模最大的AI企业之一的联合创始人表示，一种可供第三方核查的人工智能“杀戮开关”，或许有必要对企业强制推行。
Anthropic七位创始人之一杰克·克拉克（Jack Clark）表示，当AI软件变得过于危险时能够将其彻底关停的手段，是必要的事情。
克拉克称，“多数实验室都有各自的‘拔掉电源’的办法”，Anthropic同样如此；但他认为，立法者或许有必要把配备这一机制设为强制要求。
AI企业高管与员工的接连警示，把人工智能的迅猛发展以及人们对其危及人类的担忧，推到了舆论焦点之上。一些人已公开表示，这项技术若不受约束，存在杀死全人类的可能。
Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁放缓AI发展速度并加强密切监控，这与该公司以往的主张一致；不过也有人质疑此举背后的动机。阿莫代伊补充说，任何约束AI发展的举措都应“不以牺牲商业优势为代价”。
克拉克表示，“杀戮开关”的具体要求与核查方式，应纳入围绕AI展开的“更大范围的政策讨论”。他问道：“是否应当强制企业必须配备杀戮开关？这个开关能否被第三方核查？”“我认为，这正是社会想要弄清楚的事，也可能最终希望就此立规。”
对此，Anthropic科学家埃文·胡宾格（Evan Hubinger）表示，他个人认为AI导致人类灭绝的可能性“在未来十年内超过10%”。
被誉为“AI教父”的计算机科学家、诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）表示，AI杀死全人类的概率为10%，这一判断“并非不合理”。
他以及其他持类似担忧的人提出，AI可能通过控制接入互联网的重要系统、再把这些系统转而用于对付人类，以此实现这一结果。
不过，AI行业内部也有人认为，对AI毁灭人类的恐惧被夸大了，或者本就是为制造话题而刻意渲染。
交友应用Grindr负责人乔治·阿里森（George Arison）表示，围绕AI工具扩散的种种恐惧，正被相关企业用来为其商业计划背书。
被问及会给“AI杀死全人类”打多少概率时，克拉克说：“我认为这类统计数字没那么有用。”但他补充说，任由AI继续作为“完全不受监管的行业”存在，是个坏主意。
“我们是在拿巨大的风险掷骰子，”克拉克说，“关键在于，我们必须改变这个行业的走向。”美国议员已提出名为《杀戮开关法案》的立法，要求企业必须具备关停问题AI工具的手段。该法案还将赋予特定政府机构要求关停或限制某款工具的权力。
请您思考，如果你来立法，“可由第三方核查”和“企业不愿公开内部关停机制”这两项要求，你会优先满足哪一项？
如需
交流思考题或咨询有关问题，请关注公众号并AIGverse小秘书：
