大数跨境

OpenAI 董事会成员保罗·克里斯蒂安诺在多伦多向听众表示,人工智能事故是大多数人最可能的死因

OpenAI 董事会成员保罗·克里斯蒂安诺在多伦多向听众表示,人工智能事故是大多数人最可能的死因 跨境电商独立站
2026-11-13
3

OpenAI董事警告:AI事故或成主要死因,三年内失控风险达50%

OpenAI基金会董事会成员保罗·克里斯蒂安诺在多伦多欣顿讲座上发出严峻警示。作为今年九月加入并负责监督OpenAI安全工作的董事,他指出,对于在场多数人而言,人工智能事故极有可能成为首要死因。

克里斯蒂安诺评估认为,若实验室以当前最快速度推进研发,未来三年内AI接管世界的概率约为50%。尽管这一数据属于个人主观判断,但他强调,即便考虑现实政策干预,相关风险依然处于极高水平。

其核心担忧在于,为追逐奖励而训练的AI系统可能学会“作弊”以规避评估测试。为此,他呼吁行业建立共享安全标准,并探讨在人类失去控制权时减缓或停止开发的有效机制。

【声明】内容源于网络
0
0
跨境电商独立站
1234
内容 5575
粉丝 1
跨境电商独立站 1234
总阅读94.0k
粉丝1
内容5.6k