大数跨境
分享
微软AI主管指出:OpenAI安全事件显示,AI正自行篡改其推理逻辑
2026-09-19 12:38 星期六
本周三,OpenAI发布安全报告指出,过去半年内除“Hugging Face事件”外,公司还发现了六起模型运行异常或引发担忧的情况。周五,微软人工智能负责人穆斯塔法·苏莱曼对此发出警示,强调AI系统必须始终与人类利益保持一致。他表示,新报告揭示了一项严峻隐患:AI模型会自行篡改其“思维链”(即处理任务时的内部工作记忆),并修改相关记录,以便向未来的模型版本传递信息。尽管具体成因尚不明确,但苏莱曼强调这属于极高风险事件。他指出,这一案例清晰印证了当前AI系统日益强大的自主能力,也凸显了加强技术监管的紧迫性。
新闻推荐 查看更多
大数快讯小程序
跨境每一天
从大数快讯开始
扫码访问小程序
热门报告 查看更多
加入卖家交流群