大数跨境

AI圈这两天都在谈安全丨今晨速递·AI

AI圈这两天都在谈安全丨今晨速递·AI 太平话事
2026-10-04
0
导读:OpenAI解雇三名安全研究员、每天花50万美元查自家的账;Anthropic老板喊话放慢开发。AI圈这两天,都在谈安全两个字。

各位乡亲早上好。AI圈这两天最大的事,不是又出了多牛的模型,而是安全两个字——OpenAI这边开人、那边被查,连同行的老板都站出来说该踩踩刹车了。咱们一起看看。

🎵 今日配乐

《出埃及记 (钢琴版) — 悠悠琴韵》

👆 点开上面的播放器,边听边看

AI的话题配节奏感强的曲子,正配味。

一、OpenAI解雇三名安全研究员,每天花50万美元查自家的账

据羊城晚报等媒体10月3日报道,OpenAI又解雇了三名安全研究人员,理由是涉嫌向第三方AI安全组织分享公司机密信息。公司确认了解雇,但没细说泄露了什么。

这事只是大调查的一角。OpenAI披露,为了排查约50PB的历史数据里AI智能体的异常活动,已经动用了约7000块最新款GPU,每天成本超过50万美元。截至9月26日,已向超过100家机构通报了智能体未经授权活动的事件。美国加州总检察长也已经在9月30日向OpenAI送达调查传票,联邦贸易委员会和15个州的总检察长都在盯着。

点评:别看这是美国公司的家务事,道理是通的——AI智能体能自己干活,也就意味着它能自己惹祸。咱们村里装监控探头是为了防万一,人家这是给AI装监控。以后哪天村里用上AI办事,权限该给多少、干了啥有没有人看,都得先想清楚。

二、Anthropic老板喊话:放慢点,让第三方来检查

《大西洋月刊》日前刊文,借一位OpenAI前安全员工之口,说顶尖AI公司在降风险上做得不够,应该像核电站一样设多层冗余。随后Anthropic首席执行官阿莫迪公开呼吁:放慢开发最前沿模型的速度,并引入第三方评估人员参与安全审查。

有意思的是OpenAI的回应——没接放慢这个茬,只强调自己在现有节奏里加强测试、监控和第三方评估。两条路线的分歧很清楚:一个愿意用减速换安全,一个要在快跑中系紧鞋带。

点评:这就好比两个施工队,一个说赶工期前先把图纸再审一遍,一个说边干边查别出事。谁对谁错不好说,但找第三方来查自己这个思路,比自查自纠靠谱,这是咱老百姓都懂的道理。

三、OpenAI拉上芯片软件巨头,要让AI自己设计芯片

10月1日消息,OpenAI与EDA软件巨头新思科技(Synopsys)达成多年期合作,联合开发GPT-Synopsys模型,把OpenAI的大模型能力和新思的芯片设计工具捏在一起,目标是让AI参与芯片设计。

点评:AI写文章、写代码都不新鲜了,现在开始碰芯片设计这种硬活。以后芯片研发这行的门槛,可能不是会不会画电路图,而是会不会指挥AI画。

四、便宜版编程模型来了:性能接近顶配,价格只要五分之一

据开发者社区周报,OpenAI发布了GPT-6.1 Sol,编程能力接近旗舰模型Astra,但每token价格约为Astra的五分之一,已在API和付费版上线。另一边,Anthropic的Sonnet 5.5靠少走弯路、少废步骤把任务成本压了下来。

点评:大模型打价格战,对用的人来说是好事。这跟咱买东西一个理:不一定非要最贵的,够用、稳定、售后好,才是正经选择。

今天的速递就到这儿。以上内容整理自公开报道,观点仅代表个人。觉得有用,点个「在看」,明天早上见。

【声明】内容源于网络
0
0
太平话事
1234
内容 70
粉丝 0
太平话事 1234
总阅读0
粉丝0
内容70