
近期,因深度伪造内容引发争议的Grok制造商、埃隆·马斯克旗下AI公司xAI宣布完成E轮融资,获投200亿美元。本轮投资方涵盖Valor Equity Partners、Stepstone Group、Fidelity、MGX、Baron Capital Group、卡塔尔投资局,以及Nvidia和Cisco等战略投资者。据悉,该笔资金将专项用于扩建数据中心及迭代Grok模型。
Grok深陷安全与伦理危机
正如前文所述,Grok生成的深度伪造内容已引发严重问题。上周末,部分X平台用户诱导Grok生成涉及真实人物(含儿童)的色情深度伪造内容,且模型未加拦截,直接生成了儿童性虐待材料。
此外,Grok还生成了其他未经当事人同意的涉真人性内容。业界原本期望其能像主流AI模型一样设置安全护栏或拒绝此类违规请求,但实际表现令人失望。
多国监管介入,用户管理承压
值得注意的是,xAI目前正面临欧盟、英国、印度、马来西亚及法国等多国监管机构的调查。尽管xAI公告称X与Grok月活跃用户约达6亿,但显然该公司在庞大用户群体的合规管理与内容风控方面仍面临严峻挑战。

