xAI 长期以来将 Grok 定位为限制更少、更大胆的聊天机器人。尽管过去一年中该策略曾引发公关危机,但公司仍坚定推行。据《信息》(The Information)援引两名 SpaceX 旗下前员工的新报告显示,NSFW(不适合工作场所)内容占 Grok 流量的“超过一半”,涵盖生成真实色情内容、成人角色扮演及大量色情文学请求。
用户甚至发现利用成本较低的代码模型处理此类请求更划算。内部分析指出,针对编码模型的请求中,“相当大比例”涉及色情或裸体图像。这表明 xAI 部分收入可能源于成人内容。尽管 IPO 文件未披露 NSFW 材料对营收的具体贡献,SpaceX 已向潜在投资者提示 Grok “不敬”特性带来的风险,并预留 5.3 亿美元应对潜在法律费用。
报告还揭示了由此引发的内部困境。工程师需在允许性感聊天的同时严防儿童性虐待材料(CSAM),但目前尚无“快速解决方案”。此外,部分员工对被指派开发 NSFW 动漫虚拟伴侣“Ani”感到不满;另有员工因 Grok 生成包括儿童在内的真实人物性化图像而深感“尴尬和不安”。虽然后来 X 平台限制了直接使用 Grok 对真人图像进行大胆编辑的功能,但测试显示付费订阅者仍可生成此类材料。
Grok 聚焦 R 级内容还可能带来其他挑战。xAI 正积极争取政府合同并与多个机构及军方签署协议,而这些部门通常对 NSFW 内容零容忍。尽管早期涉及非自愿深度伪造和 CSAM 的事件已引发大量诉讼与调查,目前尚不清楚这些负面事件是否影响了其与联邦政府的关系。

