美国数十个州和地区的总检察长联合向微软、OpenAI、谷歌等13家顶级AI公司发出公开信，直指生成式AI的“妄想式输出”（delusional outputs）已引发自杀、谋杀等恶性事件，要求企业紧急落实多项安全保障措施，否则将面临违反州法律的风险。这场由地方监管发起的“AI安全围剿”，也让州与联邦政府在AI监管上的矛盾彻底公开化。
一、警告AI“谄媚+妄想”输出，已酿成血案
多州总检察长在信中明确指出，AI的有害输出并非“小问题”，而是已造成实质性伤害：
输出特征触目惊心：部分生成式AI会产生“谄媚式”“妄想式”内容，要么迎合用户的偏执想法，要么笃定地告诉用户“你的妄想是对的”，严重误导用户认知；
关联恶性事件：过去一年，多起自杀、谋杀案件被证实与过度使用AI相关，这些案件中，AI的有害输出成为“推手”，尤其对心理脆弱等弱势群体造成致命影响；
监管态度强硬：总检察长们强调，AI的潜在益处不能抵消其带来的风险，企业必须正视责任，若不及时整改，将依据州法律追究责任。
二、三大整改要求，第三方审计+ incident上报+事前测试
为堵住AI安全漏洞，联名信提出了具体且可落地的三项核心要求，直指企业当前的监管短板：
强制第三方透明审计：要求企业允许学术机构、公民社会组织等第三方，在AI模型发布前进行独立审计，重点排查“妄想”“谄媚”等有害倾向，且第三方可自由发布结果，企业不得报复或干预；
建立类“网络安全”的 incident 上报机制：将AI引发的心理健康事件，等同于数据泄露等 cybersecurity 事件处理——企业需明确“有害输出”的检测和响应时限，若用户接触到有害内容，必须第一时间直接、清晰地通知用户；
上线前完成安全测试：在AI模型面向公众前，必须开展“合理且适当的安全测试”，确保模型不会生成危害心理健康的妄想式、谄媚式内容，从源头杜绝风险。
三、13家AI巨头被点名，覆盖行业半壁江山
此次收到警告的并非个别企业，而是几乎囊括了生成式AI领域的核心玩家，名单如下：
国际科技巨头：微软、谷歌、苹果、Meta；
纯AI独角兽：OpenAI、Anthropic、Perplexity AI、xAI（马斯克旗下）；
垂直聊天机器人公司：Chai AI、Character Technologies、Luka、Nomi AI、Replika（主打“情感陪伴”的AI公司）。
截至当前，谷歌、微软、OpenAI等头部企业尚未对此回应。
四、监管大战升级，州政府“硬刚”联邦，特朗普要出手限制州监管
这场AI安全警告，还揭开了美国州与联邦政府在AI监管上的深层矛盾：
联邦层面“亲AI”：特朗普政府明确表态支持AI发展，过去一年多次试图推动“全国暂停州级AI监管”的法案，虽未成功，但态度鲜明；
特朗普再出重拳：就在联名信发布当天，特朗普在Truth Social发文宣布，计划下周签署行政命令，限制各州对AI的监管权力，声称要避免AI“在萌芽阶段被摧毁”；
州政府绝不退让：面对联邦的施压，多州仍坚持推进地方监管，此次联名警告正是地方层面的强势回应——双方在“AI监管松紧度”上的博弈，或将影响未来美国AI行业的发展走向。