「我打算在这个月底前杀了她。」
「如果我得不到她，那谁都别想得到。」
据《棕榈滩邮报》报道，一名前高盛分析师在 ChatGPT 中留下谋杀前女友的意图，随即被 OpenAI 移送联邦调查局（FBI）。这可能是全球首例因 AI 报警而被逮捕的案件。
当用户毫无顾忌地输入暴力内容时，AI 的安全机制已在后台判定是否触发报警流程。
聊天框里的谋杀预谋
当事人达伦·周（Darren Shida Zhou），25 岁，原系高盛集团西棕榈滩分支机构金融分析师。美国金融业监管局（FINRA）记录显示，其任职时间为 2024 年 3 月至 2026 年 6 月。
据警方逮捕令及媒体报道，周在 ChatGPT 对话框中多次输入针对前女友的暴力威胁，包括“本月底杀掉她”及“不让任何人得到她”等言论。两人于 2026 年 3 月分手，女方因担忧其过激反应而选择电话分手，并向执法部门描述周具有“反复无常、善妒且控制欲强”的特征。
分手后，周持续通过临时号码骚扰前女友，并在 ChatGPT 中将情绪宣泄升级为具体的暴力计划。聊天记录显示，他策划携带鲜花在前女友健身停车场等候，若遭拒复合便开枪杀人后自杀，甚至波及对方家人。
ChatGPT 自动安全机制检测到异常后，将对话标记并移交 OpenAI 人工审核。OpenAI 随后向 FBI 报告，FBI 于逮捕前六天将线索转交棕榈滩县治安官办公室。侦探比对聊天日志与周发送给受害者的短信，确认行为模式高度一致，认定存在“可信威胁”，遂于 2026 年 5 月 29 日将其逮捕。
周被羁押两天后以 10 万美元保释金获释。检方提出跟踪骚扰、书面或电子威胁杀人、利用通信设备实施重罪三项指控，合计最高刑期可达 25 年。高盛集团在获悉指控后将其解雇。
2026 年 8 月 13 日，控辩双方达成认罪协议。法官斯科特·苏斯考尔（Scott Suskauer）作出“暂缓裁定”：认定有罪但不正式宣告重罪定罪，判处 8 年缓刑。其中前 2 年须佩戴电子脚镣，禁止接触受害者及持有枪支，并完成家庭暴力干预课程及心理健康评估。
法官宣判时强调：“没有人应该承受你对这位女性施加的行为。”辩护律师则表示判决公平，指出当事人无前科且案发时未实际持有枪支。
从日志到法庭：AI 数据的司法效力
此案进入司法程序的核心依据，是达伦·周在 ChatGPT 中留下的两个月聊天记录。这标志着用户在 AI 对话框中的输入，在特定条件下可转化为呈堂证供。
OpenAI 在社区安全承诺中明确：ChatGPT 对话并非完全私密。系统会持续扫描潜在危害内容，若判定存在对他人的迫切人身伤害威胁，平台有权向执法机构报告。
OpenAI 政策区分了两种处置路径：涉及用户自我伤害的内容，出于隐私考量通常引导至危机热线，不予报警；而涉及威胁他人生命安全的内容，则适用严格的上报标准。达伦·周的案例因威胁对象具名、时间明确、手段清晰，完全触发了上报机制。
此前佛罗里达州立大学枪击案及加拿大不列颠哥伦比亚省枪击案中，均出现过嫌疑人曾与 ChatGPT 讨论暴力的情况，引发了关于 OpenAI 上报时机与标准透明度的舆论争议。
法律学界指出，美国现行《存储通信法》允许平台在紧急情况下自愿披露数据，但未强制规定具体安全措施。这意味着平台的裁量权较大，缺乏独立的外部监督机制。
AI 时代的"Tarasoff 困境”
当 AI 成为倾诉对象，对话记录究竟受何种程度的隐私保护？这一问题折射出经典的"Tarasoff 困境”。
1970 年代，加州最高法院在 Tarasoff 案中裁定：当心理治疗师有合理依据相信患者可能伤害特定第三方时，其“保护义务”优先于“保密承诺”。这一原则确立了专业人士在面临紧迫威胁时的警告责任。
该原则的伦理争议在于：若治疗师对暴力倾向即刻报警，可能导致患者隐藏真实想法，削弱治疗效果；但若绝对保密，则可能放任悲剧发生。
在 AI 语境下，这一困境正以更大规模重演。数亿用户将 AI 作为情感出口，日常泄愤修辞与真实谋杀预谋的边界模糊，给自动审核带来巨大挑战。OpenAI 区分“自伤”与“伤人”的策略虽呼应了 Tarasoff 精神，但也引发担忧：若用户因恐惧监控而自我审查，AI 的心理支持功能将大打折扣。
目前，AI 与用户之间的隐私边界尚无里程碑式的司法裁决，也缺乏透明、可被独立审视的政策框架。