随着人工智能模型日益强大，其被滥用的风险也随之增加，业界呼吁建立新的防护机制。当前，AI公司需在尊重企业客户隐私与监控潜在滥用行为之间寻求平衡。
为抢占超越竞争对手Anthropic的机遇，OpenAI宣布推出以隐私为核心的安全监控方案——“私人安全处理”（Private Safety Processing）。该系统目前正面向部分客户预览，能够在不保留任何客户数据的前提下自动监测潜在滥用行为。
与Anthropic数据保留政策的对比
此举与Anthropic近期引发争议的数据保留政策形成鲜明对比。Anthropic允许在涉及“受管模型”时保留用户会话及对话数据30天，涵盖所有Mythos级模型及未来类似能力模型。尽管该7月出台的政策旨在通过筛选分析保障安全，但令许多处理敏感数据且不愿数据被存储或检查的企业深感担忧。
“零数据保留”与新技术扩展
包括OpenAI在内的大多数AI公司遵循“零数据保留”（ZDR）政策，利用API代理按会话基础监控滥用，既避免留存客户数据，又能自动扫描不良活动。Anthropic除“受控模型”外也基本遵守此政策。
OpenAI表示，“私人安全处理”扩大了ZDR适用范围，是一种长周期安全监控形式。它由代理程序执行，不仅评估单个对话，还能跨多个会话分析输入输出；一旦触发机制，将捕获交互内容并分析潜在滥用迹象，无需人工审查用户对话即可识别分散请求等恶意行为。
信号触发与客户协作机制
系统触发后，可能向OpenAI发送狭义定义信号以警示特定活动。OpenAI据此判断是否需采取执法措施；若必要，将联系客户获取背景信息或合作解决问题，客户可自主决定是否共享数据。
相比之下，Anthropic的人工审查仅通过“受控访问路径”进行，由少量经批准的审核人员执行，且每次审核均记录于防篡改日志中，无法被压制或修改。
企业竞争态势
OpenAI与Anthropic的企业竞争日趋激烈。报告显示，OpenAI第二季度增速慢于Anthropic，后者年化收入运行率达650亿美元，投资者预计其IPO估值可达2万亿美元，而OpenAI也在推进自身IPO进程。