人工智能（AI）模型本质上是“数据吞噬者”。它基于互联网数十亿条信息及用户直接输入的内容进行训练。这意味着每次与AI对话，模型都会更深入地了解人们的沟通方式甚至个人隐私。这种简单的互动本身，往往构成了一种被忽视的数据暴露行为。
Apura SWAT小组副协调员、网络犯罪调查及数字情报专家Pollyne Zunino警告称：“人们通常未意识到，在向大型语言模型（LLM）发送信息时，正将数据置于无法区分敏感与普通内容的环境中。许多用户误以为处于私密空间而复制代码、合同或内部记录，但模型仅处理接收到的内容，且服务商可能保留这些数据用于AI学习、审计及安全技侦。”
Apura团队的调查揭示了一个日益普遍的陷阱：用户无意中将敏感信息提供给并非用于存储它们的系统。真实案例显示，开发人员常为优化代码发送片段，却未察觉其中嵌入了访问令牌、内部URL或临时凭证。即使模型有效响应，机密数据也已被传输、处理并可能记录在平台日志中。由于这些信息可能被用于训练AI，最终甚至会成为服务其他用户回复的一部分。无论是令牌、个人纳税号、合同片段还是关键业务流水线，逻辑一致：一旦输入模型，便无法收回控制权。
在企业环境中，情况更为严峻。员工对AI工具易用性的追求导致了自发、无序的使用，形成了被称为Shadow AI的平行生态系统。企业数据在此流通，绕过了旨在保护它的安全层。客户信息、专有代码、战略计划及机密合同等关键资产，常被复制粘贴至外部平台，且未经任何风险评估。这些未经批准的工具留下了传统网络安全防御系统（如DLP、SIEM及EDR）难以察觉的漏洞，使外部AI模型成为潜在的数据泄露渠道。
Zunino解释道：“OpenAI、Google和Anthropic等提供商的隐私政策限制了个人数据使用，并区分了API和网络接口的处理方式。通常，它们表示不会使用通过API发送的数据训练模型，尽管可能会保留用于安全目的的操作信息。”而在开源领域，一套软件、工具、系统和社区的源代码虽公开可查、可改、可分发，但其保护责任完全由托管和运营模型的人承担。
Apura指出，网络犯罪分子高度关注此类风险。Apura Cyber Intelligence专家表示：“如今，专业组织利用从企业模型配置错误到日志、存储库和内部实例中无意泄露的各种漏洞。”诸如模型反转、成员推断和提示注入等技术，使攻击者能够提取敏感模式、重新识别用户、操纵模型行为并重构原始敏感数据。Zunino强调：“换句话说，罪犯不再需要入侵网络，只需访问由AI提示泄露的内容即可。”
如何保护自己
专家强调：“人工智能不是日记本，也不是存放机密邮件的邮箱。在粘贴任何内容前，应自问：如果这些信息泄露，我会不会感到尴尬？”主要防护指南包括：
- 切勿输入敏感的个人或企业数据；
- 严格遵守内部网络安全政策；
- 优先使用公司技术和安全团队批准的AI工具；
- 采用在公司自有基础设施内运行的本地模型和自主智能体。
Zunino解释称，本地部署的大语言模型能消除发送给第三方的数据，促进符合GDPR和LGPD等隐私法规。此外，它们还能实现独立浏览器操作、数据提取和报告生成等高级自动化功能，同时不损害隐私。
作为网络威胁情报（CTI）领域的标杆，Apura一直密切关注这一风险生态系统的演变，追踪犯罪分子如何在攻击各阶段融入AI技术。Zunino表示：“我们监控公开来源、社区以及犯罪分子分享泄露的企业提示词、敏感工件和利用模型新技法的平台。”这项工作不仅识别出非预期的数据暴露，还揭示了恶意组织如何利用AI自动化社会工程学攻击、鱼叉式网络钓鱼及生产更复杂的恶意工件。
这位专家总结道：“人工智能在不断学习中，如果你不加以关注，它可能会学到远超其应有的大量内容。”