本周，三星成为又一家禁止员工使用生成式AI工具（如ChatGPT和Google Bard）的大型知名企业，并警告违规者可能面临解雇。
据彭博社获得的内部备忘录显示，此次禁令起因于一名工程师上月将敏感内部源代码上传至ChatGPT导致泄露。此前报道称，有员工要求聊天机器人检查敏感数据库源代码错误，另有员工将会议录音输入ChatGPT以生成会议纪要。
三星是最新对ChatGPT采取限制措施的公司。摩根大通因合规问题限制了员工使用；亚马逊敦促员工勿与AI共享代码；Verizon和Accenture也采取了类似措施。意大利曾短暂禁止ChatGPT，担忧其违反欧盟数据保护法规。
尽管微软在OpenAI拥有数十亿美元投资，但对其仍持审慎态度。据报道，微软Azure云服务器部门计划销售ChatGPT替代版本，该版本运行于专用服务器，实现数据隔离存储。
这些担忧并非空穴来风。生成式AI不仅可能被攻击者用于编写钓鱼邮件和恶意代码，还带来显著的数据泄露风险。今年3月，OpenAI承认ChatGPT遭遇首次重大数据泄露，导致Plus订阅者的个人信息及部分支付数据暴露。
新的工业革命
生成式AI为非技术用户提供了强大功能，代表了从工作方式到决策方式的巨大变革。然而，其底层基础设施并非全新事物。如同云存储服务，用户与ChatGPT交互的所有数据均存储在OpenAI服务器上。
除提示词和对话外，OpenAI还会保存账户详情、大致位置、IP地址、支付信息及设备信息，用于训练和改进模型。尽管OpenAI声称已加密对话并将数据存储于定期监控的安全服务器中，但正如任何存储在他人计算机上的数据一样，仍存在重大泄露风险——OpenAI的此次事件已证实了这一点。
这并不意味着生成式AI毫无价值。即便是发布禁令的三星，也承认其潜力并承诺开发自有的翻译和文档摘要工具。
生成式AI有望为初创企业节省大量时间，助力自动化任务、研究及流程简化。但在拥抱该技术前，企业和员工必须明确数据的流向及控制权归属。
据数据保护公司Cyberhaven统计，约10%的受访员工曾在工作中使用ChatGPT，7.5%的员工将公司数据粘贴至聊天机器人中。分析发现，4%的员工至少一次粘贴了包括源代码和客户数据在内的敏感信息。
Cyberhaven指出：“一位高管将公司2023年战略文件要点输入ChatGPT并要求重写为PPT格式。未来若第三方询问该公司年度战略重点，ChatGPT可能基于此信息作答。”
随着生成式AI人气飙升，员工可能在不知情下将其整合入工作流程。企业务必让员工意识到相关风险，避免因暴露关键数据而承担责任。
英国数据泄露律师事务所Hayes Connor法律总监Richard Forrest表示：“未经适当培训和谨慎使用ChatGPT的企业，可能无意中面临GDPR数据泄露风险，导致巨额罚款、声誉受损及法律诉讼。”
企业需设定明确界限：假设所有输入内容未来都可能被公开访问，并告知员工可分享与不可分享的数据范围（如源代码或机密信息）。
应将生成式AI视为新型网络钓鱼威胁。人为错误是数据泄露主因，充分网络安全培训是唯一预防途径。若员工不了解风险，请记住：公司数据泄露并非其个人之过。
ChatGPT是否构成网络安全威胁？