安全漏洞已成为AI模型开发与应用中的核心议题。Google发文指出，ChatGPT等人工智能模型存在重大安全隐患，引发业界高度关注。
众所周知，聊天机器人和大型语言模型依赖互联网海量数据提供服务。然而研究发现，通过特定提问方式，这些系统可能泄露用户个人信息。
这意味着ChatGPT等AI系统或已访问数百万用户的敏感数据（如姓名、邮箱及电话）。该漏洞表明，亟需对系统安全性进行深度评估并采取应对措施。
研究人员强调，恶意攻击者仅需200美元即可获取数千个训练样本，且随预算增加，数据提取规模可进一步扩大。这证实了AI模型能以低成本生成大量学习样本。
此外，研究还发现，通过重复特定关键词可使ChatGPT偏离正常训练逻辑，从而输出包含原始语言建模数据的回答。
针对此前未察觉该漏洞的原因，研究人员质疑并呼吁必须对AI系统进行全方位安全分析。鉴于已有数百万用户与AI交互，这一关键隐患的暴露凸显了深化系统安全研究与评估的紧迫性。