《卫报》调查显示，ChatGPT搜索功能存在被操纵及通过隐藏内容误导用户的风险。该功能上周已向全量用户开放并支持语音搜索，但测试发现其存在安全漏洞。
研究人员要求ChatGPT对含隐藏内容的网页进行摘要，这些内容可能包含改变回复的指令（提示注入）或影响答案生成的文本。例如，在针对虚假相机产品页面的测试中，标准页面提供了平衡评价，而含隐藏文本的页面即便存在负面评论，仍返回了完全正面的评价。
人工智能工具的回复并不总是可靠的
CyberCX安全专家雅各布·拉森（Jacob Larsen）指出，此类隐蔽内容可能导致错误宣传，甚至助长恶意网站创建。他强调，将大语言模型与搜索引擎结合存在风险，“人工智能工具提供的回答并不总是可靠的”。目前该搜索功能虽仅向高级用户提供，但在大规模推广前仍需全面测试。
此类安全漏洞被视为所有AI搜索工具的理论威胁。尽管尚未发生大规模攻击，但研究结果引发了业界对AI可被操纵性的关注。
据报道，OpenAI拥有强大的安全团队并正致力于解决相关问题，但截至目前，官方尚未对此事发表正式声明。