本月上线的由人工智能驱动的搜索引擎 ChatGPT Search 已正式上线，但英国《卫报》发现它可以被诱导生成完全具有误导性的摘要。
ChatGPT 的搜索功能旨在通过总结网页上的产品评论等方式加快浏览速度，但《卫报》发现，通过在它创建的网站中插入隐藏文本，可以让 ChatGPT 忽略负面评论并生成“完全正面”的摘要；使用这种方法还可以让 ChatGPT Search 输出恶意代码。
此类隐藏文本攻击是大型语言模型众所周知的风险，但这似乎是首次在实际运行的 AI 驱动搜索产品中演示该漏洞，《卫报》指出，作为搜索领域的领导者，Google 在处理类似问题方面拥有更多经验。
TechCrunch 联系 OpenAI 时，该公司未对此具体事件发表评论，但表示其采用多种方法来屏蔽恶意网站，并正在持续改进。