本月，ChatGPT在4o模型中推出新版图像生成器，其在生成图像内文本方面表现显著提升。然而，该功能已被用于制作虚假餐厅收据，为AI深度伪造诈骗工具库再添利器。
风险投资家Deedy Das在X平台展示了一张据称由4o生成的旧金山某真实牛排馆假收据，并指出当前许多验证流程仍依赖“真实图片”作为证据，这一时代正面临终结。
你可以使用 4o 来生成假收据。现实中仍有太多验证流程依赖“真实图片”作为证据。那个时代已经结束了。
其他用户也成功复现类似效果，甚至通过添加食物或饮料污渍提升逼真度：
我认为在原图中字母过于完美，没有随着纸张弯曲，看起来像是悬浮在纸面上。这是我尝试让它更逼真的版本。
TechCrunch发现的最逼真案例来自法国，一位LinkedIn用户发布了一张皱巴巴的AI生成当地连锁餐厅收据：
TechCrunch实测4o模型，成功生成了旧金山一家Applebee’s的假收据：
但测试结果存在明显破绽：首先，总金额使用了逗号而非小数点；其次，计算结果有误。这源于大语言模型在基础数学运算上的固有短板。不过，欺诈者可通过修图软件或优化提示词快速修正这些细节。
生成假收据门槛的降低为欺诈行为提供了巨大空间。不法分子极易利用该技术虚构支出以骗取报销。
OpenAI发言人Taya Christianson表示，其所有图像均包含ChatGPT生成元数据。当用户违反使用政策时，公司会采取行动，并持续从实际使用中学习改进。
针对TechCrunch关于“允许生成虚假收据是否违反反欺诈政策”的质疑，Christianson回应称，OpenAI旨在赋予用户创作自由，且虚假AI收据可用于金融素养教育、原创艺术及广告等非欺诈场景。