这周，我收到了一位几年没联系的前同事“杰里米”的来信。他发来一封温暖的邮件，提及了我记忆深刻的往事，并关心我近期患肺炎的健康状况。在简单分享近况后，他却试图向我推销一项我完全不需要的咨询服务。
这次互动有三处异常：其一，杰里米向来惜字如金，但这封邮件文笔流畅，与他过往风格迥异；其二，我们并非好友，仅是每月喝几次咖啡的不错同事，突然收信颇为突兀；其三，作为记者兼顾问，我绝不需要外包软件开发服务，而他理应知晓这一点。
重读两遍后我才恍然大悟：这是AI代笔。它写得足够逼真，令我未能第一时间察觉。更令人惊讶的是，该工具似乎抓取了我的Twitter等公开数据，精准构建了对我的生活认知。
那一刻我彻底明白：销售邮件、网络钓鱼和垃圾邮件即将迎来全新升级。
这合乎逻辑。随着AI不断演进，生成类人文本的能力愈发娴熟。过去靠生硬措辞或明显话术识别垃圾邮件的日子一去不返。我们正步入一个新时代：生成式AI能撰写出极具说服力且高度个性化的邮件，让人难以分辨真伪。
生成式AI利用机器学习分析海量数据，理解人类语言的模式、语境及细微差别，进而生成模仿人类风格的原创内容。无论是语气、特定措辞还是俚语，都极其真实。
置于垃圾销售邮件场景中，这意味着来自老同事或朋友等熟悉联系人的AI邮件将格外棘手。
这种高度的个性化与真实性不仅增强了说服力，提高了互动率，还因缺乏传统垃圾邮件特征，令过滤器更难检测。
诡异的是，当我联系杰里米时，他表示从未发送此邮件。转发内容后他同样一头雾水。随后我们发现：邮件中的链接指向一家与其无关的公司，发件地址也是他从未使用过的Gmail邮箱。换言之，这是一封我近期见过的最精妙的垃圾邮件。
此事令我震惊。虽觉异样却难言具体破绽。若我当时稍显迟钝，必会上当；生活中许多技术敏感度较低的人更易中招。若推销无关服务尚属小恶，若是恶意骗局呢？退休人员尤易成为目标。2017年研究显示，5.4%的老年人曾受骗，约每18人中就有1人。随着AI日益复杂，这一数字恐难下降。
生成式AI潜力巨大，但其制造可信垃圾邮件（乃至虚假新闻）的能力构成了严峻挑战，必须解决以保障在线安全。一方面需加强教育，教导人们识别陷阱，但科技界多年努力成效仅属中等；另一方面需依赖技术对抗，旨在拦截AI垃圾邮件的新系统必须高效运行。
对反垃圾邮件从业者而言，局势无疑更加复杂。短期内，发送者既占先机，又更有动力“获胜”。
请务必密切关注收件箱，并与亲友交流如何更安全地自我保护。