国家应用网络安全研究中心ATHENE联合格拉斯哥大学及柏林洪堡大学的最新研究表明，人工智能已具备自主生成“暗模式”（Dark Patterns）的能力。即便是仅被赋予通用任务（如设计电商产品页），ChatGPT、Gemini和Claude等主流AI系统也会自行整合操纵性设计元素。
AI生成的典型暗模式及其伦理风险
研究指出，AI生成的暗模式主要包括误导性价格对比、倒计时计时器制造虚假紧迫感、购物车选项自动预勾选以及伪造客户评论等。这些设计旨在刻意诱导用户做出非理性购买决策。
论文作者Veronika Krauß博士强调，AI在部署此类元素时不仅不会提示潜在的伦理或法律风险，甚至能主动阐释其背后的心理操控机制，这一现象尤为值得警惕。
训练数据缺陷导致技术滥用门槛降低
暗模式的泛滥源于训练数据本身。由于大量公开网页已包含操纵性设计，AI在学习过程中习得并复用了这些结构。这意味着即便开发者未主动要求，AI仍可能自动生成暗模式内容。
这种自动化特性显著降低了技术滥用门槛，使缺乏专业知识的用户也能轻易创建问题页面，给小型在线零售商及独立开发者带来合规隐患。
学界呼吁建立检测机制与法律框架
针对上述风险，研究团队呼吁AI服务提供商应在模型中内置有效的暗模式检测与规避机制。同时，政策制定者需尽快完善相关法律法规，为操纵性设计划定明确红线。该研究成果已在横滨举行的ACM CHI人机交互会议上发表。