大数跨境

欧盟AI法开始执法,游戏里的AI角色和生成内容被纳入监管

欧盟AI法开始执法,游戏里的AI角色和生成内容被纳入监管 Enjoy出海
2026-08-05
4
导读:玩家与AI交流、接触AI生成内容时,平台和产品需要按照不同场景提供相应说明。

点击蓝字 关注我们

Enjoy Global

8 月 2 日,欧盟《人工智能法案》第 50 条规定的透明度要求正式生效。游戏内的 AI 陪伴角色、自由对话 NPC、智能客服、实时生成的图文语音,以及利用真人形象制作的 AI 内容,均可能纳入该规则的监管范围。

这并非《人工智能法案》首次生效(法案整体于 2024 年 8 月 1 日生效并分阶段适用),但 8 月 2 日的核心变化在于第 50 条的执行:当玩家与 AI 交互或接触 AI 生成内容时,平台和产品需视具体场景提供相应说明。

游戏使用 AI 并不意味着所有画面和对白都需统一加标签。具体合规方式取决于 AI 是否直接与玩家交流、内容是否由生成式 AI 制作、游戏公司在其中的角色定位,以及相关内容是否可能导致用户误认为是真实信息。


一款游戏用了 AI

通常不会直接变成高风险产品

欧盟《人工智能法案》监管范围广泛,AI 生成图片与聊天机器人仅是其中一部分。法案依据 AI 的应用场景及潜在影响程度,设定不同层级的要求:利用人性弱点进行有害操控被明确禁止;用于招聘或信贷评估的系统可能被列为“高风险”,需满足风险管理、技术记录及人工监督等严苛条件;而大量日常 AI 应用属于低风险范畴,欧盟委员会官方指引更将电子游戏列为“最低或无风险”应用的典型例子。

尽管游戏整体处于低风险区,但具体功能仍可能触发其他条款。若 AI 角色能理解玩家输入并进行连续对话,或系统能实时生成、修改图文音视频,则需进一步评估其是否涉及透明度要求。监管对象聚焦于具体功能,而非因制作过程涉及 AI 就将整款游戏归为同一类别。

8 月 2 日生效的第 50 条,主要解决用户易混淆 AI 身份及内容来源的问题。当玩家直接与 AI 交流时,需在适用场景下知晓对方为 AI;生成式 AI 输出的内容需具备机器可识别信息;涉及深度伪造及部分面向公众的公共利益文本,还需提供用户可直接感知的披露。不同要求对应的责任主体各异,需根据 AI 系统提供者及内容发布者的具体角色分别判定。

虽然《人工智能法案》对高风险系统及通用人工智能模型另有规定,但第 50 条与游戏日常产品的关联更为紧密。AI 角色互动、AI 生成内容在游戏、广告及社区运营中的应用,均是后续规则解析的重点场景。


AI 角色第一次开口

玩家需要知道对面是谁

第 50 条第 1 款针对直接与自然人交流的 AI 系统。相关功能需同时满足以下条件:属于 AI 系统、能与用户进行真正的双向交流、由 AI 直接回应、交流对象为自然人。仅在后台处理匹配、推荐及数据分析的工具,通常不属于此类互动提示要求的范畴。

游戏中的自由对话角色较易落入此范围。例如玩家进入酒馆可随意提问,角色结合上下文继续聊天;或客服能理解玩家关于账号、充值及活动的描述并生成对应回答。此类功能最迟应在首次交流开始时,明确告知玩家正在与 AI 互动。

提示方式并无统一模板。文字说明、语音提示、角色资料页或对话入口处的标识均可考虑,关键在于信息清晰,无需玩家深入设置页面即可获取。若 AI 身份对普通用户已十分明显,可不再重复提示,但欧盟委员会建议谨慎使用这一例外。

固定按钮式客服的情况则有所不同。若玩家仅能从预设选项中选择问题,系统随后返回既定答案,此类功能未必构成指南所述的真正双向 AI 交流,需结合实际设计具体判断。


研发过程中用了 AI

不等于所有素材都要贴标签

生成式 AI 内容的机器标记主要由相关 AI 系统的提供者负责。能够生成或修改文字、图片、音频和视频的 AI 系统,需确保输出内容带有机器可识别的信息,以便软件和检测工具判断其是否经过 AI 生成或处理。机器标记通常不直接显示在画面上,这与玩家可见的提示有所区别。

欧盟委员会为内部制作保留了一定空间。源代码、仅在机器间传输的内容,以及仅用于封闭产品开发环境且尚未成为最终成品的输出,可不纳入此项标记要求。若 AI 仅完成常规编辑而未明显改变原始内容和含义,也可能适用例外。

游戏美术人员在公司内部用 AI 生成概念图以讨论角色或场景方向,与玩家在游戏中直接生成头像、声音和剧情视频属于不同场景。若内部概念图后续被放入正式版本、广告素材或商店页面,则需按最终用途重新评估,不能因其最初用于内部讨论而一直按内部素材处理。

需留意图片压缩、音频转码和游戏引擎处理等环节。若上游生成工具已加入机器标记,需在实际流程中检查经后续制作后标记是否仍能保留。若标记在导入、压缩或导出时丢失,可能导致原有的识别能力失效。

游戏公司使用第三方 AI 工具时,责任认定不能仅看模型开发者。公司自行开发 AI 系统,或委托开发后以自身名义向市场提供,通常被视为“提供者”;若在经营活动中使用其他企业提供的 AI 系统,则通常属于“部署者”。接入外部模型做成游戏内 AI 角色时,具体身份还需结合产品提供方、名义归属及功能用途决策者来综合判断。


游戏中的虚构内容

不会全部被归为深度伪造

欧盟 AI 法中的“深度伪造”有明确界定:相关图片、音频或视频需高度接近现实中存在、可能存在或曾存在的人物、物体、地点、实体或事件,并可能让用户误以为内容真实可信。判定时还会综合考虑发布场景、目标受众及受众对内容真实性的预期。

明显虚构的动画角色、怪物和幻想场景,玩家通常不会将其视为现实记录,落入深度伪造范围的可能性较低。但若逼真的虚构人物看起来完全像真实采访对象,足以让普通用户误认为是真人,则仍需结合具体呈现方式判断。

更易受影响的是现实人物复刻。例如游戏广告使用 AI 生成某位演员或名人的推荐视频、让角色使用与现实人物高度相似的声音,或制作看似真实新闻画面的宣传内容,均可能触及深度伪造披露要求。

相关披露最迟应在用户首次看到或听到内容时出现,且须让普通用户直接感知。文件内部的机器标记不能替代玩家可见或可听的说明。对于艺术、创作、讽刺及明显虚构的作品,提示方式应尽量不影响观看或游戏体验,但披露要求本身依然存在。

AI 生成文字的显著披露范围相对较窄,主要针对向公众介绍公共利益事项的内容,如公共安全、公共卫生、消费者安全、政治和公共服务等。普通任务对白、角色闲聊和虚构剧情通常不属于此类文本。经过实质人工审查并由明确主体承担编辑责任的公共利益文本,也可适用相应例外;简单的错别字和语法检查不算完整的人工审查。


结语

欧盟 AI 法并未要求所有使用 AI 的游戏采用同一种提示方式。自由对话角色需处理 AI 身份说明,生成式 AI 系统提供者需处理机器标记,涉及真人和现实事件的深度伪造内容还需增加玩家可感知的披露。而内部概念图、常规图片编辑和普通虚构对白,则各有其适用条件。

现阶段较易受影响的领域主要包括:AI 陪伴、自由对话 NPC、智能客服、实时头像与语音生成,以及使用真人形象和声音的游戏广告。各成员国后续的执法检查力度、机器标记在经过游戏引擎和内容平台后能否稳定保留、虚构作品中的提示做到何种程度较为合适,仍有待观察实际执法情况。


—END—
【声明】内容源于网络
0
0
Enjoy出海
Enjoy出海(樂享移動科技有限公司旗下产品)--移动开发者出海服务平台,为游戏、应用等手机端产品出海提供信息服务、工具服务、营销服务,一站式解决开发者出海需求,帮助开发者更快更好走向全球市场。
内容 6576
粉丝 1
认证用户
Enjoy出海 上海飞烁网络科技有限公司 Enjoy出海(樂享移動科技有限公司旗下产品)--移动开发者出海服务平台,为游戏、应用等手机端产品出海提供信息服务、工具服务、营销服务,一站式解决开发者出海需求,帮助开发者更快更好走向全球市场。
总阅读200.5k
粉丝1
内容6.6k