AI分身（或称数字人、深度伪造）技术，通过语音克隆、视频合成等手段创建高度逼真的特定个人（尤其是公众人物或普通用户）的形象、声音及行为，其风险正急剧上升。
深度合成技术创造了AI分身，将挑战从信息内容层面，提升到了信息载体（人）的层面，直击人类认知中最底层、最依赖生物本能的部分。AI分身技术能未经授权克隆肖像、声音，用于诈骗或诽谤，侵犯人格权。这已远超信息真伪范畴，涉及身份冒用。人类大脑在数百万年的进化中，形成了通过面部特征、声音、举止快速识别同类、判断意图的强悍本能。“眼见为实”、“听音识人”是刻在基因里的认知捷径。AI分身以极高的逼真度，直接攻击了这一生物本能。当至亲的“面容”和“声音”通过视频通话向你求助转账时，大脑中负责社交认知和情感反应的杏仁核等区域会率先被激活，而负责理性分析和风险控制的前额叶则可能被压制。这种技术成功“劫持”了人类最原始的信任建立机制，使得基于生物特征的“真实性”认知根基发生动摇。
法律风险：近期我发现上述咨询激增，从某种程度来看已经开始威胁人类。我国《民法典》已明确保护肖像权、名誉权等人格权。《互联网信息服务深度合成管理规定》等法规也对深度合成服务的技术管理、标识义务等提出了要求。刑法中的诽谤罪、诈骗罪等罪名也可适用于情节严重的行为。然而，该技术迭代迅速、鉴定难度大、追查源头困难，给监管和执法带来了现实挑战。
（1）人格权侵权：未经授权使用他人肖像、声音制作AI分身，直接侵犯公民的肖像权、声音权益。制作或传播带有侮辱、诽谤性内容的AI分身视频，将严重侵害他人的名誉权。
（2）财产与安全风险：利用AI分身进行精准诈骗（如冒充亲友或领导要求转账）、虚假代言、传播虚假言论扰乱市场，不仅造成直接经济损失，还可能危害公共秩序与社会稳定。
（3）身份冒用与认证安全：足以通过生物识别验证的深度伪造技术，对基于人脸、声纹的身份认证体系构成根本性威胁。
四、结论：AI与人类认知免疫系统的进化竞赛(如有雷同，人类该何去何从）
从AI幻觉混淆真伪，到AI投毒污染信源，再到AI分身伪造本体，AI技术的风险链条正在逐一攻破人类大脑赖以理解世界的认知防线。这不再仅是法律或技术问题，更是一场关于人类集体“认知免疫系统”的进化竞赛。
1、对AI使用者而言，则需要强化风险意识，深刻认识到AI输出可能包含AI幻觉、AI投毒，其结果不等同于100%准确或权威结论。对于关键信息，尤其是来自AI建议、数据或引用，则务必通过多个权威信息源进行交叉核实，注意查看AI工具提供的引用来源，并仔细阅读AI服务商提供的使用协议和风险提示公告。对于个体而言，谨慎上传个人清晰肖像、声音生物特征信息，降低被用于制作AI分身的风险。
2、对技术提供方与企业而言：完善使用协议，在用户协议中明确禁止AI投毒、滥用深度合成等行为，并保留追究法律责任的权利。强化技术智力，投入资源研发和应用有效的训练数据清洗、生成内容溯源、深度伪造检测技术等。对于生成内容进行显著标识，提示用户注意AI内容的局限性。
3、对立法与监管层面而言：我个人认为必须要持续跟踪技术发展，适时对现有法律（如《网络安全法》、《数据安全法》、《个人信息保护法》及刑法相关条款）进行解释或修订，明确新型AI侵权行为的法律责任边界。推动建立适应AI时代的内容认证、溯源和问责机制。
人类大脑的适用性与创造力才是我们身为人类的核心优势。从AI幻觉的客观局限，到AI投毒的主观恶意，再到AI分身的技术滥用，AI侵权风险的谱系正在快速扩展。在拥抱技术红利的同时，我们必须建立与之匹配的风险认知、防范能力和法律规范。这是一个需要技术开发者、服务提供者、广大用户、法律界和监管机构共同参与的持续进程，目标是在促进创新与保障安全、自由与责任之间找到动态平衡。唯有这样，必须通过正视挑战、升级工具、强化理性，我们有望在与AI的共生中，构建起更为坚韧的认知防御体系。
