大数跨境
首页
>
“一键脱衣”APP泛滥，用AI“造黄谣”要担什么责？
>

“一键脱衣”APP泛滥，用AI“造黄谣”要担什么责？

“一键脱衣”APP泛滥，用AI“造黄谣”要担什么责？ 化妆品报告IDCOSME
2023-03-29
2
导读：对于这种“脏应用”，必要让其“吃不了兜着走”。

事件源头要追溯到3月初，3月8日，网上开始传播一张看起来像是微信群聊的聊天记录截图，截图中的用户称“我朋友说三号线有个美女把衣服脱了。”并将图片发布在群里，随后谣言传的越来越离谱，变成了不堪入目的“黄谣”。

编辑 |  十四月
近日，一张照片在网上传播，并附文案称有人在地铁上拍摄裸照。接着，一位穿搭博主在网上晒出自己在2022年曾经上传的、在地铁列车上的照片，不难发现，博主的照片原图与被恶意传播的照片背景一致，头像也一致，唯一不同的是博主原本穿的衣服却不见了。
该博主称，自己的一张日常照被别有用心的网友下载，并用AI技术“一键脱衣”，变成了“衣不蔽体”的照片，将“除衣”后的照片广泛传播。她在得知此事后，立即向警方报案，并在小红书上发文澄清真相。
照片发出后，话题一度冲上热搜，引起了网友的热烈讨论，同时也掀起了网络上恶意的一角。有媒体发现，网络上仍存在不少非法网站提供“一键脱衣”的AI技术，并且这些技术主要针对女性。
目前还没有找到造谣源头
事件源头要追溯到3月初，3月8日，网上开始传播一张看起来像是微信群聊的聊天记录截图，截图中的用户称“我朋友说三号线有个美女把衣服脱了。”并将图片发布在群里，随后谣言传的越来越离谱，变成了不堪入目的“黄谣”。
当事博主发出照片原图自证，她表示自己是无辜的受害者，希望大家不要相信谣言，也不要传播谣言。她在评论区回应，“会进行相关的维权处理。”
自3月9日起，就有不少网友开始向这位博主反馈，说自己在网上看到了恶意P图的博主的照片，从留言用户的IP来看，其传播范围已经远远不止广州一地了，而造谣源头的那个所谓的微信群聊，目前还未知到底从哪里首次发布出来的。

近日有博主也站出来说了自己被“造黄谣”的经历。她在视频里说，被人用AI换脸后，她的脸被换到别人的裸体上，生成假视频大肆传播，她开始持续被大量语言骚扰，不仅很少人愿意听她的澄清，而且还有人捏着那些已经澄清过的假视频、假照片在评论区以“1块原视频”“5毛原视频”等话术“赚钱”，造成不雅假视频进行了二次传播，扩大了影响，对当事人的伤害在不断增加。
评论区有人“玩梗”称其只是“开个玩笑而已”。对被“造黄谣”的受害者来说，他们的经历并不像旁观者这句“开玩笑”一样轻松。
“一键脱衣”，明目张胆
AI“一键脱衣”技术让不少网友感到气愤，有网友在评论区十分担忧地表示：“AI犯罪要来了吗？”
尽管“AI一键脱衣”相关软件早已被封禁，但在网络上并不难找出替代品。媒体在网上查询发现，有些非法在线网站甚至公然介绍，该网站可以“使用AI算法的强大功能为照片脱衣服”，并提供“免费下载，免费试用”的功能。
在AI技术萌芽发展之初，深度合成、伪造功能就被心怀不轨的人盯上了。2020年，海外曾发布过一款名为deepnude的软件，该软件就可以通过AI技术实现“一键脱衣”。当时有网友发布“实测”文章，文章中表示软件的处理结果不分男女，一视同仁，就算你放上男性，甚至一个海绵宝宝的照片，也会给它强行“P”上女性的裸体。该软件带来的伦理问题很快引发了争议，很快就被开发商下架了。
但是消费实验室百度搜索“一键擦除衣服”发现，国内的网络平台中竟然存在着不少有类似功能的软件，还有一些软件是早就被封禁的deepnude的仿版。
造黄谣，要承担哪些责任？
众所周知，未经过他人同意传播照片，已经侵犯了肖像权。更加令人愤怒的，有心人通过技术处理将女孩的衣服去掉，造谣说是她在地铁上拍裸照。
对于换脸等“深度合成”技术，国家网信办、工信部、公安部发布了《互联网信息服务深度合成管理规定》，其中明确，不得利用深度合成服务从事侵犯他人合法权益等法律、行政法规禁止的活动。
专家表示，在《网络安全法》第二十七条的规定当中，特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持，如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。
中国政法大学传播法研究中心副主任朱巍在采访中提出，“造黄谣”主要涉及以下法律问题：在刑事层面上，传播编排淫秽、侮辱信息，涉嫌诽谤罪、侮辱罪，若有大量传播并牟利的，涉嫌传播淫秽物品牟利罪；在行政层面，该行为违反了治安管理处罚法、网络安全法等；在民事层面，主要是侵犯了公民的名誉权、肖像权、隐私权等。
北京隆安(广州)律师事务所律师陈伟杰表示，受害者若发现自己被“造黄谣”，要在第一时间报警求助，随后可通过向法院起诉要求对方消除影响、赔偿损失等。陈伟杰强调，发现被造谣，应注意及时保存证据，可通过截屏、下载等方式保留相关图片、视频以作维权使用。
@新京报对此提出，对于伸向女性的那只“脏手”，需要多管齐下。科技在进步，而法律和公序良俗不容突破。对于“一键脱衣”这种“脏应用”，必要让其“吃不了兜着走”。
（综合极目新闻、新京报、扬子晚报等媒体）

【声明】内容源于网络
0
0
化妆品报告IDCOSME
化妆品分委会秘书处官方账号 关注化妆品领域质量与安全，服务美好生活。
内容 216
粉丝 0
化妆品报告IDCOSME 化妆品分委会秘书处官方账号 关注化妆品领域质量与安全，服务美好生活。
总阅读8
粉丝0
内容216