百万级女网红 遭AI换脸贩卖色情视频
2023-04-29 11:35:54 作者:admin 文章来源:unknown 阅读次数:594
记者 程潇龙
“大约在半年前,我的视频评论区,突然涌来了很多人说看过我的‘视频’……”近日百万粉丝女网红小菲曝光自己被“AI换脸”引发公众关注。
“我疑惑地点开了视频,视频里的女生正做着一些难以描述的动作。看着视频里那张跟我长得一模一样的脸,愤怒得说不出话来。我突然意识到可能我的脸被AI盗用了……究竟是谁在盗用我的脸?”
小菲发现,在境外社交平台上,有人冒充她注册了假账号。对方先是顶着她的名头搬运她的日常内容,等到粉丝人数差不多的时候,就以会员订阅的方式贩卖视频。为了吸引更多人加入,新会员首月还是免费的。此后只需要花费21.6美元,就可以在未来半年里源源不断地收到那些色情视频。
接着,小菲又去另一个社交网站搜索了一遍,发现了更多制作AI盗脸视频的账号,这些账号少则几百多则几万粉丝。
随着小菲深入了解,发现“AI盗脸”背后已经形成一条完整产业链:不法分子通过AI换脸技术赚钱,他们将明星、博主甚至素人的脸制作成假的色情照片与视频,明码标价地获取利益。
“我曾看到过一个网红名单,表里密密麻麻写满了我熟悉的名字。他们根据博主的粉丝量级进行分类,假视频价格在30-50元不等。但只要你花200元就可以进群,进群后不仅可以享受永久半价,甚至还能接‘私人定制’。所谓的私人定制,即提供‘一键脱衣’的合成服务。只需要付费后给这些账号发送带人像生活照,他们就能通过AI合成的方式制成假的视频。
“希望不再有更多女孩成受害者,他们仅用几分钟的时间,就可以把女性的脸和身体拆解拼接当作商品兜售。不管是为了满足自己的性幻想还是为了挣钱,我想说这本质上就是对女性的侮辱、是一次网络霸凌、是一场集体的性暴力。事情发生之后,我试图去举报这些账号内容。后来想要通过法律途径进行维权,结果发现这些账号都是难以追踪的海外IP。而传到国内聊天群里的视频也已经过多次转手,难以找到源头。”
什么是AI换脸技术?
AI换脸,是指通过AI人工智能技术,把别人的脸换成自己的脸。目前AI换脸技术发展飞速,变换出来的脸部表情自然,效果逼真。整个过程只需要通过一张照片,用AI技术在软件上使用自己的照片替换电视剧或小视频中的人物,从而生成以自己为主角的视频。
在网购网站,记者输入“换脸”关键词,立刻弹出大量售卖页面,这些换脸商品多属于虚拟物品,有开发的App,有技术售卖。
一家出售换脸软件的商家宣称:可用于视频换脸和实时直播换脸,可自行训练模型,随意把脸换成自己想要的人物。不过,店家巧妙地提醒:注意不要侵犯别人肖像权,切记不要拿去做灰产。
安徽小伙自学“AI换脸”
传播淫秽视频已被公诉
4月7日,浙江杭州萧山区检察院曝光一个“女神群”,群成员都是一群男人。
早在2020年,“AI换脸”刚刚在国外兴起,80后安徽小伙虞某就对它产生了兴趣,自学掌握了这门技术。后来随着“AI换脸”技术的走红,虞某嗅到了商机。
虞某先将原本建的“换脸软件资源群”的群名更改为“女神试看群”,又通过互联网下载了部分淫秽视频,截取片段后发布在群里,吸引、招揽观看者加入。当观看者达到一定人数,虞某发布群消息称,缴纳198元-498元不等的“会费”,进入“内部群”可以收看完整版。虞某表示,还可以根据顾客需要使用不同的女明星形象“私人定制”。
经警方查实,好几位人气女明星被虞某“AI换脸”生成了淫秽视频。
萧山区检察院以制作、传播淫秽物品牟利罪对虞某提起公诉,案件目前正在法院审理中。
律师:AI换脸可能构成犯罪或侵权
浙江金道律师事务所的夏文忠律师认为,女网红小菲所遭遇的事件,除涉嫌侵犯肖像权、名誉权,需要承担民事责任外,还可能因涉嫌传播、组织制作不雅视频的行为受到刑事或行政处罚。
《民法典》第一千零一十九条规定:任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。
此外,《民法典》第一千零二十四条规定:民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。
因此,如果通过AI换脸技术实行侮辱、诽谤之行为,给他人的社会评价造成负面影响,则可能构成对他人名誉权的侵犯。如果捏造事实诽谤他人,情节达到严重的情况下,则可能构成诽谤罪。