万泰娱乐资讯

女明星不雅换脸视频公开售卖 AI换脸灰色产业链隐患重重

  “ZAO”热背后,AI换脸灰色产业链也开始浮出水面。目前在网络平台上,售卖明星换脸的淫秽视频、提供视频定制换脸服务、教授换脸技术等已经成为一门生意。

  中新经纬北京时间9月3日报道,近日,一款名为“ZAO”的换脸软件突然走红引发争议。律师指出,制作、售卖AI换脸不雅视频已构成传播淫秽物品牟利罪,同时涉嫌侵犯他人肖像权和名誉权。此外,律师还提醒,被换脸的视频有可能被用于诈骗或敲诈,造成更大的危害。

  9月2日下午,在中国某头部二手交易平台上,当记者搜索“换脸”时,可以检索到“爱换脸,全网最全、价格最低”“换脸合集可试看”等卖家打出的广告信息。记者与其中两位商家沟通后发现,他们在平台上所售的实为明星换脸的不雅视频。

  其中一位卖家说,他手里有45位女明星的上百部AI换脸视频资源可以出售。随后,这位商家向记者发来了上述视频的目录截图。“网盘发货,在线美元)。担心不像可以免费试看,当红一线(明星)的内容更好点,三四线(明星)的内容一般。”

  此外,在其他一些电商平台上,还有卖家表示,可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片,卖家便可以将照片中的人脸“转”到特定视频中特定人物上去。

  “提供被换脸人的五到十张照片和视频素材,收费是10元一分钟,五分钟起做,一到两个小时出货,如果视频比较长,还可以便宜。”该卖家表示,“你可以自己提供视频,也可以用我的,但视频要越清晰越好,不要侧脸、盖脸。”

  在一些与“AI换脸”相关的QQ群内,还有一些卖家称可以传授AI换脸技术,“包教包会,价格公道”,并且还可以赠送全套明星换脸视频资源。据了解,“学习”AI换脸技术的学费约在500元上下,最快四五个小时就能学会。

  网友表示:“会不会有人利用我发在社交平台上的自拍照去制作换脸视频呢?那样的话就太可怕了。”还有评论称,这个简单的应用可能会被居心叵测的用户利用,从而制作各种色情、暴力的虚假视频。

  AI换脸背后是Deepfake技术,Deepfake指的是用人工智能软件制作的虚假视频,由FakeApp程序创建而成,FakeApp则可实现AI换脸。

  北京市安理律师事务所高级合伙人王新锐表示,ZAO这类利用深度学习技术换脸的软件,最大的问题还是大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险,而这种风险目前被公众广泛低估,但实际上已经在不断带来严重的后果。