“AI换脸”技术制作淫秽视频 80后男子被起诉

　　“请把我暗恋对象的脸换上。”近期，“AI诈骗”“AI换脸”等话题频登热搜，引发大众对于人工智能技术的讨论和关注。近日，杭州市萧山区人民检察院对一起利用“AI换脸”技术侵犯公民个人信息的案件，依法向杭州互联网法院提起民事公益诉讼。

　　记者了解到，2020年左右，80后的男子虞某某从互联网上接触到“AI换脸”软件及技术，并通过学习掌握了该软件的使用方法。

　　2021年左右开始，虞某某以牟利为目的，在未取得被编辑人同意的情况下，利用上述“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播并获利。

　　截至案发，公安机关共在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。

　　2022年11月30日，公安机关以涉嫌传播淫秽物品牟利罪将虞某某移送萧山区检察院审查起诉。该院在审查时发现，虞某某不仅涉嫌刑事犯罪（目前已对虞某某以制作、传播淫秽物品牟利罪提起公诉），同时还存在损害社会公共利益的行为。

　　经查，虞某某在使用“AI换脸”技术制作淫秽视频的同时，还为他人提供换脸视频定制服务，即根据客户提供的视频或照片，制作换脸视频。此外，虞某某还在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

　　检察机关认为，本案中，虞某某从互联网公共空间非法获取众多人脸信息，利用“AI换脸”等深度合成技术非法处理、制作淫秽视频后，在超过2000人的网络社交软件群组传播，同时提供换脸视频定制服务，使不特定群体成为潜在的被侵害对象，违反了法律法规和社会公德等，构成对公共信息安全领域的社会公共利益侵害。

　　除此之外，虞某某在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下，仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。

　　在依法履行诉前公告程序、无适格主体提起诉讼请求后，萧山区检察院于6月9日向杭州互联网法院提起民事公益诉讼，请求判令被告停止侵权，删除持有的所有涉案个人信息，不得再违法使用深度合成技术侵害社会公益；支付公益损害赔偿金人民币60000元（专门用于个人信息保护、人脸深度合成技术应用的治理等公益事项）；在国家级媒体上向社会公众公开赔礼道歉。