科技前沿 “AI换脸”以假乱真不想被骗记好以下几点

　　美国歌手泰勒·斯威夫特说一口流利的中文，人们通过小程序也可以将自己变成电影里的人物……随着AI换脸技术的迅速发展，该技术已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。如今，“耳听”为虚，“眼见”也未必为实。那AI换脸技术究竟如何实现？广大网友又该如何防范其中风险？听听专家怎么说。

　　AI换脸技术是一种深度合成技术，利用深度学习、虚拟现实等生成合成类算法对图像进行分析和处理，它的学习技术本身是一种基于神经网络的技术，通过神经网络再基于分布的规律和用户要求将图像重新排布拟合来制作生成图像、音频、视频等信息。

　　东南大学网络空间安全学院副教授宋宇波在接受媒体采访时指出，早期的换脸技术是通过图像处理的方式，将人脸的局部特征移植到图片上，不过这样生成图片工作量大且处理的痕迹比较明显，并不自然，再加上这样很难实现动态拼接，无法生成高清的换脸视频。随着人工智能技术的出现，可通过对大量人脸图像进行学习，建立效果逼真的脸部模型，实现局部人脸特征的自动替换。

　　专家表示，借助AI技术实现图像中人脸的替换，首先需要对图像中的人脸进行检测和定位，精准地识别眼睛、嘴巴、鼻子、眼角等关键人脸特征点。现有一些算法能够实现从数十个到上百个特征点的定位。其次，需要将更换的人脸进行同步操作，通过一定的数学转换，将其与目标图像中的人脸对齐。如果要在视频中实现人脸更换，还需要追踪人脸特征，以确保视频中人脸的稳定替换。此外，为了使AI换脸效果逼真自然，还需要确保替换后的人脸与原始图像中人脸所处的环境保持一致，包括光照、阴影等效果。

　　发布者展示实时“换脸”效果（视频截图） 图源：中央广电总台中国之声公众号

　　AI换脸技术的飞速发展和应用，使公众担心其真实效果如何，关于此问题，南京大学计算机科学与技术系郭延文教授指出：“从图片到一些电视节目的制作，已经可以通过换脸技术对其本身进行一定的编辑。”随着AIGC的迅速发展，目前通过人工智能，尤其是深度学习技术已经可以生成非常逼真的图像，甚至是视频。从换脸角度看，其实现在我们从非专业的角度去看，完全可以做到以假乱真，仿佛是原始成像或者拍摄实现的。

　　AI换脸随着深度合成技术的不断进步，目前已经在社交、影视、医疗等诸多领域深化应用，有较大的技术价值和商用潜力。

　　不过，AI技术是把“双刃剑”，在给人们生活提供便利的同时，也给不法分子留下了可乘之机。

　　今年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。案发时，他的好友通过微信视频联系他，称有朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生进行了转账。事后，郭先生拨打好友电话才得知被骗。

　　此前，深圳一家为公安机关提供技术支持的科技公司，演示了AI如何做到在视频通话时换脸。其演示显示，一个高配置的电脑，合成一段10秒的换脸视频只需要一两分钟，视频通线%。

　　综艺嘉宾使用AI换脸技术与他人视频通话（视频截屏） 图源：综艺《王牌对王牌第八季》片段

　　如今，人工智能终端产品已经铺天盖地，但鉴别技术和设备却未能普及，而相关规制约束也并未完全跟上技术发展的脚步。这些现状在很大程度上让某些人工智能技术有了被滥用的空间，公众的担心由此而起。我们应该如何识别AI换脸技术可能存在的破绽？

　　据了解，当前许多研究者正致力于图片和视频的鉴伪技术研究，判断视频主角是经过换脸技术处理还是原始拍摄的一种传统方法，就是对人脸与环境的光影一致性进行分析。光照是一个复杂的物理过程，光线从光源表面发射后，经过多次反射折射，最终到达目标物体。因此，通过AI技术进行换脸时，一个有效的鉴伪方法就是判断光照是否具有合理的物理性。此外，研究人员还会收集大量真实的图像和视频，以及可能被伪造或换脸后的图像和视频，利用深度学习来训练类似分类器的人工智能功能，从而区分图像或视频的真伪。

　　中国互联网协会特别发文提醒：面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。不仅要加强个人信息保护意识，防止信息泄露；陌生链接不要点、陌生软件不要下载、陌生好友不要随便加、不明二维码不要随便扫，而且远程转账务必多重验证，把好“钱袋子”。

　　同时警方也向广大网友再三强调，警惕“AI”换脸诈骗！一是保护信息，杜绝泄露。二是多重核验，确认身份。三是谨慎转账，延时到账。四是拒绝诱惑，提高警惕。五是加强防范，及时报警。

　　AI换脸诈骗过程中本人出现 图源：中国驻新加坡大使馆领事公众号防范电信诈骗公益短片片段

　　新技术在带来机遇的同时亦带来挑战，AI换脸技术的发展引发了社会、法律与道德议题产生。在商业应用的前景展望中，我们必须意识到技术的双刃剑属性。AI换脸技术的滥用，如制造不实信息、诈骗、侵犯隐私等，都是不容忽视的风险。而在规避这些风险的过程中，技术的进步、法律的完善以及社会的共识构建都至关重要。

　　清华大学新闻学院教授沈阳认为，从规范和监管的角度来看，技术的发展需要与时俱进的法律监管相匹配。我们应该致力于发展AI换脸检测技术，建立和完善相关的法律法规，制定行业道德规范，并且加强公众教育，提升大众对这一技术的理解和辨识能力。解决AI换声、AI换脸背后的版权、肖像权、翻译权等问题，需要全社会的共同努力。技术手段的开发、法律手段的完善、国际合作的深入以及行业自律的加强，是构建一个健康发展环境的必经之路。

　　2023年5月公布的《网络安全标准实践指南——人脸识别支付场景个人信息保护安全要求（征求意见稿）》，以人脸识别支付为场景，对常见风险情形进行提示，包括人脸识别数据的强采、偷采、滥采、滥用，未经授权处理人脸相关数据，敏感个人信息泄露等。2023年8月发布的《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，也从技术应用安全管理的角度，规范人脸识别技术应用。

　　中国社会科学院法学研究所教授姚佳指出，为防止人脸识别技术被滥用等风险，监管部门和相应规范需聚焦深度合成、人脸识别等技术应用，更好保护个人信息权益及其他人身和财产权益，维护社会秩序和公共安全。

　　无论科技如何进步，规则都是最重要的“基础设施”之一。明确边界，规范把关，这将进一步激发科技向善，让科技创新活动更好服务生活。

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。