“AI换脸"乱象调查：明星换脸淫秽视频打包卖，还教换脸技术 ... ...

前不久，一名网络博主在地铁拍的日常生活照，遭不怀好意之人使用AI技术“一键脱衣”，再次引起社会对“AI换脸”等深度合成技术的关注和担忧。

早在2019年，一款名为“ZAO”的AI换脸软件曾风靡网络，只要提供一张照片就能成为影视剧的男女主角，让众多网友趋之若鹜。然而，因侵犯版权、侵害隐私、危害数据安全等问题，“ZAO”很快被下架处理。

然而，随着技术发展和使用门槛降低，“AI换脸”的应用场景越来越多，背后的黑灰产业链也逐渐浮出水面。记者调查发现，目前在网络平台上，售卖明星换脸的淫秽视频、提供视频定制换脸服务、教授换脸技术等已经成为一门生意。

技术本无善恶，但技术应用需要规制。4月11日，国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》，在产品安全评估、数据合法性等方面作出具体规定。业内人士认为，这一规定实施后，将对包括“AI换脸”在内的生成式人工智能技术发展起到很好的规范和指导作用。

“AI换脸”的法律边界何在？“AI换脸”服务的提供者和使用者存在哪些法律风险？如何规制和防范“AI换脸”对个人和社会造成的严重后果？

明星换脸视频打包出售，定制只需两三小时

近年来，“AI换脸”等深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员利用，生成恶搞视频、色情视频在网上传播、出售。记者注意到，在有关部门和网络平台不断加强监管的背景下，一些“换脸软件”和“定制换脸服务”转向更隐秘的角落，形成地下黑灰产业链。

换脸应用“FacePlay"采取会员制的方式，为用户提供视频和照片换脸服务（应用页面截图）

记者在百度搜索关键词“AI换脸”，查询到一些标注为“广告”的网站，仍在出售“明星换脸视频”。根据网页留下的QQ号，记者联系到一个名为“深蓝”的卖家，其随后发来“百位明星合成视频合集”的列表截图，文件名上标注出多位大众熟知的女明星。

“100部，打包价108元。”深蓝表示，视频文件将通过QQ文件发送，支持微信、支付宝、QQ红包等支付方式。为了证明视频的质量，深蓝随后发来几张动图，内容是几位女明星被换脸后的淫秽视频截图。