男子用AI换脸伪造视频1200余部获刑

浮云朝露

日前，保时捷女销冠被AI合成不雅视频一事登上微博热搜，引发广泛关注。10月10日，两次成为年度销冠、今年拿下半年度销冠的青岛保时捷中心销售牟女士，通过社交媒体发文表示，最近网络上出现了大量利用AI技术恶意合成的虚假视频和不良视频，对她进行诽谤和侮辱，导致她的正常生活已受到严重影响。

10月12日，牟女士再度发声表示“网络不是法外之地”，并晒出青岛市公安局李沧分局行政处罚决定书。行政处罚决定书显示，一丁姓男子在群内转发牟某文照片图文并搭配不雅视频，对其侮辱，后被查获。根据《中华人民***治安管理处罚法》第四十二条第二项之规定，决定给予行政拘留五日的行政处罚。“相关案件已正式进入司法程序。”牟女士表示。

事实上，她不是第一个被AI造假的人，也不会是最后一个。据北京德恒律师事务所合伙人、律师吴昕栋介绍，2023年杭州互联网法院审理的国内首例AI换脸民事公益诉讼案中，在未取得被编辑人同意的情况下，犯罪分子虞某利用AI换脸软件，将从互联网等渠道收集到的百余人的人脸信息与部分淫/秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频1200余部，在社交软件上进行传播；此外，他还为他人提供换脸视频定制服务，即根据客户提供的视频或照片制作换脸视频，在网络上销售AI换脸软件、提供换脸素材并传授使用教程，共非法获利6万余元。经审理后，法院认定其行为构成制作、传播**物品牟利罪，判处有期徒刑7年3个月。

从几张照片、几秒音频，到一段以假乱真的视频，如今，生成式AI技术的发展让造假几乎不再需要任何专业门槛。AI换脸、声音克隆这些原本服务于影视制作、数字人等领域的前沿工具，正被推向**、诈骗等黑灰色地带。在这种情况下，真相该如何追上算法？

有人工智能从业者对中国新闻周刊表示，基础的AI换脸操作目前可以说几乎没有门槛，普通人也能通过开源模型，或是在软件、网站等上少量付费几元到几十元，就能生成几乎能以假乱真的图片和视频，10多秒的视频只需要几分钟即可。如果想要更精细的定制化服务，加价到几百元，也不难获得。

北京云亭律师事务所律师王琼对中国新闻周刊表示，维权障碍首先在于AI生成内容可通过多平台快速裂变传播，且制作者常使用匿名账号，追责链条长；其次，技术溯源困难，需要通过视频生成时间、技术水印等电子数据鉴定证明侵权事实；此外，可能存在部分平台以技术中立为由推诿，未及时提供后台数据。

吴昕栋补充指出，取证是受害者维权的“死结”：一方面，深度伪造视频的面部匹配度可达90%以上，但全国具备资质的鉴定机构数量非常少，排队及鉴定周期较长；另一方面，AI虚假内容常通过境外服务器、加密群聊传播，存在跨境取证的制度障碍，跨境取证周期长，导致原始文件极易灭失，很难固定关键证据。受害者一边承受着无法完全自证清白、被污名化之下的极大心理压力，另一边又要面对较高的维权成本。

来源：微博@中国新闻周刊

amber7178

不知道他用的哪个AI, 现代司法也是快跟不上科技的脚步了。