用“ AI 换脸”非法牟利数万元，法院判了！

【资料图】

北京商报讯（记者 刘四红）前一阵火爆全网的 AI 换脸还记得吗？但有人却未经同意定制 "AI 换脸 " 视频，还卖教程进行非法牟利，如今这一行为也迎来法院宣判。

8 月 23 日，杭州互联网法院发布消息称，近日，杭州互联网法院组成七人合议庭，对公益诉讼起诉人杭州市萧山区人民检察院诉虞某个人信息保护民事公益诉讼案公开开庭审理，判令被告虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共 60000 元。

被告虞某服从法院判决，现已履行道歉、赔偿义务等民事责任。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

据了解，2021 年左右开始，虞某使用换脸软件（技术）深度合成伪造视频和图片，未经相关信息主体同意，大量搜集、提取、替换、合成、存储他人人脸敏感信息等个人信息，并将深度合成伪造视频、图片发布于 2000 多人的多个社交软件群组中，同时，其为他人提供不特定主体的人脸替换定制服务，并为牟利对外销售换脸软件、传授换脸技术教程，获得非法利益数万余元。

而上述行为已构成对个人信息权益的侵害。杭州互联网法院经审理认为，人脸信息属于敏感个人信息中至为重要的生物识别信息，关系到每个个体的人格尊严、人身安全和财产安全。人脸信息的滥用牵涉到不特定社会群体的公共利益。

虞某将合成伪造的视频、图片在人数众多的网络群组中发布，传播可能性高、影响范围大，使得潜在的社会不特定群体可能成为受侵害的对象，更可能导致公众形成 " 眼见不为实 " 的心理预期，破坏互联网数字世界中社会共同体的信任。法院认定虞某对于人脸深度合成技术的滥用行为，损害了社会公共利益，判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。

北京商报记者了解到，"AI 换脸 " 背后采用的是深度合成技术，利用深度学习、虚拟现实等生成合成类算法，制作图像、音频、视频等信息，目前在社交、影视、广告、医疗等诸多领域不断深化应用，有较大的技术价值和商用潜力，不过也存在着一定的安全隐患，" 双刃剑 " 效应明显。

除了侵犯个人信息权益外，今年来利用 AI 技术实施的新型电信诈骗模式，也已呈现高发态势，就在前一阵，"AI 诈骗成功率接近 100%"" 科技公司老板 10 分钟被骗 430 万元 " 等话题接连登上热搜，也引发了用户对于新型技术应用的讨论。

易观分析金融行业高级咨询顾问苏筱芮表示，目前市场上个人未经同意定制 "AI 换脸 " 视频，涉嫌对他人肖像权的侵犯。法院判定对目前 AI 技术在换脸行为中的滥用构成了警示作用，除此之外，目前市场上在个人信息领域中还有 " 一键脱衣 " 等技术对女性肖像构成侵害。在她看来，后续对于此类行为，一方面需要从源头规范此类提供 AI 技术的软件、小程序，对于非法使用 AI 技术的 App 应用、小程序等及时下架，另一方面也要加大对此类法律案件的宣传力度，通过树立一批大案、要案等震慑市场。

另外，中国互联网协会 5 月也发文称，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。面对利用 AI 技术的新型骗局，广大公众需提高警惕，加强防范。

杭州互联网法院也称，技术的运用是把双刃剑，用之为善可以造福社会，不当滥用则会造成社会风险和损害。对于换脸软件等深度合成技术应用的规制应当从其参与者入手，包括发明者、应用者、传播者等方面，以规制深度合成技术使用目的为路径，实现深度合成技术的合理使用，避免该技术对个人、社会、国家造成诸多方面的风险。同时，也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德，培育积极健康、向上向善的研发、应用环境，保护和鼓励新兴智能技术的有益探索。

标签：