“AI明星换脸”、合成语音诈骗……新规来了！

南都评论

规范深度合成技术，“换脸”骗术的末日快来了

法律学者 柳宇霆

继算法推荐之后，深度合成技术也将迎来单独规范。1月28日，国家互联网信息办公室发布《互联网信息服务深度合成管理规定（征求意见稿）》（以下简称“征求意见稿”）并公开征求意见。

深度合成是一个不为人所熟知的新鲜术语，但说起“换脸术”、“换声术”等骗术，人们恐怕都不会陌生。这些年，在先进的深度合成技术加持下，违法犯罪分子“阴招迭出”：有的假冒领导口音打电话，骗来公司员工转款；有的“化身”知名演员，让不少中老年女性沉迷其中，受骗上当；有的将女明星头像嫁接在不雅视频上，在色情网站大量播放，赚取利润。如此种种，无论普罗大众，还是明星达人，无不深受其害，更把网络世界搞得乌烟瘴气。

值得欣慰的是，立法机关已经着手规制乱象。根据《民法典》规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。在《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》中，也有要求。不可否认，在肖像权的法律条款中予以规制，以及通过部门规章加以限制，对深度合成都是有力制约，但立法条款过于抽象，停留于“一般性义务规则”，并不利于“对症下药”，有效打击和防范技术滥用。

审视征求意见稿，堪称规范深度合成的集大成者，不但与《民法典》保护肖像权的立法精神一脉相承，也将《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等行政规章，包括《关于加强互联网信息服务算法综合治理的指导意见》的方向性要求落实到位。比起分散式规定，，这种系统性立法火力更加集中，具体操作性也更强，从而也更容易生效。更为重要的是，围绕深度合成推进立法，体现了国家重拳规制这一乱象的态度和决心，有利于震慑不法分子，维护网络生态纯净。

从具体内容看，构建了信息内容标识管理制度是征求意见稿的一大亮点。老实说，面对现代信息技术的“魔术手”，对于那些被深度合成的内容，早就是“雌雄莫辨”“真伪难分”了。根据征求意见稿的要求，深度合成服务提供者使用有效技术措施，在深度合成的信息内容中添加可被自身识别、追溯，且不影响用户使用的标识，且对于合成人声、仿声、人脸替换等深度合成内容使用显著方式进行标识；若未显著标识，应当立即停止传输该信息。这就意味着，深度合成内容一旦加了“标识”，将受到更严格的“嵌入式”监管，而服务提供者也必须与监管部门“通力合作”，真正拧成“一股绳”。

遵循“知情同意原则”，乃是征求意见稿的另一大亮点。通过《网络安全法》等法律的实施，基本确立了“知情同意原则”，而近期出台的《个人信息保护法》更强调了这一处理个人信息的基本原则。根据征求意见稿，明确深度合成服务提供者提供人脸、人声等生物识别信息的显著编辑功能的，应当提示深度合成服务使用者依法告知，并取得被编辑的个人信息主体的单独同意。对于那些企图“浑水摸鱼”“弄假成真”的不法分子，明晃晃的“知情同意原则”，意味着用户和被编辑的个人信息主体再也不能被轻易“糊弄”和“愚弄”，规定将如同一只粗壮的大手，直接摁住他们的咽喉。

深度合成技术不能沦为不法分子的“摇钱树”。国家互联网信息办公室发布《互联网信息服务深度合成管理规定（征求意见稿）》，在精确施治、系统遏制上迈出了关键一步，也宣示了，想要趁网络乱象“火中取粟”，终归只是黄粱一梦。