草根影响力新视野 法兰瓷编译

即将迈入2023年之际，中国政府在 “深度伪造” 行为方面的监管也将有重大改革。北京于近日宣布管理“深度合成技术”的规定，预计从1月10开始由国家因特网信息办公室负责监管，将以更强硬的态度加强对因特网内容的管理。

所谓的 “深度伪造” 是使用AI技术仿真他人的脸部动作，制造出特定人物说话或动作的影音图像。这项技术可针对既有影片移花接木，例如将某政客的脸孔放在现有影片上，甚至制作出虚假的演说影片。这些伪造的媒体影片由于十分逼真，令大众不易辨识真假。

图片取自:(示意图123rf)

以下是一些关键条款：

1. 如果要将某人的图像要用于任何深度合成技术必须事先获得对方的同意。
2. 深度合成服务不能使用在传播假新闻。
3. 深度伪造服务需要验证用户的真实身份。
4. 关于图像或影片已被技术性更改的合成内容必须事先通知该用户。
5. 禁止违反现行法律的内容，以及危害国家安全和利益、损害国家形像或扰乱经济的内容。

自 2020 年底以来，中国政府一直试图控制国内科技巨头的力量，并开始全面监管反垄断、数据保护、新兴技术等领域。就在今年稍早时，中国也针对科技公司如何使用推荐算法订定了新规范; 分析人士表示，这项新法律解决了两个目标 : 更严格的网络审查和领先于新技术的监管。

欧亚集团地缘科技部董事Paul Triolo指出，中国当局正积极打击反政府分子利用包括习近平在内高级领导人的深度伪造来传播反政府的信息，试图在AI合成内容等新技术在网络上泛滥之前就领先一步采取行动，以解决棘手的网络内容问题。

事物总是有一体两面，深度合成技术也可以善用在教育和医疗保健等领域，发展出一些有益的应用。但此次中国政府是针对应用在制造虚假信息方面的负面作用，以解决现代社会正面临的严重威胁之一，也就是大众对所谓“有图有真相”的信任度正在下降，对于是非真假也越来越难以判别。

Reference: 

China is about to get tougher on deepfakes in an unprecedented way. Here’s what the rules mean