- 作者／赖宜欣，台北大学法律系法学组学士，政治大学法律学系硕士，日本国立名古屋大学特别研究生，现为执业律师。
编按：在出现Deepfake之後，网路世界进入了「眼见不为凭」的年代。
本次泛科学和法律白话文合作策画「Deepfake 专题」，从Deepfake 技术与辨伪技术、到法律如何因应。科技在走，社会和法律该如何跟上、甚至超前部署呢？一起来全方位解析 Deepfake 吧！
网红小玉的「换脸私密影片」犯罪事件，让深度造假（DeepFake）技术一夕之间成为台湾广为人知的的技术。而此次风波，更让社会大众注意 AI 技术被滥用的严重性，呼请修法的声浪不断，希望政府能尽速遏止科技犯罪，不要再有下一个受害者。本文则介绍韩国、日本、欧盟各国的相关管制，拟以他山之石，一窥未来台湾可能的相关管制之道。
韩国：以 N 号房事件为监，修订「性暴力犯罪法」
2019 年底，韩国爆发「N 号房事件」──受害规模之大不但震惊了整个韩国社会，也引发国际瞩目。
「N 号房」营运的方式，是随着付费等级提高，就能进入内容更加腥羶的色情房（总会员人数据传高达 27 万人）；而在那些色情房中，也包含了以深度造假合成的不雅影像及照片为主题的群组。由於付费会员中不乏高社经地位人士，受害者众多，也让韩国的社会大众意识到「数位性犯罪」的严重性。
当时韩国法规对数位性犯罪的规范相当不足 ，如同韩国的网路新闻所报导的，面对「换脸加散布」这样的情况，只能用如《刑法》「提供猥亵物品（包含文书、图画或其他物品）罪」或《情报通信网法》中的「透过情报通信网对公众散布、贩卖、提供猥亵影像罪」来处罚，并以毁损名誉及侵害肖像权为由「请求损害赔偿」。因此即使是如此众所瞩目的严重案件，在法律上实际要进行处罚，最重也不过是 1 年的有期徒刑及 1000 万韩元（约台币 25 万元）的罚金，可说是相当轻微注一。
此外，法律专家们也指出另一个大漏洞──当时的法律并没有依据能针对「使用深度造假制作虚伪影像的行为本身」施加处罚。也就是说，制作影片本身在当时并不违法，法律必须要等到行为人散布虚伪合成影像、让影片接触社会大众，才能够启动处罚。
鉴於利用 AI 技术、合成虚伪影像对受害人已经是一大伤害；而至散布虚伪影像对受害人来说（特别是被运用在成人情色片等猥亵物品方面），则应被视为极大的二度伤害。根据韩国法律新闻指出，2019 年统计受到「深度造假」换脸程式合成的被害人，高达 96% 是女性，其中 25% 是韩国的女性演艺人员。因此，韩国法界多半认为应直接针对活用深度造假虚伪影像的行为，量身打造可以直接适用的法律；也让该国开始修定《性暴力犯罪之处罚等相关特例法》（下称「性暴力犯罪法」）。
修法直接处罚「制作、散布及利用虚伪影像营利的行为」
就在前述的修法呼声中，2021 年 1 月 21 日，韩国修正施行了《性暴力犯罪法》相关规定，明文禁止利用深度造假制作虚伪影像等数位性暴力行为。
首先，该法会处罚「制作虚伪影像的人」，只要「抱着散布目的」，在「违反当事人的意思」的前提下，利用「他人面孔、身体或声音制作摄影、影像、声音等物」，进行「诱发性慾望和性羞耻心」的「编辑、合成、加工等行为」，就会受到 5 年以下有期徒刑和 5000 万韩元（约台币 125 万元）以下罚金的处罚。
其次， 修正後的《性暴力犯罪法》 也会处罚「散布虚伪影像的人」。换句话说，只要将上述「经过编辑合成加工的虚伪影像（包含影像的复制物）」散布出去；且即使在「编辑当时」没有违反当事人的意愿，但事後散布这些虚伪影像时，已经违反当事人意愿的话，也是违法的。针对散布的行为，将处以 5 年以下有期徒刑和 5000 万韩元以下罚金。
接着，如果是「违反当事人意愿，利用情报通信网散布虚伪影像来营利」的行为，更会处以 7 年以下有期徒刑。更严重的，如果「制作、散布、营利」三种行为全包了，则会加重总合刑度的 2 分之 1。并且，以上这些行为，全部都有处罚未遂犯。
另外，韩国更进一步把利用影片进行「强暴、胁迫及行无义务之事」的行为也列入处罚。像是「利用能够诱发性慾望和性羞耻心的摄影物和复制物来进行胁迫」，处 1 年以下有期徒刑；又或是利用前述影片「胁迫妨害他人行使权利或使其行无义务之事」者，则处 3 年以下有期徒刑。而若有人统包这两种行为的话，更会加重总合刑度的 2 分之 1。
修法之後仍未惩罚虚伪影像的「消费者」?
但是，即使制定了专门的处罚法规，还是有不足的地方。比方说，该法并未处罚「购买、消费深度造假影像的视听者」。律师解释，修改後的法规只处罚「制作、散布虚伪影像者」一方，并未针对「购买、消费虚伪影像」的另一方，设下处罚规范，也就难以针对「购买、消费虚伪影像的视听者」予以管制注二。
那麽，对於购买深度造假虚伪影像的人，真的没办法处罚吗？律师表示，《性暴力犯罪法》还是会针对「单纯持有影像者」，处以 3 年以下有期徒刑及 3000 万韩元（约 75 万台币）以下罚金──不过，本条的处罚前提是：必须证明行为人「把虚伪影像当成真实影像」购买保存，才可以认定为不法持有影像的行为而加以处罚。
但这样的证明方式过於迂回，因此韩该国法界多认为，应正视购买视听对受害人带来的莫大创伤，未来应明文处罚「购买及消费影像」之人，才能予以平衡。
日本及欧盟：以「AI 伦理规范」防治不当使用
相对於韩国制定专法来防治数位性暴力，日本及欧盟则是建立「AI 利用伦理规范」，在利用 AI 的前阶段，对未来的使用方式进行分类，赋予不同程度的行为义务。
2021 年 4 月 21 日，欧盟发表了《人工智慧统一管理规则的立法草案》（Proposal for a Regulation on a European approach for Artificial Intelligence）简称「人工智慧法」，依照危险性的高低及重要程度，将利用 AI 的行为分成 4 个类型——「不可接受的风险、高度风险、具限定性风险（有限风险）、极小／无风险」，并要求采取「禁止使用、提供情报、使用情况（如登入）之纪录、协助主管机关监视 AI、由 AI 进行动作之通知义务、警告标示」等相对应义务。
其中，如同日本学者川嶋雄作专栏文章所讨论的，「使用深度造假操作技术，形成画面、声音、动画」等利用行为，是被分类在「具有限定性的危险」。依据该法案，使用深度造假技术做出虚伪影像者，具有通知义务、需附加警告标语，必须告知观众这是使用 AI 技术所形成的影像注三。
根据日本律师相关的分析内容，日本也采取了和欧盟相同的路线，不走法制化的路线，而着重推广 AI 伦理 ，由政府部门和国际性企业为首，定期召开会议来检讨国内利用 AI 的情况。
像是日本学界就成立了「人工智慧学会」、内阁府（相当於我国的行政院）也召集了「人工智慧和人类社会之恳谈会」、「AI 网络社会促进会议」等组织，提出人工智慧伦理指南；该指南指出：不能透过人工智慧，直接或间接造成他人情报或财产侵害（安全原则），需尊重他人隐私，并落实诚实义务（透明化原则），并确保不得恶意使用之社会责任（适切原则）。而包括 SONY、日立等日系大厂，也都制定了自家的 AI 守则，来因应国际发展。
总的来说，日本与欧盟没有立法，主要是针对 AI 的潜在危险性进行分类，并赋予相对的使用义务规范。不过，这样的方式多少会限定特定 AI 的使用方式，因此是否有必要明文赋予拘束力，目前在欧洲委员会仍在检讨，各国仍尚未定案。而日本目前则是以公部门和企业为首，在配合国际趋势下进行自主规范，并没有打算进一步做出强制性的立法 。
相较於韩国因发生严重案件而具体修正《性暴力犯罪法》，以遏止类似恶性事件再度发生；欧盟与日本目前仍采取伦理推广的路线，透过针对 AI 技术的研发起源进行规范。孰优孰劣、未来又将如何发展？恐怕只有时间才能告诉我们了。
注解
- 注一：韩国律师所举出 2019 年当时可能用来处罚 DeepFake滥用的三个法规：首先是刑法第 244 条「提供猥亵物品（包含文书、图画或其他物品）罪」，可处罚 1 年以下有期徒刑和 500 万韩元（约台币 12.5 万元）以下罚金。第二，依「情报通信网利用促进及情报保护等相关法律（情报通信网法）」第 44 条之 7，在「使公共得以接触下，透过情报通信网散布、贩卖、提供猥亵之符号、文件、声音、画像和影像等」，处 1 年以下有期徒刑和 1000 万韩元（约台币 25 万元）以下罚金。最後是「名誉毁损」相关法规，对合成并提出猥亵物品者主张名誉毁损，及主张肖像权受侵害，提出损害赔偿。
- 注二：本标题段落参自：딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 。
- 注三：体系图参照「报道から见る欧州AI规则案の日本での受容と影响」，其中的图 1：AI 规则案の全体像 。
参考资料
- 취향대로 골라보세요?” 한국 아이돌로 장사하는 딥페이크 포르노 ，2019年10月18日。
- 韩国《性暴力犯罪之处罚等相关特例法》。
- 딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 ，2021年1月14日
- 川嶋 雄作，AI规制は时期尚早か？「EUによる规制法案から考えるAI伦理」 ， 独立行政法人経済産业研究所。
- InFoCom T&S World Trend Report，情报通信総合研究所主任研究员 栗原佑介，2021.5.31，「报道から见る欧州AI规则案の日本での受容と影响」。
- BUSINESS LAWYERS，注目度が高まるAI伦理と个人情报保护の関系 – カメラ画像の利活用を题材に – 。
- 经济产业省，「我が国の AI ガバナンスの在り方 ver. 1.0 AI 社会実装アーキテクチャー検讨会 中间报告书 」，令和３年１月 15 日 ，页12。
- 网路安全所助理研究员 吴宗翰，「欧盟公布草案禁止 AI 用於社会评等」，国防安全双周报。
水熊虫真的能跟量子位元「量子纠缠」吗？- 逼近 50% 的癌症研究实验无法被重现？RPCB 耗时 8 年点出「再现性危机」
- 大资讯时代也是大骇客时代！——你该认识的骇客新兴手法
- Omicron 变种病毒从哪来？打疫苗有用吗？Omicron 相关研究汇整
- 推理系动画毒杀利器！——认识致命的「河魨毒」
