2021 年 5 月，镜周刊的深度报导《脸被偷走之後——无法可管的数位性暴力？台湾 Deepfake 事件独家调查》中，揭露了早在 2020 年就已经存在、利用 Deepfake 深度造假技术制作收费色情影片的 Telegram 群组，并访问了数位影片中的受害女性。
2021 年 10 月，台湾警方透过 Twitter 上的换脸色情影片追踪到了该群组，逮捕了相关涉案人，「被换脸」的人除了名人之外，也包含一般人的换脸影片。此案在台湾掀起了翻天覆地的讨论，内容围绕在 Deepfake 技术的滥用、和数位性暴力等相关议题。
到底 Deepfake 色情内容有多泛滥？而它又造成了什麽样的伤害呢？
大部分的 Deepfake 影片都是色情内容
「Deepfake」指的是利用人工智慧深度学习技术，在某人没有说过、拍过和录过某些内容的状况下，生成他的声音、图像或影片。（延伸阅读：Deepfake 不一定是问题，不知道才是大问题！关於 Deepfake，你需要知道的是⋯⋯？）
早在 2016 年，来自斯坦福大学、马克斯普朗克研究所和埃尔兰根－纽伦堡大学的研究人员，就已经创建了一个名为 Face2Face 的系统，透过捕捉演员的面部表情，在其他人脸上生成一样表情的影像。不过，我们现在熟悉的「Deepfake」一词，却是 2017 年才现身；而且它最早的姿态，便是色情内容：由一位名为「deepfake」的 Reddit 的用户，上传的明星假性爱影片。
直到现在，网路上虽然不乏一些迷因、或是跟政治人物相关的 Deepfake 影片到处散播，而且数量越来越多，但 Deepfake 应用最多的，仍是色情内容。人工智慧公司 Sensity AI 的统计发现，自 2018 年以来，网路上的虚假影片每六个月成长一倍，截自 2020 年 12 月为止，他们透过自己的检测技术，侦测到至少85047 个假影片在网路上流传。
2019 年，Sensity AI（在当初的名称为 Deeptrace）的报告统计，有 96%的 Deepfake 影片是色情内容，在色情网站上的内容几乎百分之百都是以女性为主，被观看次数超过 1.34 亿次。由此可见，「色情内容」无疑是所有 Deepfake 应用中，内容最多、制造速度最快、传播最广的类型。
此外，尽管色情网站龙头 Pornhub 指出，他们不会容许包含 Deepfake 影片在内的任何非自愿性质的内容出现，但根据 Deeptrace 的统计，2019 年排名前十的色情网站中，有 8 个网站里有 Deepfake 的内容，另外还有 9 个 only for Deepfake 的色情网站，而这些网站里的内容，占了 Deepfake 色情内容的九成以上。
虽然，这些影片中被换脸的主角通常是名人，但受到Deepfake 色情内容所苦的，不只有他们。
虽然内容是假的，但伤害是真的
2019 年 6 月 23 日，有一个叫做 DeepNude 的网站上线了：它提供可以免费下载的应用程式，并利用生成对抗网路（Generative Adversarial Network，简称GAN）技术，将女性有穿衣服的照片生成为裸照。虽然由它生成的照片都有浮水印，但只要付费就能把浮水印变小；重点是，它的使用方法很傻瓜，只需要一张女性的照片就行了，而且「穿越少」效果「越好」。
这个应用程式因为 Motherboard 的报导而爆红，甚至一度因为下载量过大，导致网站不堪负荷。讽刺的是，Motherboard 报导的目的，原本是为了要批评 DeepNude 对於女性的伤害。虽然DeepNude 随後在 6 月 27 日下架（其後又在同年 7 月 19 日以 30000 美元出售给匿名买家）；但其应用程式直到今天，仍在一些开源社群、种子网站等地方被不断的上传下载。
2020 年，Sensity AI 发现了另一个与 DeepNude 很相似的 Telegram bot，只要向这只机器人传送照片，便能直接生成裸照、且可以透过付费，得到去除浮水印或免等候等服务。根据统计，这当中起码有十多万名女性被生成裸照，当中包含未成年人。虽然被报导之後，相关群组一样已经被官方删除，但这绝对不会是最後一次，Deepfake 被这样恶性利用。
虽然 DeepNude 的创办人表示，他当初设计这个程式的初衷，是被小时候在杂志上看到的「X 光眼镜」所启发（其 logo 也是为此致敬），他有想过这个程式会不会伤害到人，但他也表示能用 DeepNude 做到的事，任何人用 Photoshop 也能做到；如果有任何人怀有恶意想要做坏事，那有没有 DeepNude 并不会有影响。然而情况却是，有人因为类似应用被威胁，甚至遭受到复仇式色情（Revenge porn）的攻击。
所谓「复仇式色情」，指的是未经过他人同意，任意散布含有他人色情内容之照片或影片等影像的报复手段。美国心理学会的一项研究发现，每 12 名女性中，就有一名最终在她们生命的某个阶段成为复仇式色情片的受害者。在过往，合意或是被偷拍的亲密影像在非自愿的状况下外流就已经够难防了，有了 Deepfake 之後就更难了：因为当事人根本不会意识到有这样的影像的存在。而这些内容被用於勒索，甚或是威胁名人、记者等案例层出不穷。
「我要怎麽证明那不是我？我走在路上、搭捷运，可能有一些陌生人，他看我或交头接耳的时候，我都会觉得，是不是他们看过那个影片？觉得我是那样的女生？觉得我是很糟糕的人？」在镜周刊的访问中，被换脸的 Youtuber 球球这样说道。尽管那真的不是自己，尽管内容是假的，但这类的色情内容造成的伤害却是真实的。
波士顿大学法律学教授 Dielle Citron 在他的着作《网路空间里的仇恨犯罪(Hate Crimes in Cyberspace)》中提到：Deepfake技术正在成为针对女性的武器，这些性爱影片当中的身体虽然不是自己的，却会对当事人造成影响，让他们不想再上网、难以获得或维持工作、并且感到不安。
Deepfake 最大的伤害不是来自技术，而是使用方式
从大量资料到一张照片、从专家操作到素人也行、从粗糙到以假乱真，Deepfake 的技术一直进步，而这已然打开的潘朵拉的盒子，要关上的方法，也必然需要人与科技的协力。
从辨伪技术的进步（延伸阅读：Deepfake 辨伪技术如何在魔高一尺时，能道高一丈呢？）、法规制度的更新（延伸阅读：应对Deepfake滥用，台湾修正刑法够用吗？），到协助被害人删除与争取权益等制度的完善，以及不看、不扩散，多理解技术对社会可能的影响：在面对 Deepfake 色情内容所造成的伤害，没有人是局外人。
参考资料
- Deepfake Porn Nearly Ruined My Life
- How to Detect a Deepfake Online: Image Forensics and Analysis of Deepfake Videos – Sensity
- THE STATE OF DEEPFAKES
- Deepnude: The Horrifying App Undressing Women
- 脸被偷走之後：无法可管的数位性暴力？台湾Deepfake 事件独家调查- 镜周刊Mirror Media
- Deepfake porn is ruining women’s lives. Now the law may finally ban it. | MIT Technology Review
- Deepfakes have got Congress panicking. This is what it needs to do. | MIT Technology Review
- A deepfake bot is being used to “undress” underage girls | MIT Technology Review
- Nonconsensual Pornography Among US Adults: A Sexual Scripts Framework on Victimization, Perpetration, and Health Correlates fo
- An AI app that “undressed” women shows how deepfakes harm the most vulnerable | MIT Technology Review
- Deepfakes have got Congress panicking. This is what it needs to do. | MIT Technology Review
- The biggest threat of deepfakes isn’t the deepfakes themselves | MIT Technology Review
- How to Detect a Deepfake Online: Image Forensics and Analysis of Deepfake Videos – Sensity
- The year deepfakes went mainstream | MIT Technology Review
- Inside the strange new world of being a deepfake actor | MIT Technology Review
- I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me | HuffPost UK News
水熊虫真的能跟量子位元「量子纠缠」吗？- 逼近 50% 的癌症研究实验无法被重现？RPCB 耗时 8 年点出「再现性危机」
- 大资讯时代也是大骇客时代！——你该认识的骇客新兴手法
- Omicron 变种病毒从哪来？打疫苗有用吗？Omicron 相关研究汇整
- 推理系动画毒杀利器！——认识致命的「河魨毒」
