8 月 30 日，多个关于 " 韩国 AI 深度伪造淫秽影像 " 的话题词引发网友热议。
多名韩国女性接到陌生人发来的骚扰信息。她们并不知道，自己的姓名、电话、就读学校、家庭住址等个人信息已被传遍多个聊天室。
和个人信息一起被传阅的，还有她们的照片。不法分子把她们的照片制作成涉黄图片，供聊天室里的人们观看。
这些受害者们可能是大学生、护士、教师，甚至是小学生，而散布这些消息的人，可能是受害者的熟人 ……
一名小学女教师告诉记者，自己被学生告知，一个聊天室里有自己的涉黄照片。让她崩溃的是，上传者竟是自己的学生。
据韩国多家媒体报道，最近，韩国再现 "N 号房 " 丑闻，" 深度伪造 "，即利用 AI 换脸制造色情图频，并通过社交媒体平台传播的性犯罪行为被大量曝光。
经过韩国警方和记者调查，" 深度伪造 " 犯罪和 "N 号房事件 " 一样将特定职业女性性对象化，女兵、女教师、女护士成为非法合成色情图频的目标，出现了 " 女教师房 "、" 护士房 "、" 女兵 " 等群组。最近，以女性家人为对象的 " 家庭房 "、" 近亲房 " 等也相继被发现。
自称韩国籍女子甚至在中国的微博上求助并曝光相关事件。
" 你是朱华静吗？"
1200 个人看过她的照片
2023 年春天，女大学生朱华静收到了一条匿名短信，称 " 社交媒体‘电报’（Telegram）里有人在分享你的照片 "，后面有一个聊天室链接。
进入聊天室后，她被那些聊天内容吓坏了。
" 那里有数十张裸体照片，看起来像是我的照片。可我从未拍过那样的照片。" 朱华静说。" 我的脸上被写着不堪入目的脏话，嘲笑我即使是名校大学毕业生，找到了好工作，到头来也不过是供男人玩乐的工具。"
那些照片是通过深度伪造 ( deep fake ) 技术合成的。有人还用 AI 软件生成了一段音频：" 主人，我是你的奴隶。"
朱华静听了好几遍，声音和自己很像。可她知道，那不是真的。
聊天室里可以利用软件给人 " 脱掉 " 衣服。
该聊天室建于 2020 年，群里有多达 1200 人。也就是说，至少有 1200 个人看过朱华静的照片。不法分子们在群里直呼朱华静的名字，就像她的老朋友一样，而她对那群人一无所知。
一想到自己就这样被那群不法分子们围观，朱华静觉得天旋地转，恶心到想吐。然而，之后发生的事情，更让她心生后怕。
有人知道她去过聊天室后，开始公然骚扰她。
朱华静说：" 我每天会接到 20 到 30 通骚扰电话，他们在电话里讲下流的语言，给我发短信，写着‘我在聊天室里看见你了’‘确定照片里的人是你吗’。"
她的社交媒体账号也被人疯狂发私信，聊天软件会收到很多条陌生人发来的加好友申请。
朱华静打算对这些骚扰冷处理，拒接一切电话，注销了社交媒体账号。可那群人对她步步紧逼，有人合成了她朋友的照片，逼她就范，否则就会 " 让朋友因自己而受苦 "。
走投无路的朱华静决定报警，并把自己收集的信息交给警方。很快，警方根据照片发布者的 IP 追踪到一名男性嫌疑人，将其抓捕。
警察告诉朱华静，该男子与她就读同一所大学。他们听过同一场讲座，在同一个学生食堂用餐。
朱华静崩溃了。" 他知道我的一切，甚至与我擦身而过。那 1200 个人都是如此，我却浑然不知 ……"
目前，该案件正在首尔中央地方法院进行一审。8 月 14 日，朱华静出现在法庭上，以受害者的身份向法官陈述自己的经历。
她说：" 可能有许多人无法理解那个聊天室给我造成的伤害，有人甚至认为我在小题大做。但我必须要这么做，我要公开这些经历，让更多的人了解那群人做的事情有多坏，让更多的坏人付出代价！"
在一个拥有 1300 多名参与者的大聊天室里，有来自韩国几十所大学的众多小型个人聊天室。
韩国近三年深度伪造淫秽影像案件
受害者中未成年人占比近六成
最大在野党共同民主党议员杨富男 30 日从警察厅方面获取的资料显示，2021 年至 2023 年，共有 527 名深度伪造淫秽影像受害者报案，未成年人占比达 59.8%，远高于 20～29 岁（32.1%）、30～39 岁（5.3%）和 40～49 岁（1.1%）。未成年人占比从 2021 年的 64.6% 略降至 2022 年的 52.9%，而去年再升至 62%。
随着技术发展，使用深度伪造技术制造虚假视频更加方便，导致加害者中未成年人占比明显上升。涉嫌制作虚假视频被立案的加害者中，10～19 岁占比 2021 年为 65.4%，2022 年略降至 61.2%，去年反弹至 75.8%，今年 1 至 7 月为 73.6%。
资料图片：社交平台 " 电报 "（Telegram）上出现的深伪色情内容群聊频道截图
使用 deepfake 制作非法合成视频并在 Telegram 上传播的所谓 " 熟人侮辱室 " 的经营者已被移交给检察官办公室拘留。受害者人数达到 246 人。
首尔警察厅 " 深度伪造等虚假视频集中应对工作组 "30 日宣布，开设并运营 Telegram" 熟人侮辱室 " 的 20 多岁男子 A 先生于 22 日被紧急逮捕，并于当天送交检察官办公室拘留。以同样的罪名拘留的还有 B 先生，他是一名 30 多岁的男子，经营一家成人网站约四年，检察官办公室收到了 2 万多张非法性图片，包括儿童和青少年的性剥削材料。
涉案人数可能达 22 万
据环球时报，8 月 27 日韩国总统尹锡悦表示，最近以不特定人群为对象的深度伪造技术影像通过社交媒体迅速传播，不少受害者是未成年人，加害者也大多 10 多岁。他表示，依靠匿名恶意利用深度伪造技术是犯罪行为，希望有关部门通过掌握实际情况和调查，彻底根除这种数字技术犯罪。
针对女性的深度伪造犯罪在韩国日趋猖獗，不仅大学校园中出现此类案件，甚至连中小学、军队等场所也成为高发地，社交媒体上，特别是 " 电报 "（Telegram）群组中不断有受害学校及被害者信息流出。
8 月 26 日，韩国女性民友会发布题为《群体性暴力参与者达到 22 万人，社会崩溃要被放任到何时》的报告，指出在 " 电报 " 群组中，只需上传熟人照片，付费后 5 秒钟内就能生成裸体合成图。令人震惊的是，这个聊天群的参与人数高达 22.7 万。民友会在报告中质问道："（韩国）女性们生活在一个无法有效惩罚或预防针对女性犯罪和暴力的社会中，失去了日常生活的安全感，仿佛生活在一个没有国家的状态中。这样的社会还有存在的必要？"
面对深度伪造性犯罪的蔓延，韩国社会各界呼吁政府采取更强硬措施。
韩国国会女性家庭委员会 27 日表示，将于 9 月召开紧急对策会议，商讨相关解决方案。国会相关网站上还出现一份征求公众同意的请愿书，要求严厉惩罚 " 电报 " 平台性犯罪的肇事者。
" 深度伪造 " 犯罪频发引发公愤，
韩国将加强打击力度
据韩联社 29 日报道，韩国政府和执政党国民力量党当天同意，加强针对利用 " 深度伪造 "（deepfake）技术进行犯罪行为的打击力度。报道称，社交媒体近期出现大量针对年轻女性的伪造淫秽影像，引发韩国公众愤怒。
韩联社称，最近社交媒体平台 " 电报 "（Telegram）被发现存在大量疑似分享淫秽影像的群组，这些淫秽影像经 " 深度伪造 " 换脸而制成，以不特定人群为对象，受害者包括普通女性和女兵，许多受害者和犯罪者是青少年。
当地时间 8 月 29 日，在韩国国会举行的紧急会议上，韩国政府和执政党还决定推进与 " 电报 " 的运营公司构建合作热线，并采取立法措施，打击以传播为目的制作 " 深度伪造 " 色情内容的犯罪行为，将相关最高刑罚从目前的 5 年提高到 7 年监禁。
韩国执政党国民力量党政策委员会主席金相勋在会议结束后表示，"（‘深度伪造’色情内容）正在通过‘电报’广泛传播，但由于其服务器位于海外，国际合作似乎面临挑战。" 他补充说，韩国政府将与 " 电报 " 的运营方举行会议，并寻求与该公司建立热线，以推动建立定期协商。
与此同时，韩国国家媒体监督机构——韩国广播通信委员会表示，由于 " 电报 " 创始人兼首席执行官帕维尔 · 杜罗夫已经在法国被逮捕，韩国方面已紧急致函法国当局，要求协助打击网络色情内容犯罪。
韩国国民力量党党首韩东勋敦促政府迅速采取措施遏制此类犯罪行为，并强调有必要下调未成年人承担刑事责任的年龄标准。目前，根据韩国《少年法》，年龄在 10 至 14 岁之间的儿童不对自己的行为承担刑事责任，不会被送往监狱，而是会被送去少年拘留所，或被判罚从事社区服务。
报道称，在这场会议上，韩国政府和执政党还同意设立一个跨部门工作组，负责领导打击 " 深度伪造 " 犯罪工作。
韩国国防部表示，正在积极配合警方调查，并采取措施保护受害者，比如提供咨询和接收举报。该部门发言人表示，" 我们意识到情况的严重性 …… 我们还将采取各种预防措施，比如预防教育。"
在 8 月 27 日举行的政府内阁会议上，韩国总统尹锡悦敦促执法机关加大打击数字性犯罪的力度，以打击利用人工智能（AI）技术生成的 " 深度伪造 " 内容。
还没有评论，来说两句吧...