一文读懂韩国AI换脸色情危机

韩国爆发大规模深度伪造(Deepfake)性犯罪危机,其中受害者约37%为未成年人,目前登记的受害学校已高达数百所。韩国已成为这个新出现的全球性问题的中心,其被评为最容易受深度伪造技术性剥削的国家。韩国总统尹锡悦要求彻查并根除相关犯罪,并警告所有女性都是潜在的受害者。不过,除去法律及技术上的难度之外,韩国根深蒂固的社会权力结构使得这一问题的解决将变得漫长而艰难。


年轻的施害者和受害者

韩国媒体和社群用户最近发现大量Telegram聊天群组,群内成员正在发布和分享用深度伪造技术制成的色情影像。用户主要是青少年学生,他们会上传自己认识的同学或老师的照片,其他成员再以“AI换脸”产出露骨画面,也有人从其他社交媒体平台截取受害者照片当作素材。

一文读懂韩国AI换脸色情危机



有韩国学生开发出了深伪受害学校地图,日前超过500多所小学、初中、高中和大学被登记为受害学校。韩国女性家庭部下属机构周三(8月28日)发布的一份调查结果显示,从今年1月1日至8月25日,向数字性犯罪受害者支援中心请求帮助的受害者共有781人,其中19岁以下未成年人有288人,在受害者总数中占36.9%。

另外,请求帮助的未成年人受害者从2022年的64人增至2024年的288人,仅2年增加3.5倍,增幅高于同期请求帮助的受害者总人数的增幅。


据韩国数字性犯罪受害者支援中心分析,10多岁和20多岁等低龄受害者占比较大,是因为这个群体偏好社交媒体等线上社交方式。随着深度伪造技术发展、生成式人工智能出现,非法制作伪造淫秽视频的技术普及,导致相关受害者增加。

数字性犯罪从未停歇

尽管这个问题在全球广泛存在,但据美国安全服务机构“Security Hero”最近公开的《2023深度伪造技术现状》报告,韩国被评为最容易受到深度伪造技术性剥削的国家。曾曝光“N号房”事件的前共同民主党紧急对策委员会共同委员长朴智贤表示,目前韩国涉及深度伪造犯罪的人数可能达到22万,众多女性因此陷入不安和恐惧之中。

日前有多名韩国女性通过中国互联网发出求助信息。其中,网名为“nosunae_520”的用户发布消息称:“在韩国发生‘N号房’事件时,几乎没有抓捕加害者,也没有告知加害者的名单,因此此次事件也会安静地过去。”她拜托中国女性朋友们把这件事传出去。