【環(huán)球時(shí)報(bào)駐韓國(guó)特派記者 莽九晨 環(huán)球時(shí)報(bào)特約記者 韓雯】編者的話：震驚全球的韓國(guó)“N號(hào)房”案件主犯趙主彬仍在服刑，加大針對(duì)數(shù)字性犯罪處罰力度的“N號(hào)房預(yù)防法”實(shí)施也已近3年，但當(dāng)下韓國(guó)又被借助深度偽造技術(shù)實(shí)施的性犯罪帶來(lái)的恐懼所籠罩。在社交媒體上，特別是“電報(bào)”（Telegram）聊天室中，針對(duì)女性的深偽色情內(nèi)容被廣泛傳播，波及到大量未成年人、女大學(xué)生、女教師、女兵等?！俄n民族日?qǐng)?bào)》報(bào)道稱，深度偽造性犯罪已讓韓國(guó)女性“陷入恐慌”。韓國(guó)女性民友會(huì)日前發(fā)表聲明稱，女性失去日常生活的安全感，“仿佛生活在沒有國(guó)家的狀態(tài)中”。近日，韓國(guó)媒體和專家紛紛就造成深度偽造性犯罪潮的復(fù)雜原因展開反思，這背后既有人工智能技術(shù)發(fā)展帶來(lái)的新風(fēng)險(xiǎn)，也有韓國(guó)青少年性教育的缺失和法律意識(shí)的淡薄，還有懲罰力度弱、國(guó)家機(jī)關(guān)人手短缺以及結(jié)構(gòu)性性別歧視等一系列問題。

深度偽造+機(jī)器人分發(fā)+加密交易

《韓國(guó)時(shí)報(bào)》今年4月報(bào)道稱，隨著數(shù)字技術(shù)在人們的日常生活中發(fā)揮越來(lái)越大的作用，韓國(guó)超過1/4的性犯罪都是借助數(shù)字設(shè)備實(shí)施并在網(wǎng)絡(luò)上發(fā)生的。韓國(guó)統(tǒng)計(jì)廳的報(bào)告顯示，韓國(guó)數(shù)字性犯罪數(shù)量已連續(xù)兩年增加一倍以上。《韓國(guó)先驅(qū)報(bào)》報(bào)道稱，當(dāng)下，一些不法分子開始以惡劣的方式利用網(wǎng)絡(luò)平臺(tái)的新功能，數(shù)字性犯罪正呈現(xiàn)出新形式，更難預(yù)防和打擊。

深度偽造是在生成式人工智能（AI）近兩年迅猛發(fā)展后被最新運(yùn)用到數(shù)字性犯罪中的技術(shù)。韓國(guó)《亞洲日?qǐng)?bào)》分析稱，韓國(guó)“Z世代”對(duì)生成式AI接受能力強(qiáng)，普遍對(duì)其持積極態(tài)度。三星近日面向韓國(guó)、美國(guó)、英國(guó)、法國(guó)、德國(guó)的“Z世代”上班族進(jìn)行調(diào)查發(fā)現(xiàn)，在業(yè)務(wù)上需要幫助時(shí)，韓國(guó)受訪者最優(yōu)先選擇AI的占比高達(dá)80%，顯著高于其他國(guó)家。專家認(rèn)為，這一方面說明AI在韓國(guó)賦能范圍廣、影響程度深，另一方面也提醒人們，AI的潛在風(fēng)險(xiǎn)更不容忽視。

據(jù)韓國(guó)《時(shí)事》雜志8月31日?qǐng)?bào)道，目前在很多海外網(wǎng)站上都能用深度偽造技術(shù)制作色情內(nèi)容。有些網(wǎng)站只要輸入合成對(duì)象的社交媒體鏈接，就能制作色情內(nèi)容，甚至還有調(diào)節(jié)對(duì)象身材等功能，整個(gè)生成過程只需要不到兩分鐘。韓國(guó)女性人權(quán)振興院自2018年設(shè)立數(shù)字性犯罪受害者支援中心以來(lái)，截至今年8月25日，共向2154名深度偽造性犯罪案件受害者提供幫助，僅今年就有781人求助。照此趨勢(shì)，今年全年受害者恐超1000人。美國(guó)一家網(wǎng)絡(luò)安全企業(yè)的研究顯示，全世界一半以上深偽性剝削內(nèi)容受害者都是韓國(guó)人。

韓國(guó)梨花女子大學(xué)媒體融合專業(yè)教授劉承哲（音）表示，除了內(nèi)容生產(chǎn)，網(wǎng)絡(luò)空間中非法內(nèi)容的分發(fā)和傳播方式也已發(fā)生變化，這就是為什么數(shù)字性犯罪在呈指數(shù)級(jí)增長(zhǎng)的同時(shí)卻一直處于“隱藏狀態(tài)”。《時(shí)事》雜志報(bào)道稱，“電報(bào)”具有加密聊天功能，這也是其避開調(diào)查機(jī)關(guān)追蹤、成為數(shù)字性犯罪巢穴的原因。加害者制作完深度偽造色情內(nèi)容后，便通過簡(jiǎn)單編程利用機(jī)器人進(jìn)行內(nèi)容分發(fā)。截至8月28日，首爾警方已確認(rèn)8個(gè)相關(guān)機(jī)器人并展開調(diào)查。據(jù)悉，這些機(jī)器人最多可同時(shí)服務(wù)40萬(wàn)人。

在深度偽造性犯罪潮的背后，是一條涉及加密貨幣的利益鏈條。據(jù)韓國(guó)《今日亞洲》報(bào)道，“電報(bào)”聊天群運(yùn)營(yíng)者們初期會(huì)免費(fèi)制作并傳播深度偽造色情視頻，后期便開始培養(yǎng)會(huì)員并收錢斂財(cái)。用戶一開始可以免費(fèi)制作深度偽造色情內(nèi)容，之后需要支付電報(bào)上的虛擬貨幣才能合成。而如果沒有虛擬貨幣，可以通過邀請(qǐng)新用戶獲得貨幣。今年4月，“電報(bào)”開始向擁有1000名以上訂閱者的聊天群群主支付廣告收益，該收益只能通過加密貨幣支付，對(duì)用戶的匿名性有很徹底的保障。目前，“電報(bào)”上的一個(gè)非法深度偽造內(nèi)容制作頻道的訂閱者數(shù)量已經(jīng)超過27萬(wàn)。

韓國(guó)《世界日?qǐng)?bào)》報(bào)道稱，事件曝光后，聊天室運(yùn)營(yíng)者們?nèi)栽谟薪M織地繼續(xù)開展活動(dòng)。一些聊天室被關(guān)閉后，會(huì)以“避難所”等其他形式重新開放。用戶們通過邀請(qǐng)鏈接加入，一個(gè)聊天室可能瞬間超過2000人。甚至在某聊天室里，有用戶煽動(dòng)道：“即使新聞報(bào)道出來(lái)，也不要害怕，讓我們凌辱熟人，凌辱寫報(bào)道的記者。”

《韓民族日?qǐng)?bào)》報(bào)道稱，大部分深度偽造性犯罪受害者都要經(jīng)歷面對(duì)自己的臉被合成到色情圖像視頻中的痛苦。但是在韓國(guó)社會(huì)中，深度偽造性犯罪的嚴(yán)重性被大大低估，即使這種性犯罪廣泛發(fā)生的事實(shí)被曝光后，也有不少韓國(guó)網(wǎng)民表示“不知道這種犯罪為什么會(huì)造成很大的傷害”“如果是幾個(gè)人自己制作的，傷害應(yīng)該很小吧”。首爾大學(xué)媒體信息學(xué)教授金秀雅（音）表示：“數(shù)字性犯罪法規(guī)體系以受害者是否感受到性羞恥為中心，但人們會(huì)以合成圖里的身體不是真實(shí)存在的為由，將深度偽造性犯罪視為比非法拍攝嚴(yán)重程度更低的犯罪。”她強(qiáng)調(diào)：“但無(wú)論這種影像是否是真實(shí)的，只要有這樣的影像存在或有這樣的傳聞，受害者就會(huì)經(jīng)歷痛苦。”

七成加害者為10至19歲青少年

值得關(guān)注的是，在近期的深偽性犯罪浪潮中，未成年人的涉案之廣。韓國(guó)總統(tǒng)尹錫悅8月27日表示，此次曝光的事件中，不少受害者是未成年人，加害者也大多是十多歲的青少年。據(jù)韓聯(lián)社8月30日?qǐng)?bào)道，韓國(guó)近3年深度偽造性犯罪案件受害者中未成年人占比近六成，而涉嫌制作虛假色情視頻被立案的加害者中，10-19歲人群的占比去年達(dá)到75.8%，今年1至7月為73.6%。

“這不是突然在青少年中爆發(fā)的，而是一直存在。”首爾青少年文化中心主任李明和（音）表示，“深度偽造正像一種游戲文化一樣傳播開來(lái)。”《韓國(guó)時(shí)報(bào)》報(bào)道稱，盡管教育部已作出努力，但校園暴力事件仍在激增。從校園暴力的類型來(lái)看，身體暴力和辱罵最常見，而性暴力和網(wǎng)絡(luò)暴力緊隨其后。

目前，一些深度偽造案件加害者的父母開始為了保護(hù)自己的孩子展開行動(dòng)。韓國(guó)紐西斯通訊社8月28日?qǐng)?bào)道稱，繼深偽性犯罪受害地區(qū)和學(xué)校等信息被曝光后，加害者名單也開始在社交媒體上流傳，其中一些據(jù)推測(cè)是十多歲男學(xué)生的父母正在委托相關(guān)公司刪除社交媒體上關(guān)于自家孩子的信息及其使用深偽技術(shù)制作的非法圖像。

《韓國(guó)先驅(qū)報(bào)》報(bào)道稱，未成年人性觀念的扭曲和法律意識(shí)的淡薄，助長(zhǎng)了此類內(nèi)容的泛濫。漢沽嶺南大學(xué)社會(huì)學(xué)教授許昌德（音）表示，在韓國(guó)社會(huì)，談?wù)撔匀允且粋€(gè)禁忌，人們?cè)诩彝ズ驼n堂上都避免討論性問題，導(dǎo)致韓國(guó)年輕一代對(duì)性缺乏充分了解。許多年輕人只能通過互聯(lián)網(wǎng)和色情作品了解性，這往往導(dǎo)致他們對(duì)性的看法扭曲、態(tài)度不健康。根據(jù)教育部的指導(dǎo)方針，目前韓國(guó)小學(xué)、初中和高中每年的性教育時(shí)間為15個(gè)小時(shí)。教育部對(duì)地方層面的性教育沒有標(biāo)準(zhǔn)化指導(dǎo)，性教育課程也常由韓語(yǔ)、英語(yǔ)、體育等科目的老師代為教授。此外，韓國(guó)官方媒體和學(xué)校也沒有對(duì)性犯罪進(jìn)行足夠的普法教育，所以網(wǎng)絡(luò)上的案件曝光只會(huì)激起學(xué)生的獵奇心理，使得他們更容易模仿或參與數(shù)字性犯罪。

近日，韓國(guó)專家呼吁學(xué)校用更系統(tǒng)的方式開展性教育，并強(qiáng)調(diào)需要更新課程內(nèi)容以反映當(dāng)前的社會(huì)問題。韓國(guó)翰林大學(xué)社會(huì)學(xué)教授申慶雅（音）建議，將性別平等教育納入正規(guī)學(xué)校課程，并更頻繁地教授此類課程，例如每月一次。她說：“學(xué)生從小就開始接觸數(shù)碼設(shè)備，因此應(yīng)盡早開始這種教育，確保他們從小學(xué)低年級(jí)開始接受統(tǒng)一指導(dǎo)。”

“說到底，預(yù)防深度偽造性犯罪的根本措施不就是通過教育讓人們不要成為犯罪者嗎？”韓國(guó)未來(lái)技術(shù)文化研究院院長(zhǎng)河敏會(huì)（音）9月2日刊文稱，如此多未成年人參與深偽性犯罪表明，韓國(guó)的數(shù)字公民教育和媒體素養(yǎng)教育沒有得到落實(shí)。在她看來(lái)，對(duì)“技術(shù)該用來(lái)做什么、不該用來(lái)做什么”的正確認(rèn)知比掌握技術(shù)更重要。相比較之下，越來(lái)越多的美國(guó)大學(xué)要求新生接受媒體素養(yǎng)培訓(xùn)，包括如何理智地使用媒體、如何適當(dāng)?shù)刈珜?a href="http://m.xebaby.net/news/ycsp/" target="_blank">評(píng)論等，但這些在韓國(guó)并沒有被教授。

“大多數(shù)參與者都沒受到懲罰”

據(jù)韓國(guó)《亞洲經(jīng)濟(jì)》報(bào)道，政府宣布對(duì)深偽性犯罪采取強(qiáng)有力回應(yīng)后，一個(gè)討論如何應(yīng)對(duì)調(diào)查的在線社區(qū)隨之出現(xiàn)，不少加害者或其父母在社區(qū)中表達(dá)擔(dān)憂。一位用戶發(fā)帖問：“我的兒子在一個(gè)深偽聊天室中，這樣可以嗎？”該社區(qū)一名管理層用戶揚(yáng)言：“4年前發(fā)生過類似的事情，除了主犯和幾名共犯外，大多數(shù)參與者都沒受到懲罰……聊天室里的孩子們可以放心。”

“在英國(guó)和美國(guó)，制作深偽內(nèi)容就會(huì)受罰。在韓國(guó)，只有分發(fā)才會(huì)。”韓國(guó)《朝鮮日?qǐng)?bào)》報(bào)道稱，根據(jù)韓國(guó)《性暴力犯罪處罰等相關(guān)特例法》第十四條第二款，任何人對(duì)他人的面部、身體、聲音或視頻進(jìn)行淫穢編輯、合成或傳播，將被處以最高5年監(jiān)禁或最高5000萬(wàn)韓元的罰款。但如果無(wú)法充分證明加害者想分發(fā)該內(nèi)容，只是制作和觀看是不會(huì)受到懲罰的。相較之下，英國(guó)司法部今年4月宣布，利用深度偽造制作色情內(nèi)容的人將被定罪，無(wú)論是否共享或分發(fā)。今年7月，美國(guó)參議院也通過法案，對(duì)深度偽造內(nèi)容受害者進(jìn)行賠償。9月1日，美國(guó)加州立法機(jī)構(gòu)批準(zhǔn)打擊深度偽造相關(guān)提案的做法也受到韓媒的關(guān)注。

事實(shí)上，“N號(hào)房”事件被曝光后，韓國(guó)國(guó)會(huì)也通過了被稱為“N號(hào)房預(yù)防法”的《信息通信網(wǎng)法》修訂案，并于2021年12月生效。修正案已實(shí)施近3年，但關(guān)于其效果有限的討論一直存在。8月28日，用大學(xué)校友等數(shù)十名女性的照片非法合成色情內(nèi)容的案件，即“首爾大學(xué)非法合成物性犯罪案”的共犯在一審中被判處5年有期徒刑，這是該案涉案人員首次被判刑，但也有批評(píng)聲音稱處罰過輕。8月29日，韓國(guó)執(zhí)政黨國(guó)民力量黨和政府決定，將制定加強(qiáng)深度偽造性犯罪處罰力度的立法，包括考慮將傳播深度偽造色情視頻的刑期上限由5年提高至7年，以及降低“觸法少年”（10歲以上未滿14歲不受刑事處罰）最低年齡標(biāo)準(zhǔn)。韓國(guó)教育部近日還成立“應(yīng)對(duì)校園深度偽造事件緊急工作組”，并宣布違規(guī)學(xué)生可能會(huì)被開除。

據(jù)《亞洲日?qǐng)?bào)》報(bào)道，深度偽造性犯罪事態(tài)嚴(yán)重，但數(shù)字性犯罪受害者支援中心的預(yù)算預(yù)計(jì)明年將進(jìn)一步被削減。韓聯(lián)社9月2日?qǐng)?bào)道稱，盡管韓國(guó)數(shù)字性犯罪加害者可能達(dá)數(shù)十萬(wàn)人，但在某些地區(qū)，偵查人員的數(shù)量反而有所減少。截至今年6月，韓國(guó)18個(gè)市道網(wǎng)絡(luò)性暴力調(diào)查組總?cè)藬?shù)僅為131人。

《韓民族日?qǐng)?bào)》援引韓國(guó)女性人權(quán)專家金秀晶（音）的話報(bào)道稱，女性成為深偽色情內(nèi)容的目標(biāo)，“是因?yàn)椴粌H在日常生活中，在公共領(lǐng)域也不把女性視為平等存在的性別歧視觀念在起作用”。韓國(guó)女性民友會(huì)批評(píng)稱，這次集體犯罪是性別歧視的延長(zhǎng)線，“政府此前還試圖廢除女性家族部，漠視女性的社會(huì)痛苦”。該組織呼吁：“政府應(yīng)設(shè)立性別平等部門，制定跨部門、綜合性的長(zhǎng)短期對(duì)策，以解決結(jié)構(gòu)性性別歧視問題。”