英國廣播公司(BBC)日前播出關於2019年曝光,勝利、鄭俊英、崔鍾訓等南韓藝人涉嫌偷拍、散播不雅影片,甚至涉及集體性暴力等犯罪行為的紀錄片,一天之內點閱破三百萬,也讓南韓性犯罪議題再次受到關注。其中,兒少性剝削案件與日俱增,為了防止未成年不雅影片在網路上傳播,首爾政府推出利用AI監控系統,快速偵測包含兒少受害者的內容,刪除並送交檢調單位,希望能讓傷害降到最低。
一名16歲少女的噩夢,從誤入兼職聊天工作開始。手機另一頭開出條件,只要聊個天就能得到1萬5千台幣報酬,若是發送自己私密部位照片,還能加碼1千多台幣。只是懵懂的女孩沒想到,發送後對方不僅不付錢,反將圖片傳播出去。類似情況一樁接一樁,就連身邊尊敬的老師,也可能是施行性暴力的惡魔。
YonhapnewsTV記者:「A某通過Kakao Talk或是Telegram聊天工具,建立了名為『尋找女朋友』的聊天室,以物色受害對害。他對小學生或中學生下達性行為指示後,讓他們拍攝並傳送,受害者有120名,製作的性剝削內容則多達1900多個。」
首爾這名老師的行徑持續長達6年才被揭發,最終被判13年有期徒刑。通過網路傳播的性犯罪日益猖獗,尤其青少年受害者與日俱增。根據南韓女性家族部數據,2023年刪除的私密影像有24萬多則,光是關於兒少的就佔了21.6%。為了防止損害再擴大,首爾當局開發出能掌握兒童青少年性影像的AI技術,展開管制。
YonhapnewsTV記者:「在電腦畫面搜索欄上寫上『女高中生作品』關鍵詞,並附上一張照片,過沒多久網上便出現了疑似含有兒童、青少年受害內容的圖片。」
這是首爾市政府推出的監控系統,通過1年內讓AI瀏覽1500件內容來學習和訓練。現在只要90秒就能辨別出性影像中是否有兒童或青少年,大為縮短原本人類需要2個小時的工作時間。速度快以外,準確率也很高。
首爾研究院數位城市研究員 金俊哲(音譯):「預計對年齡的預測,更精確了85%以上。」
YonhapnewsTV記者:「就算不露臉,也可以通過校服或玩偶等影片中的各種事物,進一步提高分析(兒少)受害影片的準確度。」
系統篩選過後,即便沒有受害者舉報,政府機構也將迅速刪除這些流傳在網路的影像和圖片,並送交調查機關作為日後取證資料。
首爾網路性犯罪支援中心負責人 文己賢(音譯):「(青少年)最擔心的是被父母知道這件事,因此出現很多隱瞞的情況。」
會開發這項技術原來是因為,不少孩子在事發後不敢讓家長知道,導致第一時間沒能及時阻止。如今首爾政府有了AI小幫手,便能輕鬆幫助受害者,中斷私密內容傳播。只是事後管制當然不夠,尤其是近期發生的這些案件,讓呼籲政府設立預防法案的聲浪,排山倒海。
YonhapnewsTV主播:「他們利用匿名聊天程式甩開警方調查,持續犯罪將近3年。包括首爾大學校友12人在內,受害者達到將近100人。」
YonhapnewsTV主播:「有關2019年爆發的Burning Sun夜店事件的BBC紀錄片,公開後成為熱門話題,一天之內點閱率就超過了300萬次。」
還有前BIGBANG成員李勝利在2019年遭爆,他經營的夜店涉嫌流通非法藥品、勾結警局高層和性招待,甚至和歌手鄭俊英、前FTIsland崔鍾訓等人涉嫌性犯罪等惡劣行徑,近期在BBC紀錄片中完整揭露,掀起海內外熱烈討論。
性犯罪頻繁,促使南韓各界強烈要求政府加快腳步祭出防制措施。
首爾女子大學訊息保護學系教授 金明洙:「歐盟制定法律規定用AI生成的內容必須標示清楚,但我們國家沒有那樣的法律。」
敦促設立《AI基本法》,嚇阻深偽犯罪的同時,也有人建議修正《電信事業法》,加強審查和限制因為匿名性較強成為法律漏洞的通訊軟體。
南韓律師 閔高恩:「數位犯罪很難確定加害者是誰,因此有必要制定《電信事業法》等相關規定,通過(通訊軟體的)南韓分公司協助調查。」
希望透過補足現有法律缺失,從根本防止網路成為南韓性犯罪溫床。
◤Blueseeds永續生活◢