英國廣播公司（BBC）日前播出關於2019年曝光，勝利、鄭俊英、崔鍾訓等南韓藝人涉嫌偷拍、散播不雅影片，甚至涉及集體性暴力等犯罪行為的紀錄片，一天之內點閱破三百萬，也讓南韓性犯罪議題再次受到關注。其中，兒少性剝削案件與日俱增，為了防止未成年不雅影片在網路上傳播，首爾政府推出利用AI監控系統，快速偵測包含兒少受害者的內容，刪除並送交檢調單位，希望能讓傷害降到最低。
一名16歲少女的噩夢，從誤入兼職聊天工作開始。手機另一頭開出條件，只要聊個天就能得到1萬5千台幣報酬，若是發送自己私密部位照片，還能加碼1千多台幣。只是懵懂的女孩沒想到，發送後對方不僅不付錢，反將圖片傳播出去。類似情況一樁接一樁，就連身邊尊敬的老師，也可能是施行性暴力的惡魔。
YonhapnewsTV記者：「A某通過Kakao Talk或是Telegram聊天工具，建立了名為『尋找女朋友』的聊天室，以物色受害對害。他對小學生或中學生下達性行為指示後，讓他們拍攝並傳送，受害者有120名，製作的性剝削內容則多達1900多個。」
首爾這名老師的行徑持續長達6年才被揭發，最終被判13年有期徒刑。通過網路傳播的性犯罪日益猖獗，尤其青少年受害者與日俱增。根據南韓女性家族部數據，2023年刪除的私密影像有24萬多則，光是關於兒少的就佔了21.6%。為了防止損害再擴大，首爾當局開發出能掌握兒童青少年性影像的AI技術，展開管制。
YonhapnewsTV記者：「在電腦畫面搜索欄上寫上『女高中生作品』關鍵詞，並附上一張照片，過沒多久網上便出現了疑似含有兒童、青少年受害內容的圖片。」
這是首爾市政府推出的監控系統，通過1年內讓AI瀏覽1500件內容來學習和訓練。現在只要90秒就能辨別出性影像中是否有兒童或青少年，大為縮短原本人類需要2個小時的工作時間。速度快以外，準確率也很高。
首爾研究院數位城市研究員 金俊哲（音譯）：「預計對年齡的預測，更精確了85%以上。」
YonhapnewsTV記者：「就算不露臉，也可以通過校服或玩偶等影片中的各種事物，進一步提高分析（兒少）受害影片的準確度。」
系統篩選過後，即便沒有受害者舉報，政府機構也將迅速刪除這些流傳在網路的影像和圖片，並送交調查機關作為日後取證資料。
首爾網路性犯罪支援中心負責人 文己賢（音譯）：「（青少年）最擔心的是被父母知道這件事，因此出現很多隱瞞的情況。」
會開發這項技術原來是因為，不少孩子在事發後不敢讓家長知道，導致第一時間沒能及時阻止。如今首爾政府有了AI小幫手，便能輕鬆幫助受害者，中斷私密內容傳播。只是事後管制當然不夠，尤其是近期發生的這些案件，讓呼籲政府設立預防法案的聲浪，排山倒海。
YonhapnewsTV主播：「他們利用匿名聊天程式甩開警方調查，持續犯罪將近3年。包括首爾大學校友12人在內，受害者達到將近100人。」
YonhapnewsTV主播：「有關2019年爆發的Burning Sun夜店事件的BBC紀錄片，公開後成為熱門話題，一天之內點閱率就超過了300萬次。」
還有前BIGBANG成員李勝利在2019年遭爆，他經營的夜店涉嫌流通非法藥品、勾結警局高層和性招待，甚至和歌手鄭俊英、前FTIsland崔鍾訓等人涉嫌性犯罪等惡劣行徑，近期在BBC紀錄片中完整揭露，掀起海內外熱烈討論。
性犯罪頻繁，促使南韓各界強烈要求政府加快腳步祭出防制措施。
首爾女子大學訊息保護學系教授 金明洙：「歐盟制定法律規定用AI生成的內容必須標示清楚，但我們國家沒有那樣的法律。」
敦促設立《AI基本法》，嚇阻深偽犯罪的同時，也有人建議修正《電信事業法》，加強審查和限制因為匿名性較強成為法律漏洞的通訊軟體。
南韓律師 閔高恩：「數位犯罪很難確定加害者是誰，因此有必要制定《電信事業法》等相關規定，通過（通訊軟體的）南韓分公司協助調查。」
希望透過補足現有法律缺失，從根本防止網路成為南韓性犯罪溫床。
