大公報綜合韓聯社、中央日報報道，利用人工智能（AI）深度偽造技術製作及傳播色情影像的網絡犯罪已在多國出現。韓國政府28日表示，今年已有超過780名受害者求助，包括學生、教師、女兵等，其中未成年人佔比超過三成。在社交媒體Telegram上，存在大量上傳真人照片以「定製」AI色情圖片的聊天室，部分聊天室成員超過20萬人。韓國總統尹錫悅指示有關部門「徹底根除」此類犯罪。韓國警方27日宣布，將開展為期7個月的打擊深偽性犯罪專項行動。
深偽指利用AI將圖像或影片疊加至另一圖像或影片上，達到換臉或變聲等「偽造效果」。將真人影像與色情影像疊加，便可生成深偽色情製品。
韓國女性家庭部下屬女性人權振興院28日發布的最新調查結果顯示，自2018年4月該機構設立數字性犯罪受害者支援中心以來，共向超過2100名AI深偽案件受害者提供幫助；今年以來，超過780人前來求助，包括288名未成年人，佔比高達36.9%。韓聯社稱，近期Telegram被發現存在大量製作和傳播AI深偽色情影像的聊天室，每個少則有數千人參與，多則有10萬人以上，受害者包括學生、教師、女兵等。《韓民族日報》發布的截圖顯示，其中一個「定製」AI色情圖片的聊天室擁有逾22萬成員。
尹錫悅27日說，惡意利用深偽技術是犯罪行為，希望有關部門徹底根除這種數字技術犯罪。韓國廣電通信審議委員會27日至28日緊急召開會議討論此事，並呼籲Telegram等社媒配合韓國當局刪除深偽色情內容。
韓逾百學校師生受害
首爾大學今年早些時候捲入深偽性犯罪醜聞，2名畢業生被揭參與製作包括學妹在內至少61名女性的深偽色情影像。《中央日報》28日報道稱，韓國全國教職員工工會調查發現，深偽性犯罪的受害者遍布40多所中小學，包括學生和教師。韓聯社稱，受害學校可能超過100所。首爾一名初一學生說：「班主任告訴我們，最好刪除所有可能被惡意利用的臉部照片……我甚至把只向朋友公開的Instagram賬號的照片也刪除了。」
韓國警方宣布，將從本月28日至明年3月31日開展集中打擊深偽性犯罪專項行動，清查整治利用深偽技術製作及傳播虛假影像的行為，尤其是針對未成年人的犯罪。韓國已於2021年修訂《性暴力犯罪法》，禁止製作及傳播深偽色情影像。根據現行法律，持有或觀看未成年人深偽色情影像者將被判處一年以上監禁；製作及傳播此類影像輕則獲刑3年，重則無期徒刑。但韓媒指出，Telegram服務器設在韓國境外，且涉案人員可輕易刪除色情影像，偵查難度較大。
報道還指出，由於使用深偽技術的難度較低，青少年參與犯罪的案件激增。2021年至2023年，因涉嫌製作虛假影像被立案的嫌疑人中，10至19歲青少年佔比從65.4%增至75.8%。
英監管立法被擱置
美國、英國、西班牙等國亦面臨深偽性犯罪問題，但監管立法滯後。21歲的美國女星珍娜奧特嘉24日接受採訪時透露，她未成年時曾在社交平台推特（現更名為X）上看到利用自己照片生成的深偽色情內容，令她下定決心刪除賬號。
英媒7月披露，30多位英國女政客的數百張深偽照片或經過數字處理的照片出現在色情網站上，受害者包括工黨副黨魁雷納、前內政大臣帕特爾等。英國政府4月宣布計劃填補監管漏洞，立法禁止未經當事人同意製作深偽色情影像。但隨着時任首相蘇納克5月宣布提前舉行大選並解散議會下議院，擬議的法律被擱置。
多國涉AI性犯罪案例及監管法規
韓國
案例：今年5月，韓國警方宣布已逮捕包括2名首爾大學畢業生在內的5名嫌疑人，他們涉嫌自2021年起利用人工智能（AI）深度偽造技術製作換臉色情照片和視頻，並在Telegram私密直播間傳播。受害女性至少有61人，包括12名首爾大學學生或校友。
監管法規
2021年，韓國修訂《性暴力犯罪法》，禁止製作及傳播深偽色情影像。
西班牙
案例：西班牙西南部埃斯特雷馬杜拉地區去年發生AI深偽裸照勒索案，28名11歲至17歲少女受害。至少11名當地的男孩涉案，他們在社媒傳播這些「假裸照」，甚至威脅敲詐受害人。
監管法規
西班牙在監管AI性犯罪方面存在法律漏洞。
美國
案例：近年美國多家中學發生學生利用AI深偽技術製作並傳播同學色情圖片的事件。據學校和警方報告，一些男學生利用「裸體」或「脫衣」等AI程式，將女同學參加學校舞會等活動的真實照片，修改合成以假亂真的裸照。
監管法規
弗吉尼亞州、加州、明尼蘇達州和紐約州等已通過法令，禁止傳播偽造色情作品，並允許受害者控告製作者，但還有很多地區立法滯後。
（來源：大公報A24：國際 2024/08/29）
