隨著AI功能不斷強大，南韓湧現大量利用Deepfake技術製作色情內容案件。當地警方表示，有犯罪份子將一些人的照片，利用Deepfake製作色情圖像及影片後，於社交媒體Telegram群組傳播，許多韓國女性包括未成年人成為受害者。韓國總統尹錫悅要求當局採取更多措施，消除相關性犯罪行為。
【新聞有價 記者有格 立即訂閱：https://bit.ly/3wGQh7c】
綜合韓媒報道，社交媒體平台Telegram近期出現一系列與韓國各地學校相關的聊天群，用戶主要是青少年學生，他們上傳自己認識的老師或同學照片，還包括未成年女孩。不過群內會員將這些照片利用Deepfake技術，轉變成色情圖像或影片，被數十萬人傳播觀看。
Deepfake技術主要透過人工智能（AI）生成，可以將真人的臉與虛假身體連接一起，而隨著這項技術的深入發展，外界越來越難辨別真偽。也因為如此，南韓不少人利用該項技術製作並傳播色情影像。
南韓警方表示，該國網絡Deepfake性犯罪激增，今年前七個月報告了297宗案件，較去年全年180宗和2021年160宗高。過去3年中，青少年犯案佔犯罪總數三分二以上。韓國媒體監管機構召開緊急會議商量對策。
南韓教師工會認為，最近一系列事件中，逾200所學校受影響。教育部則指過去幾年針對教師Deepfake數量激增。女權活動家、反對黨共同民主黨前臨時黨魁朴志玹表示，政府需要宣佈「國家緊急狀態」，以應對韓國的深偽色情問題。
Telegram擁有近10億用戶，其俄羅斯裔創辦人杜羅夫（Pavel Durov）周日（8月25日）在巴黎被捕，他涉嫌縱容罪犯在平台進行犯罪活動，包括合謀管理網上平台讓有組織集團作非法交易、串謀散播兒童色情影像等。杜羅夫目前獲准500萬歐元（約4,341萬港元）保釋，但不准離開法國，須每周兩次向警方報道。
