REPUBLIKA.CO.ID, JAKARTA -- Regulator dan polisi Korea Selatan berjanji untuk memerangi deepfake yang mengeksploitasi secara seksual. Mereka juga mendesak Telegram dan perusahaan media sosial lainnya untuk bekerja sama dalam menindak praktik tersebut.
Mengapa kejahatan seksual deepfake jadi sorotan di Korea Selatan? Baru-baru ini, beberapa media melaporkan bahwa gambar dan video deepfake yang bersifat eksplisit secara seksual dari perempuan Korea Selatan sering ditemukan di ruang obrolan Telegram.
Pada saat yang sama, penggemar K-pop internasional semakin aktif di media sosial, menyerukan tindakan tegas hingga berbagi tips tentang cara mengekspos chatroom semacam itu. Protes tersebut juga menyusul hukuman yang dijatuhkan pada bulan ini terhadap seorang pria atas keterlibatannya dalam kasus pornografi deepfake yang menargetkan mahasiswi di Seoul National University.
Korea Selatan adalah negara yang paling banyak menjadi sasaran pornografi deepfake, dengan penyanyi dan aktrisnya merupakan 53 persen dari individu yang ditampilkan dalam deepfake tersebut. Demikian menurut laporan tahun 2023 tentang deepfake secara global oleh Security Hero, sebuah perusahaan rintisan AS yang berfokus pada perlindungan pencurian identitas.
Polisi Korea Selatan mengatakan jumlah kasus kejahatan seksual deepfake yang mereka tangani sepanjang tahun ini telah melonjak menjadi 297 kasus. Jumlah tersebut dibandingkan dengan 156 kasus sepanjang tahun 2021 ketika data pertama kali dikumpulkan.
Sebagian besar korban dan pelaku adalah remaja, demikian seperti dilansir Reuters, Ahad (1/9/2024).
Korea Selatan juga harus bergulat dengan serangkaian kasus kejahatan seks digital tingkat tinggi dalam beberapa tahun terakhir, mulai dari jaringan pemerasan seks online hingga pornografi spycam.
Apa yang dilakukan otoritas?
Tindakan keras terhadap deepfake seksual oleh Korea Selatan bertepatan dengan Pavel Durov, pendiri Telegram yang lahir di Rusia, sedang menjalani penyelidikan resmi di Prancis pekan ini saat otoritas di sana menyelidiki kejahatan terorganisir di aplikasi perpesanan tersebut.
Selain mendesak perusahaan media sosial untuk lebih aktif bekerja sama dalam menghapus dan memblokir konten semacam itu, regulator media Korea Selatan telah meminta pihak berwenang Prancis untuk bekerja sama rutin dalam masalah terkait Telegram dan memfasilitasi komunikasi langsung dengan Telegram. Selain itu, pemerintah Korea Selatan mengatakan pada Jumat bahwa mereka akan mendorong undang-undang yang lebih ketat untuk menjadikan pembelian atau penayangan deepfake yang eksploitatif secara seksual sebagai tindakan kriminal.
Polisi Korea Selatan juga merencanakan dorongan selama tujuh bulan untuk memberantas kejahatan seks digital. Jumlah personel pengawas yang memantau masalah tersebut akan ditingkatkan dan hotline 24 jam untuk para korban akan dibentuk.
Bagaimana tanggapan perusahaan media sosial?
Telegram mengatakan dalam sebuah pernyataan kepada Reuters bahwa mereka secara aktif memoderasi konten berbahaya di platformnya, termasuk pornografi ilegal.
Sementara itu, YouTube telah mendemonetisasi sebuah saluran dengan lebih dari satu juta subscribers yang dimiliki oleh seorang YouTuber sayap kanan Korea Selatan. YouTube juga menghapus salah satu videonya setelah dia meremehkan masalah kejahatan deepfake dan mengejek perempuan yang menyuarakan kekhawatiran.
YouTube menegaskan komitmennya untuk memberantas kejahatan seks digital di platform mereka, dengan mengatakan bahwa mereka akan terus menindak konten yang melanggar kebijakan mereka.
Ikuti Whatsapp Channel Republika