Skandal Deepfake di Korea Selatan Merajalela, Telegram Hapus 25 Konten Seksual: Kami Minta Maaf
ERA.id - Aplikasi perpesanan Telegram meminta maaf dan menghapus puluhan materi pornografi ilegal menyusul permintaan dari regulator Korea Selatan.
Komisi Standar Komunikasi Korea (KCSC) mengatakan bahwa Telegram telah menghapus 25 konten eksploitatif seksual. Telegram juga menyampaikan permintaan maaf atas miskomunikasi yang terjadi.
"Telegram juga meminta maaf atas miskomunikasi terkait masalah ini dan membagikan alamat email eksklusif untuk komunikasi selanjutnya dengan pengawas media," kata KCSC, dikutip Yonhap News, Rabu (4/9/2024).
Diketahui, pornografi deepfake melibatkan penumpukkan wajah individu secara digital ke gambar atau video eksplisit menggunakan teknologi kecerdasan buatan atau AI.
Pelaku kejahatan deepfake baru-baru ini dilaporkan menggunakan platform media sosial seperti Instagram untuk menyimpan atau mengambil gambar korban, yang kemudian digunakan untuk membuat film porno.
Kejahatan ini telah memicu kemarahan publik dan mendorong Presiden Yoon Suk Yeol, yang juga mantan jaksa penuntut, untuk meminta pejabat menyelidiki secara menyeluruh dan menangani kejahatan seks digital ini untuk memberantasnya sepenuhnya.
Aktivis mengatakan Korea Selatan menderita epidemi kejahatan seks digital, termasuk yang melibatkan kamera mata-mata dan pornografi balas dendam, dengan undang-undang yang tidak memadai untuk menghukum pelanggar.
Polisi mengatakan sebelumnya bahwa mereka telah memulai penyelidikan terhadap perusahaan perpesanan yang berbasis di Dubai tersebut. Polisi menuduhnya bersekongkol dalam distribusi pornografi deepfake, termasuk gambar eksplisit remaja yang dihasilkan AI.
Menyusul pengumuman penyelidikan polisi, Telegram mengatakan bahwa mereka secara aktif memantau konten berbahaya di platformnya, termasuk pornografi ilegal.
"Moderator secara proaktif memantau bagian publik platform, menggunakan perangkat AI, dan menerima laporan pengguna untuk menghapus konten yang melanggar ketentuan layanan Telegram," katanya.
Bulan lalu, seorang penyiar Korea Selatan mengungkapkan bahwa mahasiswa menjalankan ruang obrolan Telegram ilegal, tempat mereka berbagi materi pornografi deepfake yang menampilkan teman sekelas perempuan. Ruang obrolan lainnya kemudian ditemukan, yang memicu kemarahan publik.
Sementara itu, pendiri dan kepala Telegram Pavel Durov ditangkap bulan lalu di Prancis dan didakwa dengan beberapa tuduhan gagal mengekang konten ekstremis dan ilegal di aplikasi perpesanan populer tersebut. Dia dibebaskan bersyarat setelah membayar 5 juta euro atau Rp85 miliar.