Ntvnews.id, Seoul - Semakin banyak warga Korea Selatan, termasuk anak-anak di bawah umur, menjadi korban kejahatan seks yang melibatkan teknologi deepfake, yaitu jenis kecerdasan buatan (AI) yang dapat membuat foto, audio, dan video palsu yang tampak sangat meyakinkan. 

Hal ini terungkap setelah sejumlah ruang obrolan di Telegram yang diduga memproduksi dan menyebarkan materi pornografi deepfake menjadi viral, memicu rasa takut dan kemarahan di Korea Selatan.

Dilansir dari Yonhap, Kamis, 29 Agustus 204, banyak korban dari ruang obrolan tersebut adalah remaja, termasuk siswa SMP, SMA, mahasiswa, guru, dan anggota militer.

Baca Juga: Pramono Anung Soal Tweet Seksis dan Cabul: Itu Bercanda, Saya Tidak Menyesal

Salah satu ruang obrolan yang berisi konten pornografi deepfake memiliki lebih dari 133 ribu anggota dan dinamai berdasarkan lebih dari 100 universitas di Korea Selatan.

Salah satu chat room viral baru-baru ini terkait dengan kasus di mana mahasiswa dan lulusan Universitas Inha, Incheon menjadi korban deepfake pornografi. Polisi sedang melakukan penyelidikan lebih lanjut mengenai kasus ini.

Kim Bong-sik, kepala Badan Kepolisian Metropolitan Seoul, mengungkapkan keprihatinan atas fakta bahwa video deepfake tidak hanya dibuat untuk siswa tetapi juga untuk guru, dan menyebar di kalangan pemuda yang akrab dengan teknologi.

Menurut Badan Kepolisian Nasional, terdapat 297 kasus kejahatan eksploitasi seksual deepfake yang dilaporkan di Korea Selatan antara Januari dan Juli. Dari 178 orang yang didakwa, 73,6 persen atau 113 orang adalah remaja.

Baca Juga: Pelaku Pelecehan Seksual terhadap Pegawai Pertashop di Cianjur Berhasil Ditangkap

Di Seoul, 10 remaja berusia 14 tahun ke atas telah ditangkap terkait kejahatan deepfake dalam periode yang sama.

Temuan ini mendorong dewan siswa dari beberapa sekolah di Seoul dan Provinsi Gyeonggi, termasuk SMA Desain Hongik, untuk mengeluarkan peringatan tentang potensi risiko kejahatan seks deepfake.

Peringatan ini juga meminta siswa untuk menghindari memposting foto diri mereka secara daring guna mencegah menjadi korban kejahatan deepfake.

Kejahatan ini juga menyebabkan banyak wanita dan warga sipil lainnya merasa terancam dan menghapus semua swafoto mereka di media sosial untuk menghindari menjadi korban deepfake.

Korea Times melaporkan bahwa salah satu ruang obrolan di Telegram, baik yang berbayar maupun bot gratis, dapat langsung mengubah gambar menjadi foto telanjang berdasarkan penyelidikan polisi.

Ruang obrolan ini menawarkan dua gambar deepfake pertama secara gratis, kemudian beralih ke sistem berbayar dengan biaya US$0,49 atau sekitar Rp7.579,20 per foto dalam mata uang kripto. Hingga 21 Agustus, ruang obrolan ini telah memiliki hampir 227.000 pengguna.

Data dari Badan Kepolisian Nasional yang dilaporkan kepada Rep. Cho Eun-hee dari Partai Demokrat Korea (DPK) menunjukkan bahwa jumlah kejahatan terkait deepfake meningkat dari 156 kasus pada 2021 menjadi 160 pada 2022, dan 180 pada 2023. Meskipun teknologi berkembang pesat, hukum dan sistem masih berjuang untuk mengimbangi dan mencegah kegiatan kriminal ini.

Meskipun Undang-Undang AI diajukan selama Majelis Nasional ke-21, undang-undang tersebut gagal disahkan dan dibuang sebelum mencapai tahap persetujuan.

Profesor Kim Myung-joo dari Seoul Women's University menilai bahwa hukum harus ditegakkan dengan lebih serius di Korea Selatan untuk mengatasi masalah deepfake. Dia mengkritik Undang-Undang Hukuman Kekerasan Seksual karena sering kali memberikan hukuman ringan yang tidak efektif sebagai pencegah bagi pelanggar pertama kali.

Komisi Komunikasi Korea berencana untuk menanggapi video deepfake dengan tegas, meskipun identifikasi distributor masih menjadi tantangan karena server Telegram berada di luar negeri.