Ilustrasi deepfake. Foto: Shutterstock
Jakarta – Deepfake seperti pedang bermata dua. Di satu sisi, deepfake menawarkan inovasi dan keuntungan melalui kecanggihan artificial intelligence (AI), membuka peluang besar dalam berbagai bidang seperti hiburan, pendidikan, dan penelitian. Di sisi lain, deepfake juga membawa bahaya dan ancaman yang dapat mengaburkan realitas, termasuk pencemaran nama baik.
Jumlah kasus deepfake atau morphing di Indonesia akan meningkat signifikan dari belasan kasus pada tahun sebelumnya, mencapai 40 kasus pada tahun 2024, menurut catatan SAFEnet di Southeast Asia. SAFEnet mencatat kasus Kekerasan Berbasis Gender Online (KBGO).
Istilah “morphing” sendiri mengacu pada rekayasa konten menjadi bernuansa seksual dan/atau kesusilaan. Ini sangat terkait dengan konten eksplisit atau pelecehan digital, seperti pembuatan deepfake pornografi.
“Memang di tahun ini [2024], kita melihat ada perubahan yang cukup signifikan ya. Jadi walaupun dibandingkan dengan jenis [KBGO] yang lain ini, [deepfake] cukup kecil 2,47 persen, tapi kalau kita bandingkan jumlahnya dari tahun yang sebelumnya, memang ada peningkatan yang cukup besar,” jelas Nenden seperti dikutip dari kumparan di Festival Hak Digital SAFEnet, Taman Marzuki Ismail, Jakarta, Sabtu (15/02).
Nenden menyatakan bahwa dia pernah membantu korban deepfake berusia 11 tahun. Dia menyatakan bahwa foto korban diubah untuk kepentingan seksual. Karena kekurangan bukti, kasus tersebut belum ditangani.
Dia menambahkan bahwa dalam beberapa kasus, pelaku meminta korban untuk membayar sejumlah uang tertentu, sambil mengancam agar korban mengikuti keinginan pelaku.
“Korbannya itu jadi bisa siapa saja, bahkan usia anak yang sangat rentan gitu ya, bisa menjadi korban, di mana fotonya dimanipulasi dan diseksualisasi. Jadi mungkin semakin besar, kemungkinan besar bahwa profilnya akan sama juga, yang mungkin paling banyak mendapatkan morphing atau deepfake itu, dari usia produktif ya, dari usia 18-25, perempuan dan anak,” kata dia.
Regulasi Baru Ada di Ranah Etik
Direktur Kecerdasan Artifisial dan Ekosistem Teknologi Baru Komdigi, Aju Widya Sari, mengungkapkan bahwa pembuktian deepfake memang rumit. Namun pada prinsipnya, kata dia, Komdigi siap untuk berkoordinasi dengan platform media sosial untuk menghapus konten-konten yang dianggap merugikan.
“Kami menunggu, menunggu siapa yang dirugikan, baru kami take action ke platform. Pembuktian ini menjadi penting tetapi agak rumit ketika masuk ke ruang digital. Tapi semua tetap bisa disampaikan ke Komdigi, karena di kami ada satuan kerja yang menangani pengawasan di ruang digital. Kalau dulu jadi satu, dicampur, sekarang fokus ke pengawasan ruang digital,” kata Aju di acara yang sama.
“Sampai saat ini regulasi [AI] yang ada di pemerintah baru sampai titik etik. Baru sampai etika. Kalau ada kebijakan takedown pun ketika ada kasus. Karenanya ke depannya kami lagi melihat, kami juga butuh masukan. Karena algoritma [platform] ini sangat tertutup,” kata dia.
Namun demikian, dia menyatakan bahwa Komdigi tengah sedang mengembangkan cara yang lebih baik untuk berkolaborasi dengan penegak hukum seperti polisi dan platform untuk menangani masalah seperti itu.
“Mekanismenya itu lagi dibentuk dan belum siap ke publik,” pungkasnya.
