- 22/09/2026
- Category: Commentaries ID
Penulis: Gabriella Isabel
Editor: Achmed Faiz Yudha Siregar
Pendahuluan
Dari tahun 2021 hingga 2024, jumlah kasus yang melibatkan konten pornografi deepfake di Korea Selatan meningkat sebesar 656 kasus, naik dari 156 kasus pada tahun 2021 menjadi 812 kasus pada tahun 2024.[1] Deepfake adalah teknologi yang dihasilkan oleh pembelajaran mesin yang disebut ‘deep’ learning, yang mampu memanipulasi dan merekayasa gambar atau video seseorang sehingga tampak realistis dan meyakinkan.[2] Ko Narin, seorang jurnalis Korea Selatan, menyatakan bahwa setiap menit, orang-orang mengunggah foto gadis-gadis yang mereka kenal dan meminta foto-foto tersebut diubah menjadi deepfake, sementara hal ini juga sering dilakukan tanpa persetujuan korban.[3] Ia juga menambahkan bahwa kejahatan-kejahatan ini cenderung terorganisir dan sistematis, dengan para pelakunya adalah remaja yang sering dianggap sebagai ‘anak laki-laki biasa’. Akibatnya, protes digelar di Korea Selatan untuk mengecam tindakan ini, yang ditanggapi pemerintah dengan memperluas cakupan definisi ‘kejahatan seksual digital’ dalam undang-undang serta mendirikan pusat dukungan bagi para penyintas kekerasan berbasis gender (GBV) daring. Meskipun hal ini tampak sebagai tanda positif, masih terdapat kesenjangan yang signifikan karena penegakan hukum belum dilaksanakan secara efektif, terutama dalam memastikan pertanggungjawaban pelaku dan memberikan bantuan yang tepat kepada korban GBV daring.
Peningkatan kasus deepfake juga sangat drastis di Indonesia, di mana Kementerian Komunikasi dan Digital Indonesia melaporkan kenaikan sebesar 550% hingga Juli 2025 dalam kasus Kekerasan Berbasis Gender (KBG) daring terhadap perempuan dan anak-anak.[4] Salah satu kasus di Indonesia terjadi di Bali, di mana seorang mahasiswi Universitas Udayana membuat konten pornografi menggunakan deepfake berbasis kecerdasan buatan (AI) dengan mencuri foto seorang perempuan dari akun media sosialnya.[5] Konten tersebut kemudian dibagikan di media sosial, sehingga menimbulkan kerugian serius bagi korban. Meskipun demikian, Indonesia belum memiliki undang-undang yang secara spesifik mendefinisikan dan menetapkan sanksi pidana bagi pelaku kejahatan seksual digital. Meskipun Kitab Undang-Undang Hukum Pidana (KUHP) dan Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE)—sebagaimana diubah oleh Undang-Undang Nomor 19 Tahun 2016—mengatur penyebaran konten cabul, dee fakes tidak secara eksplisit disebutkan sebagai sarana untuk melakukan kejahatan.[6] Hal ini kemudian memunculkan pertanyaan, bagaimana regulasi di Indonesia dapat menangani dan mengatur kejahatan seksual digital yang sangat mengancam perempuan dan anak-anak?
Menelusuri Kerentanan Berbasis Gender dan Tanggapan Negara di Korea Selatan dan Indonesia
Deepfake merupakan pelanggaran privasi yang invasif, yang mengakibatkan korban kehilangan kendali atas identitas mereka sendiri.[7] Ribuan korban insiden ini terpaksa hidup dalam ketakutan, yang membuat mereka menderita kecemasan, depresi, dan gangguan stres pasca trauma. Setelah laporan tahun 2023 yang menyebutkan bahwa 53% konten pornografi deepfake di dunia berasal dari Korea Selatan, muncullah protes dan gerakan aktivisme yang dipimpin oleh para perempuan.[8] Aksi protes tersebut berhasil memicu respons dari pemerintah, sehingga polisi menyelidiki Telegram sebagai aplikasi yang digunakan untuk mendistribusikan dan menjual konten pornografi deepfake. Pavel Durov, pendiri Telegram, akhirnya ditangkap di Prancis atas kejahatan yang dilakukan melalui aplikasinya, termasuk tindak pidana pornografi anak.[9] Namun, pihak berwenang Korea Selatan terus menghadapi kritik dari para aktivis hak-hak perempuan karena membiarkan kejahatan ini luput dari perhatian selama bertahun-tahun, meskipun Korea Selatan telah mengalami kasus serupa pada tahun 2019. Proses hukum cenderung memakan waktu lama, dan kasus-kasus semacam ini sering kali dibatalkan—terutama karena sulit untuk mengidentifikasi pelaku di platform terenkripsi seperti Telegram.
Para perempuan korban deepfake bernuansa seksual merasa marah dan frustasi karena seluruh aktivitas serta penggunaan media sosial mereka harus disensor, padahal mereka tidak melakukan kesalahan apa pun.[10] Tidak hanya di Telegram, kejahatan serupa juga terjadi di platform X melalui AI Grok. Kirana, seorang pengguna kursi roda yang gemar membagikan aktivitas sehari-harinya secara daring, mendapati bahwa seorang asing telah meminta Grok untuk membuat foto dirinya mengenakan bikini.[11] Akibatnya, ia merasa sangat malu dan meminta platform tersebut untuk menghapus foto tersebut, namun tidak mendapat tanggapan. Kekerasan berbasis gender (KBG) daring menggambarkan semakin terkikisnya representasi demokratis karena hal ini membuat perempuan enggan bersuara di ranah publik akibat ketakutan akan pelecehan siber. Selain itu, hal ini memanfaatkan bias patriarki yang sudah mengakar untuk merendahkan dan merusak kredibilitas profesional perempuan.
Tanggapan regulasi Korea Selatan seharusnya menjadi pelajaran bagi Indonesia. Proses hukum yang berlarut-larut dan penegakan hukum yang tidak efektif dapat meningkatkan angka kejahatan seksual digital, terutama mengingat pesatnya kemajuan teknologi. Beberapa ketentuan hukum di Indonesia dapat digunakan untuk menuntut pelaku pornografi deepfake, seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) Pasal 27(1) untuk menangani konten yang dihasilkan melalui kecerdasan buatan, Undang-Undang tentang Tindak Pidana Kekerasan Seksual (UU TPKS) untuk memerangi kekerasan seksual dan memberikan perlindungan bagi para korban, serta Undang-Undang tentang Perlindungan Data Pribadi (UU PDP) untuk melindungi data pribadi.[12] Namun, istilah ‘deepfake’ tidak disebutkan secara eksplisit dalam ketentuan-ketentuan tersebut, sehingga undang-undang yang ada harus ditafsirkan secara luas oleh aparat penegak hukum. Membuktikan dan menangkap pelaku melalui teknologi digital juga sulit karena algoritma yang canggih, terutama karena pornografi deepfake belum diakui secara hukum di Indonesia. Ke depan, diperlukan pembaruan hukum yang lebih spesifik dan memadai yang mengakui kejahatan seksual digital seperti deepfake guna mengatur penggunaan AI secara ketat.[13] Selain itu, perlu pula dibentuk mekanisme perlindungan dan dukungan bagi korban untuk mencegah mereka mengalami trauma psikologis atau fisik yang berkepanjangan.
Kesimpulan
Kemajuan teknologi yang pesat telah membuat perempuan semakin rentan dengan menciptakan berbagai peluang bagi kejahatan siber, seperti pornografi deepfake; korbannya sebagian besar adalah perempuan, termasuk anak-anak, pelajar, selebriti, dan tokoh politik. Reformasi hukum diperlukan untuk menangani Kekerasan Berbasis Gender (KBG) daring dan mengatur penggunaan kecerdasan buatan (AI), karena ketidakcukupan undang-undang menjadi hambatan utama dalam menghentikan kejahatan-kejahatan ini. Mengingat pengalaman Korea Selatan yang terlambat merespons kasus-kasus pornografi deepfake, Indonesia harus mulai menerapkan perlindungan hukum yang kuat, terutama karena kasus-kasus Kekerasan Berbasis Gender (KBG) daring di Indonesia telah mengalami peningkatan signifikan sebesar 550% sejak Juli 2025. Kejahatan ini tidak hanya menyoroti kegagalan hukum dalam beradaptasi dengan digitalisasi, tetapi juga pengucilan perempuan dari dunia digital.
[1] Tanjung, N. Y., (2026), The Urgency of Public Policy in Combating Deepfake Pornography: A Comparative Analysis of Indonesia, South Korea, Colombia, available at https://repository.ubaya.ac.id/51157/1/INFLUENCE_Niken%20Yoan%20Tanjung.pdf
[2] University of Virginia (n.d.), What the heck is a deepfake?, available at: https://security.virginia.edu/deepfakes
[3] Mackenzie, J & Choi, L (2024), Inside the Deepfake Porn Crisis Engulfing Korean Schools, available at https://www.bbc.com/news/articles/cpdlpj9zn9go
[4] OECD AI (n.d.), Indonesia Faces Surge in Deepfake-Driven Harm Targeting Women and Children, available at https://oecd.ai/en/incidents/2025-07-25-ca95
[5] Liswati, A. L. & Taun, Analisis Yuridis terhadap Pertanggungjawaban Pidana Pelaku Pelecehan Seksual Berbasis AI (Deepfake Pornografi) di Media Sosial, available at https://ejournal.appisi.or.id/index.php/hukum/article/view/742/556
[6] Liswati, A. L. & Taun, Analisis Yuridis terhadap Pertanggungjawaban Pidana Pelaku Pelecehan Seksual Berbasis AI (Deepfake Pornografi) di Media Sosial, available at https://ejournal.appisi.or.id/index.php/hukum/article/view/742/556
[7] Furizal, Ma’Arif, A., Maghfiroh, H., Suwarno, I., Prayogi, D., Kariyamin, Lonang, S., Sharkawy, A. N., (2025), Social, Legal, and Ethical Implications of AI-Generated Deepfake Pornography on Digital Platforms, available at https://www.sciencedirect.com/science/article/pii/S2590291125006102
[8] Ji, S., (2025), #MeToo in an AI-Generated Deepfake Sexual Violence Era in South Korea, available at https://www.sciencedirect.com/science/article/pii/S0277539525000950?ref=pdf_download&fr=RR-2&rr=a3d8cfe77e044f85
[9] Mackenzie, J & Choi, L (2024), Inside the Deepfake Porn Crisis Engulfing Korean Schools, available at https://www.bbc.com/news/articles/cpdlpj9zn9go
[10] Mackenzie, J & Choi, L (2024), Inside the Deepfake Porn Crisis Engulfing Korean Schools, available at https://www.bbc.com/news/articles/cpdlpj9zn9go
[11] Chia, O. & Hajid, S., (2026), Malaysia and Indonesia block Musk’s Grok over explicit deepfakes, available at https://www.bbc.com/news/articles/cg7y10xm4x2o
[12] Tanjung, N. Y., (2026), The Urgency of Public Policy in Combating Deepfake Pornography: A Comparative Analysis of Indonesia, South Korea, Colombia, available at https://repository.ubaya.ac.id/51157/1/INFLUENCE_Niken%20Yoan%20Tanjung.pdf
[13] Liswati, A. L. & Taun, Analisis Yuridis terhadap Pertanggungjawaban Pidana Pelaku Pelecehan Seksual Berbasis AI (Deepfake Pornografi) di Media Sosial, available at https://ejournal.appisi.or.id/index.php/hukum/article/view/742/556
