- 03/11/2025
- Category: Commentaries ID
Oleh: Muhammad Ilyan Faris
Editor: Bangkit Adhi Wiguna
Pada tanggal 26 Juni 2025 kemarin, Pemerintah Denmark telah mengusahakan untuk memberikan warganya hak cipta atas identitas mereka, guna melawan naiknya daunnya deepfake belakangan ini. [1] Pemerintah Denmark mengumumkan amandemen terhadap Danish Copyright Law sedang dibuat, amandemen terkait berbentuk pelindungan terhadap fitur tubuh orang-orang. [2] Dengan dukungan antar partai dan dari publik, amandemen ini direncanakan untuk diimplementasikan di akhir tahun ini. [3] Rancangan undang-undang (RUU) ini menjadi salah-satu yang pertama di Eropa yang bertujuan untuk memudahkan orang yang terdampak oleh konten deepfake dalam permintaan penghapusan konten terkait dari platform online.[4] Hal ini menjadi awalan yang dibutuhkan dalam pencapaian pelindungan digital atas tubuh dan kedaulatan manusia. Namun, RUU tersebut juga menuai beberapa kritik, banyak yang berargumen bukan perihal tujuan, melainkan cara mencapainya. RUU ini menghadirkan pertanyaan-pertanyaan perihal apakah hak cipta dan hak kekayaan intelektual menjadi jalan yang benar untuk melawan penyalahgunaan AI Generatif (GenAI) dalam pembuatan dan penyebaran deepfake-deepfake ini. Tetapi sebelumnya, apa sebenarnya kejahatan dan penyalahgunaan deepfake?
Dari hiburan menjadi ancaman: Bagaimana deepfake berevolusi?
Dalam RUU ini, deepfake didefinisikan sebagai “representasi digital seseorang yang sangat realistis, termasuk tampak dan suaranya.” [5] Deepfake bergantung pada algoritma deep learning jenis General Adversarial Networks (GANs) yang menggunakan data dan sampel untuk meregenerasikan gambar palsu.[6] Tidak seperti algoritma machine learning lain, deepfake bergantung pada deep learning dengan menggunakan deep neural networks, melalui penggunaan autoencoder. Dalam prosedur terkait, pertama pelatihan neural networks dilakukan untuk mengkode dan mendekode data (dalam kasus ini foto dan video), setelah itu encoder akan mengambil data awal input, mengkondensasikannya menjadi kode laten yang tetap memiliki fitur penting dari data aslinya. [7] Selanjutnya, decoder tersebut mengkonstruksi ulang data dan memodifikasi foto dan video aslinya, inilah mengapa deepfake merupakan konten yang terlihat sangat asli. Terdapat pula, reinforcement learning mechanisms, terdapat mekanisme apresiasi dan hukuman di dalam network tersebut, hal ini menyebabkan modelnya menjadi lebih baik dalam memproduksi dan mengenali konten visual seiring waktu.
Awalnya, deepfake dianggap sebagai sekadar bentuk hiburan saja, diharapkan untuk dinikmati oleh pembuat dan mereka yang digambarkan didalamnya. Perusahaan produksi perfilman terutama menggunakan teknologi deepfake untuk menyunting dan mengurangi biaya pula waktu produksi. [8] Sekarang, deepfake telah digunakan oleh pelaku kejahatan di berbagai macam area: pelecehan seperti pembuatan pornografi, disinformasi, sektor finansial dan penipuan. Hal ini meningkat terutama karena kemajuan dalam GenAI. [9 Kasus terkini terdapat di Korea Utara, dimana penyebaran GenAI dan alat-alat yang menyertainya telah digunakan guna memproduksi pornografi. Lebih dari 900 siswa, staf, dan guru di sekolah-sekolah menjadi korban terhadap kejahatan deepfake. [10] Atau sebagai contoh lain, kasus tahun lalu di Hong Kong. Terdapat seorang pegawai yang mentransfer HK$200m (Rp.400M) kepada atasannya melalui video call, akan tetapi ternyata atasan di call tersebut merupakan sebuah deepfake.[11]
Di Indonesia sendiri, sebuah video yang memperlihatkan calon Presiden kala itu Prabowo Subianto berbicara dalam bahasa Arab beredar di internet pada tahun 2024. Video tersebut merupakan sebuah deepfake yang bertujuan untuk menggaet pemilih muslim. Pengecekan fakta telah dilakukan oleh Tempo yang menemukan bahwa video originalnya berasal dari November 2024, ditemukan juga bahwa 96% dari video tersebut adalah hasil dari deepfake AI. [12] [13] Penggunaan deepfake dan AI di pemilu bukan hal baru, di tahun 2010an tercatat bahwa algoritma yang menggunakan AI dipakai di Facebook untuk menargetkan iklan politik seperti di skandal Cambridge Analytica. Tapi di Indonesia, kampanye elektoral berbasi AI sangat berdampak. Di sebuah survei mengenai video Prabowo berbicara bahasa Arab yang disebutkan diatas, 28% dari responden mempercayai bahwa pidato tersebut benar-benar terjadi. [14] [15] Kebutuhan untuk regulasi langsung terkait deepfake dibutuhkan di Indonesia, terutama dalam sektor elektoral.
Bagaimana negara-negara memitigasi ancaman deepfake
Dengan kejahatan deepfake yang didorong oleh proliferasi GenAI, urgensi memiliki hukum yang melindungi dan menjamin fitur tubuh kita seperti wajah, suara, dan gestur hadir. Pemerintahan Denmark telah menyadari bahwa legislasi ngelag di belakang teknologi. [16] Amandemen yang diajukan diberlakukan oleh “denda yang berat” kepada platform yang tidak mematuhi permintaan penghapusan dari pengguna. Perubahan ini terasa di bagian 65 perihal pengembangan cara perlindungan terhadap seniman dan 73a perihal menjawab audio dan imitasi realistik terhadap individu.[17] Negara lain memiliki legislasi serupa untuk melawan naiknya deepfake. Di AS, “Take It Down Act” disahkan di bulan Mei tahun ini di mana ia melarang siapapun untuk secara sadar mempublikasi deepfake yang bertujuan untuk menyakiti. [18] Di Uni Eropa, “Artificial Intelligence Act” disetujui oleh parlemen Eropa di tahun 2024 dan memperkenalkan regulasi deepfake. Ia mewajibkan siapapun yang menggunakan AI untuk membuat deepfake untuk memberitahu penggunaanya. [19] Secara global, urgensi untuk menciptakan legislasi guna menjawab banyak pertanyaan akibat naiknya AI terasa, tidak terkecuali di Indonesia.
Indonesia tergolong telat dalam legislasi yang berkaitan dengan AI. [20] Sejauh ini, hukum yang hadir di kasus AI hanya mengiris AI, tapi tidak dibuat dengan AI sebagai fokusnya, seperti UU ITE dan KUHP di Indonesia. Mereka mencakup mekanisme penuntutan berlandas dari motif dan konten dari kejahatan terkait. Namun, kejahatan berbasis AI hanya sekadar dicocokan terhadap legislasi yang sudah ada, dan bukan kepada hukum spesifik seperti di Denmark.[21] Sayangnya, produk hukum tersebut terkesan kadaluarsa, dan sering digunakan untuk tujuan lain. Pemerintah tahun ini merilis Buku Putih mengenai Peta Jalan Nasional AI, menjelaskan rencana negara perihal AI. [22] Mengenai hukum dan regulasi, buku tersebut mendiskusikan ancaman dari AI mau itu secara bias algoritmik atau deepfake, etika dalam AI dan kebutuhan pengadaan regulasi. Dalam isu-isu tersebut, pemerintahan AI yang baik adalah solusinya menurut pemerintah. Tapi, pernyataan spesifik dan rinci tentang regulasi AI tidak ditemukan. Indonesia sebaiknya belajar dari negara lain, bahwa perkembangan AI bukan hanya sekadar inovasi dan keuntungan, melainkan pula perihal inovasi regulasi yang mampu menjaga kecepatan yang setara dengan kecepatan teknologi. Untuk mengembangkan perlindungan dan bukan sekadar perduitan.
Keterbatasan regulasi berbasis hak
Amandemen ini tidak tanpa kritik. Rezim hak cipta dan hak kekayaan intelektual mengkomodifikasi subjek perlindungan mereka, bukan melarang komoditas atau konten kreatif, melainkan memfasilitasi pasar dimana uang ditukar dengan komoditas terkait. RUU yang diajukan ini dapat diinterpretasikan bahwasanya deepfake hanya sekadar komoditas dan kesempatan lisensi baru. [23] Seperti kasus skandal Cambridge Analytica yang sempat disinggung diatas, dimana firma konsultasi tersebut (Cambridge Analytica) mendapatkan puluhan juta data pengguna Facebook. Mereka melakukan ini dengan cara diperbolehkannya peneliti mereka untuk mengerahkan aplikasi di platform tersebut yang secara tampilan merupakan quiz psikologi, tapi nyatanya ia merekap data pengguna tanpa konsen mereka. [24] 87 juta pengguna memang menerima untuk membagi data mereka terhadap aplikasi tersebut, tapi mayoritas merasa mereka tidak konsen dalam digunakannya data tersebut untuk tujuan politik. [25] Hal ini memantik kekhawatiran masif perihal kebocoran data dan instrumentalisasi data di era kontemporer. Terdapat pula celah dimana jika sesuatu itu terinspirasi dari hal original, kondisi pelanggaranya abu-abu. Dalam konteks tersebut deepfake yang di generasi tidak berlandas dari karya original, tapi hanya mengimitasi legalitasnya juga abu-abu. [26]
Namun demikian, amandemen Denmark ini telah lama dibutuhkan, legislasi, regulasi dan instrumen guna mitigasi dan melawan dampak dari naik daunnya deepfake. Tetapi, karena ini adalah ranah baru, kita harus memantau dinamika di Denmark itu sendiri perihal hukum yang diajukan. Negara lain dan organisasi internasional juga sebaiknya mencatat proses dan debat perihal RUU ini, dalam harapan agar mereka bisa membuat legislasi baru yang secara eksplisit menargetkan kejahatan AI.
[1] Bryant, M. (2025). Denmark to tackle deepfakes by giving people copyright to their own features. [online] the Guardian. Available at: https://www.theguardian.com/technology/2025/jun/27/deepfakes-denmark-copyright-law-artificial-intelligence.
[2] Nierenberg, A. (2025). Denmark Aims to Use Copyright Law to Protect People From Deepfakes. The New York Times. [online] 10 Jul. Available at: https://www.nytimes.com/2025/07/10/world/europe/denmark-deepfake-copyright-ai-law.html.
[3] Patishman, H. (2025). Global Legal Actions Against AI Deepfakes: Five Laws of 2025. [online] Regula. Available at: https://regulaforensics.com/blog/deepfake-regulations/.
[4] Willige, A. (2025). Deepfake legislation: Denmark takes action. [online] World Economic Forum. Available at: https://www.weforum.org/stories/2025/07/deepfake-legislation-denmark-digital-id/.
[5] Bryant, M. (2025).
[6] Putra, M.I.D. (2024b). Unmasking Deceptions: Urging the Law to Take a Role in Mitigating and Tackling the Malicious Deepfake – Center for Digital Society. [online] DigitalSociety. Available at: https://digitalsociety.id/2024/02/21/97-cfds-case-study-unmasking-deceptions-urging-the-law-to-take-a-role-in-mitigating-and-tackling-the-malicious-deepfake/17924/ [Accessed 20 Sep. 2025].
[7] Alanazi, S. and Asif, S. (2024). Exploring deepfake technology: creation, consequences and countermeasures. Human-Intelligent Systems Integration, 6. doi:https://doi.org/10.1007/s42454-024-00054-8.
[8] Alanazi and Asif, (2024)
[9] Rueda Molins, L. (2025). The rise of deepfakes: What digital platforms and technology organizations should know. [online] Available at: https://www.deloitte.com/content/dam/assets-zone2/uk/en/docs/industries/technology-media-telecommunications/2025/deloitte-the-rise-of-deepfakes-january.pdf [Accessed 23 Sep. 2025].
[10] Seo, Y. and Valerio, M. (2025). Deepfake porn is destroying real lives in South Korea. [online] CNN. Available at: https://edition.cnn.com/2025/04/25/asia/south-korea-deepfake-crimes-intl-hnk-dst.
[11] Milmo, D. (2024). Company worker in Hong Kong pays out £20m in deepfake video call scam. The Guardian. [online] 5 Feb. Available at: https://www.theguardian.com/world/2024/feb/05/hong-kong-company-deepfake-video-conference-call-scam.
[12] Tim Cek Fakta Tempo (2025). Keliru, Video dengan Klaim Prabowo Berpidato Menggunakan Bahasa Arab dan Mandarin [online] Tempo.co. Available at: https://cekfakta.tempo.co/fakta/2794/keliru-video-dengan-klaim-prabowo-berpidato-menggunakan-bahasa-arab-dan-mandarin [Accessed 14 Oct. 2025].
[13] Jalli, N. and Wihardja, M.M. (2024). Election Integrity in the Age of Artificial Intelligence: Lessons from Indonesia | FULCRUM. [online] FULCRUM. Available at: https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/.
[14] Confessore, N. (2018). Cambridge Analytica and Facebook: the Scandal and the Fallout so Far. The New York Times. [online] 4 Apr. Available at: https://www.nytimes.com/2018/04/04/us/politics/cambridge-analytica-scandal-fallout.html.
[15] Jalli and Wihardja, (2024)
[16] Bryant, M. (2025).
[17] Levi, S.D. and Ghaemmaghami, M. (2025). ‘Take It Down Act’ Requires Online Platforms To Remove Unauthorized Intimate Images and Deepfakes When Notified. [online] Skadden.com. Available at: https://www.skadden.com/insights/publications/2025/06/take-it-down-act.
[18] Levi and Ghaemmaghami, (2025)
[19] Moreno, F.R. (2024). Generative AI and deepfakes: a human rights approach to tackling harmful content. International review of law computers & technology, [online] 38(3), pp.1–30. doi:https://doi.org/10.1080/13600869.2024.2324540.
[20] Putra, M.I.D. (2024a). Regulasi AI di Indonesia belum cukup, perlu aturan yang lebih spesifik. [online] The Conversation. Available at: https://theconversation.com/regulasi-ai-di-indonesia-belum-cukup-perlu-aturan-yang-lebih-spesifik-219827.
[21] SiP Law Firm (2025). Deepfake Crimes in Indonesia: Legal Challenges and Criminal Liability in the AI Era. [online] Sip Law Firm. Available at: https://siplawfirm.id/deepfake-crimes-in-indonesia/#:~:text=Fraud%20Using%20Deepfake%20Technology&text=Deepfakes%20can%20facilitate%20identity%20fraud,to%20solicit%20money%20or%20goods.
[22] PDSI KOMDIGI (2019). Kementerian Komunikasi dan Digital. [online] Komdigi.go.id. Available at: https://www.komdigi.go.id/berita/siaran-pers/detail/konsultasi-publik-buku-putih-peta-jalan-kecerdasan-artifisial-nasional-dan-konsep-pedoman-etika-kecerdasan-artifisial [Accessed 20 Oct. 2025].
[23] Hugenholtz, P.B. (2025). Deepfake Bills in Denmark and the Netherlands: Right idea, wrong legal framework. [online] Kluwer Copyright Blog. Available at: https://legalblogs.wolterskluwer.com/copyright-blog/deepfake-bills-in-denmark-and-the-netherlands-right-idea-wrong-legal-framework/ [Accessed 23 Sep. 2025].
[24] Confessore, (2018)
[25] Kozlowska, I. (2018). Facebook and Data Privacy in the Age of Cambridge Analytica – The Henry M. Jackson School of International Studies. [online] The Henry M. Jackson School of International Studies. Available at: https://jsis.washington.edu/news/facebook-data-privacy-age-cambridge-analytica/.
[26] Abramovitch, S. (2025). More layers than their pastries: Denmark’s deepfake copyright proposal. [online] Gowlingwlg.com. Available at: https://gowlingwlg.com/en/insights-resources/articles/2025/denmark-deepfake-copyright-proposal [Accessed 23 Sep. 2025].
