- 08/09/2025
- Category: Commentaries ID
Penulis: Fathin Difa Robbani
Editor: Achmed Faiz Yudha Siregar
Dunia AI sekarang sudah di level yang ‘ngeri-ngeri sedap’. Dapat dibayangkan, AI sekarang bisa bikin video dan gambar yang sangat realistis sehingga manusia sudah sulit membedakan mana yang asli dan mana yang palsu, seperti pada yang ditunjukkan pada Gambar 1.
Gambar 1. Contoh Hasil Video Veo3 (Sumber: Youtube, 2024)
Persebaran video AI generatif sudah menjadi isu yang sangat berdampak bagi banyak orang, bukan hanya urusan teknologi saja. Contohnya di India waktu pemilu 2024 kemarin, video deepfake bertebaran di mana-mana, sampai orang awam pun jadi bingung, mana yang asli, mana yang hanya rekayasa politik (BBC News, 2024). Menurut laporan BBC tahun 2024, ribuan video buatan AI viral dan bikin masyarakat mudah terkecoh, makin susah percaya dengan berita, bahkan bisa membuat suasana politik makin keruh. Fenomena seperti ini membuat kita sadar, urgensi teknologi untuk mendeteksi video AI itu sekarang benar-benar penting agar ruang publik dan hal krusial kayak pemilu tidak mudah dipermainkan dengan manipulasi digital yang makin canggih.
Dengan makin realistisnya video AI, banyak orang sekarang mulai khawatir: “Gimana cara membedakan video asli denagn yang buatan AI?”. Potensi penyalahgunaan makin besar, seperti hoaks, deepfake, sampai disinformasi, makin mudah menyebar kalau sudah begini.
Jika AI sudah makin hebat “menipu” manusia, otomatis kita juga butuh AI yang tidak kalah canggih, atau bahkan harus lebih canggih lagi, biar AI tidak bisa “menipu” AI lain. Harus ada semacam penyeimbang agar teknologi tetap aman buat manusia.
Di dunia riset AI, topik soal AI ethics juga makin ramai dibahas, seperti bagaimana caranya agar AI tetap bermanfaat dan tidak merugikan manusia. Google sendiri, disaat mereka membuat Veo 3 (AI yang pembuat video), mereka juga memikirkan solusi keamanan. Mereka membuat teknologi watermark digital yang bernama SynthID (Deepmind, 2024). SynthID ini luar biasa karena watermark-nya tidak terlihat sama sekali di mata manusia. Bahkan gambarnya di-compress, di-crop, atau diedit sebagian, watermark-nya masih bisa dideteksi sama AI. Canggih, kan?
Google mengembangkan SynthID ini tujuannya sederhana tapi krusial: menjaga kepercayaan pengguna di tengah semakin ramainya konten AI generatif yang terkadang membuat publik bingung. Google juga tetap ingin comply dengan regulasi global yang sekarang makin ketat terkait AI dan deepfake. Bedanya, Google tidak hanya ‘main’ larang-larangan atau blokir konten, tapi mereka memilih jalur yang lebih progresif, yaitu dengan menyisipkan watermark digital yang tidak kelihatan sama sekali di konten AI mereka. Dengan cara ini, proses moderasi tetap jalan, tapi pengalaman pengguna tidak dikorbankan. Sebelumnya, Google memang dikenal lebih proaktif soal moderasi konten, seperti di YouTube dan Google Search, jika dibandingkan platform lain. SynthID ini makin menguatkan posisi Google sebagai pelopor moderasi dan transparansi konten AI (Google, 2023;YouTube Official Blog, 2024)
Tantangan Deteksi Video AI
Dulu, kita bisa membedakan video palsu dari AI cukup menggunakan mata, tapi sekarang sudah hampir mustahil. Kualitas video AI sudah hampir “sempurna”. Cara-cara lama seperti watermark visual juga mudah sekali dihilangkan atau dirusak, apalagi tools AI juga sudah makin canggih. Ada banyak contoh kasus, misal watermark DALL-E yang hanya tinggal dihapus atau dipotong saja langsung hilang. Video AI juga bisa diedit, dipotong, diubah resolusi, sehingga makin susah dibedakan dari video asli.
Jadi, di era AI yang makin ‘pintar’ menipu manusia (dalam arti dapat membuat video yang tidak bisa dibedakan dari aslinya), seharusnya AI membuat deteksi yang harus lebih canggih. Mirip seperti pertahanan dan serangan saja, keduanya harus balance. Oleh karena itu, di dunia riset AI juga lagi ‘ramai’ terkait AI ethics. Bagaimana caranya AI tetap jadi alat yang berdampak positif bagi manusia, bukan justru menjadi boomerang.
Bagaimana Cara SynthID Bekerja?
Merujuk pada pengembangan invisible watermark, tulisan ini akan membahas cukup teknis, tetapi akan dipaparkan dan dielaborasi dengan sederhana dana analogis (Kohli, 2024; Zhao, 2024).
Kita mulai dari gambar digital yang dipahami oleh AI. Seperti yang kita ketahui, gambar digital yang disimpan di komputer memiliki bentuk kumpulan pixel. Semakin besar resolusinya (misal 1080p), maka artinya makin banyak pixelnya (sehingga seringkali terlihat lebih tajam). Tiap pixel biasanya memiliki nilai 0–255 buat warna. Kalau gambar berwarna, artinya tiap pixel memiliki 3 angka: merah, hijau, biru (RGB).
Cara AI “membaca” gambar bukan per-pixel, melainkan melihat kumpulan pixel sekaligus, menggunakan yang dinamakan sebagai filter. Filter ini berukuran biasanya 3×3 pixel, kemudian bergeser ke seluruh gambar untuk “mengamati” pola di gambar. Jadi seperti kita melihat objek menggunakan kaca pembesar, kaca pembesar bergeser dari kiri ke kanan hingga ke bawah. Filter sama seperti kaca pembesar tersebut. Hasil dari filter yang bergeser ini yang digunakan oleh AI untuk memahami gambar. Hasil tersebut disebut sebagai feature map, semacam “abstraksi” dari gambar yang hanya dipahami oleh AI.
Proses filter ini bisa dilapisi lagi, layer per layer, seperti otak manusia yang proses visualnya juga multi-layer di dalam otak kita. Makin dalam layernya, biasanya makin detail pemahamannya (walaupun kenyataannya ada batasnya juga, kalau terlalu dalam kadang justru stagnan).
Supaya AI makin pintar, tiap kali “melihat” gambar, dia akan belajar memperbaiki pemahamannya lewat proses yang disebut loss dan backpropagation. Singkatnya, AI akan dihukum atau dihadiahi sesuai seberapa dekat pemahamannya dengan tabel aslinya, terus diperbaiki lagi dan lagi.
Menyisipkan Code Rahasia ke Gambar AI
SynthID ini canggihnya di sini: watermark tidak dimasukkan di pixel yang bisa kelihatan mata, tapi diselipkan ke feature map (tempat data gambar sudah jadi abstrak angka). Nilainya pun sangat kecil, biasanya di bawah 0, jadi tidak mempengaruhi ke visual sama sekali (Zhao, 2024).
Prosesnya dimulai setelah gambar AI-nya jadi. Gambar itu masuk ke model AI khusus (menggunakan filter juga), menghasilkan feature map seperti tadi. Di saat yang sama, kode rahasia (misal 8 bit atau 16 bit) di-encode (diubah jadi angka representatif) juga menjadi “peta” angka yang ukurannya sama seperti feature map-nya (Kohli, 2024)..
Lalu informasi dari code dan feature map ini digabung (misal dengan penjumlahan, concatenation, atau teknik lain di neural network). Informasi dari code ini sangat kecil sehingga perubahan nilai pada feature map tidak terlalu besar. Feature map yang sudah “ditanam” kode ini lalu diproses lagi untuk dikonversi balik ke gambar. Gambar hasil akhir dari feature map yang sudah ditanam kode ini kalau dilihat manusia akan tetap saja, tidak beda dengan gambar aslinya. Jadi menyisipkan kode nya ada pada bagian feature map nya (bukan langsung pada pixel gambar langsung) yang kemudian menghasilkan gambar baru. Itu yang menyebabkan kode jadi tidak terlihat oleh mata manusia (Zhao, 2024).
Analoginya, seperti seniman yang melukis gambar. Hasil gambar dari seniman tersebut selalu dia berikan kode rahasia di gambarnya, misal dengan selalu menebalkan warna kuning di kanvas nya. Warna kuning ini jadi lebih selalu lebih tebal dibandingkan warna lain. Orang lain tidak akan pernah tahu itu adalah kode rahasia. Di sisi lain, yang mengetahui kode itu hanya seniman itu sendiri. Proses penambahan kode (penambahan warna kuning yang lebih tebal) setelah menggambar ini mirip seperti penambahan kode di feature map.
Decoder: AI yang Bisa “Membaca” Kode Rahasia
Sekarang, supaya kode itu dapat dibaca kembali, terdapat model AI kedua, namanya decoder. Tugasnya: membaca gambar, lalu menebak kode rahasianya. Awal-awal pasti decoder tebakannya ‘ngasal’, tapi setelah latihan ribuan, jutaan kali, lama-lama makin pintar dan dapat membaca pola rahasianya.
Untuk membuat decoder makin pintar, selama model training, gambar-gambar juga diberikan variasi: di-crop, di-resize, atau di-augmentasi yang lain. Jadi, meskipun gambar sudah diedit, kode rahasianya tetap dapat dibaca oleh decoder (asalkan tidak diubah secara sangat ekstrim) (Deepmind, 2024).
Kembali ke analogi sebelumnya. Sekarang ada orang lain yang kita jadikan sebagai decoder. Orang ini “diajarkan” oleh seniman tersebut cara membaca kode dengan cara, orang ini mempelajari ribuan gambar seniman tersebut lalu orang tersebut diminta menebak dimana letak kode nya. Seniman hanya akan memberi tahu tebakannya benar atau salah. Awalnya decoder pasti tidak tahu kode rahasia nya dimana. Tapi setelah ribuan gambar dipelajari, dia jadi melihat ada pola warna kuning yang selalu lebih tebal dibanding warna lain. Oleh karena itu decoder ini jadi bisa membedakan, mana gambar hasil seniman tersebut dan mana yang palsu. Maka sekarang yang mengetahui kode nya hanya seniman dan decoder yang telah diajarkan untuk mengetahui letak kode nya.
Limitasi dan Kekurangan
Tapi, tentu saja sistem ini tidak sempurna. Decoder hanya dapat menebak kode watermark jika pembuat model AI memang merancang dan melatih decoder tersebut secara khusus (Kohli et al., 2024). Jika tidak, maka hasil videonya tidak akan pernah bisa dideteksi apakah itu buatan AI atau asli, apalagi jika sudah sangat realistis. Itulah kenapa Veo 3 sudah diantisipasi dengan cara ini.
Satu kelemahan lagi, jika gambarnya diubah secara ekstrem atau sengaja diberikan noise untuk mengecoh decoder, watermark digital ini juga bisa gagal dideteksi (Zhao et al., 2024). Namun, teknologi terus berkembang dan ke depan, watermark serta sistem deteksi diharapkan menjadi semakin tahan banting terhadap manipulasi.
Selain itu, tidak bisa dipungkiri juga, perkembangan AI generatif sangat cepat, bahkan terkadang lebih cepat dari sistem penangkalnya sendiri (DeepMind, 2024). Teknologi seperti SynthID harus siap di-update terus-menerus agar tidak tertinggal dengan ‘trik-trik’ baru yang muncul. Model-model AI ke depannya bisa saja belajar mengakali watermark atau bahkan menghapusnya tanpa ketahuan.
Dimensi Sosial-Politik dan Kebijakan AI
Dari sudut pandang akademis dan kebijakan publik, tantangan ini menegaskan pentingnya pendekatan multidisiplin dan tata kelola adaptif (Daly, 2019). Tidak cukup hanya mengandalkan solusi teknis, tetapi juga perlu ada regulasi yang responsif, keterlibatan masyarakat sipil, edukasi literasi digital, serta mekanisme audit independen untuk memastikan transparansi dan akuntabilitas (Zuiderwijk, 2021). Kolaborasi multi-stakeholder antara pemerintah, sektor swasta, akademisi, dan masyarakat sipil merupakan kunci untuk membangun tata kelola AI yang inklusif, adil, dan berkelanjutan (UN, 2023).
Penelitian terbaru juga menyoroti bahwa perluasan pemanfaatan AI tanpa tata kelola yang kuat dapat mengancam kepercayaan publik dan kualitas demokrasi, terutama karena AI berpotensi memperbesar disinformasi, memperlemah akuntabilitas dan memperuncing polarisasi sosial (Kreps & Kriner, 2023). Bahkan studi empiris menganalisis hubungan antara perkembangan AI dan tingkat demokrasi di berbagai negara oleh Chehoudi (2015) menunjukkan adopsi AI tanpa kelola yang memadai cenderung berkorelasi negatif dengan kualitas demokrasi. Oleh karena itu, pengembangan dan pengawasan teknologi watermarking seperti SynthID dan platform lain harus menjadi bagian dari ekosistem tata kelola AI yang lebih luas, yang tidak hanya menekankan inovasi, tetapi juga perlindungan hak asasi manusia, etika, dan kepentingan masyarakat secara kolektif.
Daftar Pustaka:
BBC News (2024) ‘India election: AI deepfakes and the politics of synthetic reality’. Available at: https://www.bbc.com/news/world-asia-india-68918330 (Accessed: 11 June 2025).
Chehoudi, R. (2025) ‘Artificial intelligence and democracy: pathway to progress or decline?’, Journal of Information Technology & Politics, [online] Available at: https://www.tandfonline.com/doi/full/10.1080/19331681.2025.2473994 (Accessed: 11 June 2025).
Daly, A., Hagendorff, T., Li, H., Mann, M., Marda, V., Wagner, B., Wang, W. and Witteborn, S. (2019) ‘Artificial Intelligence, Governance and Ethics: Global Perspectives’, SSRN Electronic Journal, [online] Available at: https://ssrn.com/abstract=3414805 (Accessed: 11 June 2025).
DeepMind (2024) ‘Watermarking AI‑generated text and video with SynthID’. DeepMind Blog.
Google (2023) ‘AI Principles’. Available at: https://ai.google/principles/ (Accessed: 11 June 2025).
Google (2024) ‘Veo: Google’s most advanced generative video model’. YouTube video], 14 May. Available at: https://www.youtube.com/watch?v=XaDSA8GOy4g (Accessed: 11 June 2025).
Kohli, P., et al. (2024) ‘Scalable watermarking for identifying large language model outputs’, Nature, 615, pp. 123–130.
Kreps, S. and Kriner, D. (2023) ‘How AI Threatens Democracy’, Journal of Democracy, 34(4), pp. 122–131. Available at: https://www.journalofdemocracy.org/articles/how-ai-threatens-democracy/ (Accessed: 11 June 2025).
United Nations (2023) ‘Artificial Intelligence | Office for Digital and Emerging Technologies’, [online] Available at: https://www.un.org/digital-emerging-technologies/content/artificial-intelligence (Accessed: 11 June 2025).
YouTube Official Blog (2024) ‘Our approach to responsible AI innovation’. Available at: https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/ (Accessed: 11 June 2025).
Zhao, X., et al. (2024) ‘Invisible Adversarial Watermarking: A Novel Security Mechanism for Enhancing Copyright Protection’, NeurIPS.
