Deep Fakes, AI, and Symbolic Attack on LGBTQIA+ in the Digital Age

  • 25/07/2025
  • Category: Commentaries ID
Tidak ada komentar

Penulis: Hilman Nurjaman
Editor: Achmed Faiz Yudha Siregar

Kemajuan teknologi kecerdasan artifisial (AI), terutama AI generatif, telah membawa dampak yang besar dalam berbagai sektor, mulai dari sektor kreatif, bisnis, hingga sektor politik. Salah satu bentuk teknologi AI yang saat ini menjadi perhatian publik yang serius adalah kemunculan deep fake, teknologi yang memungkinkan pembuatan konten visual, audio, atau audio visual yang terlihat sangat nyata, meskipun sebenarnya adalah hasil manipulasi AI. Di tangan yang salah, teknologi ini akan berpotensi menjadi alat yang dapat menyerang individu atau kelompok atas dasar kepentingan tertentu, tidak terkecuali pada komunitas LGBTQIA+ yang sudah sejak lama menghadapi marginalisasi.

Di Indonesia, ancaman dari teknologi AI yang disalahgunakan bukan hanya sekadar hipotesis belaka. Kasus dari akun media sosial @pixelhelper yang menyebarluaskan konten deep fake dengan mengatasnamakan komunitas LGBTQIA+ sebagai pelaku penistaan agama merupakan contoh nyata bagaimana teknologi AI dapat memperburuk ketegangan sosial, memperkuat stigma, dan bahkan memperkeruh konflik yang bahkan dapat mengancam keselamatan kelompok minoritas.[1]

Representasi dan Ilustrasi Ancaman Nyata

Representasi digital makin menegaskan tentang bagaimana kelompok minoritas, termasuk LGBTQIA+ dalam hal ini dipersepsikan di ruang publik. Dalam ruang digital yang makin akrab dengan AI, representasi ini bisa dengan mudah dimanipulasi oleh aktor-aktor yang jahat. Deep fake memberikan keleluasaan pada siapapun dengan keterampilan teknis yang cukup untuk menciptakan konten gambar atau video palsu atau rekayasa yang mengasosiasikan kelompok tertentu dengan perilaku yang provokatif atau merendahkan untuk kepentingan tertentu.[2] Dalam konteks kelompok LGBTQIA+, hal ini dapat memperparah stereotip yang sudah ada dan memperkuat sentimen anti-LGBTQIA+ yang seringkali dipolitisasi.

Di Indonesia misalnya, dengan sensitivitas tinggi terhadap isu agama dan moralitas publik, konten deep fake yang merekayasa simbol-simbol yang berasosiasi dengan LGBTQIA+ untuk mengesankan keterlibatan dalam penistaan agama memicu kemarahan luas. Kasus dari akun @pixelhelper memperlihatkan bagaimana serangan semacam ini bekerja di tataran simbolik yang mengaitkan identitas LGBTQIA+ dengan kejahatan moral.[3] Respons yang muncul di media sosial tidak hanya berupa kecaman terhadap pelaku, tetapi juga serangan verbal dan ancaman akan kekerasan terhadap komunitas LGBTQIA+ secara umum.

AI, Disinformasi, dan Polarisasi Identitas

Fenomena ini secara langsung menunjukkan bahwa AI generatif dan deep fake memiliki kemampuan dalam menciptakan ekosistem baru untuk reproduksi disinformasi digital berbasis identitas. Disinformasi bukan hanya menyoal penyebarluasan kebohongan informasi, tetapi terkait juga tentang bagaimana informasi tersebut memperkuat bias yang sudah ada.[4] Dalam masyarakat yang masih konservatif dan diwarnai ketegangan politik identitas, rekayasa visual berbasis AI ini tentu sangat efektif untuk mempertegas sentimen kebencian. Teknologi AI membawa eskalasi dalam politik identitas. Konten palsu yang meyakinkan dapat memobilisasi massa, memperkuat polarisasi, bahkan memicu kekerasan secara fisik.[5] Dalam konteks LGBTQIA+. ancaman tersebut bukan hanya bersifat reputasional, tetapi berpotensi membahayakan keselamatan fisik individu dan kelompok marginal tersebut.

Ketertinggalan Regulasi: Siapa yang Melindungi?

Hingga saat ini, Indonesia belum memiliki kerangka hukum yang spesifik dalam mengatur dan menindak kasus penyalahgunaan teknologi seperti deep fake. UU ITE memang memuat ketentuan mengenai hoaks dan pencemaran nama baik, tetapi belum secara eksplisit mengatur serangan berbasis manipulasi visual atau audio yang menargetkan dan merugikan kelompok minoritas tertentu. Hal ini menciptakan kekosongan hukum yang membuat komunitas LGBTQIA+ sulit mendapatkan perlindungan hukum yang adil dan setara.[6] Di samping itu, penegakkan hukum masih kerap kali bias, yang mana cenderung lebih cepat dalam merespons aduan tentang penistaan agama daripada pelanggaran hak asasi atau diskriminasi berbasis gender dan orientasi seksual. Hal ini memperparah kerentanan LGBTQIA+ di ruang digital.

Peran Platform Digital dan Tanggung Jawab Etis

Platform digital seperti Instagram, Tik-Tok, dan X (sebelumnya Twitter) memiliki peran sentral dalam mencegah penyebaran konten deep fake. Namun, studi menunjukkan bahwa deteksi otomatis yang diterapkan masih lemah dan lambat.[7] Tidak sedikit konten deep fake ini beredar berhari-hari atau berminggu-minggu sebelum akhirnya dihapus. Sementara itu, dampak sosial yang dirasakan sudah terlanjur terasa.Selain keterbatasan teknologi deteksi ini, ada juga persoalan terkait akuntabilitas. Platform digital cenderung mengutamakan engagement dan profit daripada perlindungan terhadap pengguna atau kelompok rentan.[8] Tanggung jawab etis platform ini mesti diperjelas dan dipertegas, antara lain dengan transparansi algoritma, kolaborasi partisipatif dengan komunitas sipil, dan kebijakan zero tolerance terhadap konten manipulatif berbasis kebencian.

Advokasi dan Tindakan Komunal

Upaya perlawanan terhadap deep fake berbasis kebencian tidak cukup mengandalkan penegakan hukum atau kecanggihan teknologi deteksi semata. Jauh dari itu, penting untuk membangun kesadaran kolektif bahwa serangan berbasis AI terhadap suatu identitas tertentu merupakan serangan terhadap seluruh prinsip keadilan sosial dan hak asasi manusia.

Langkah konkret yang dapat diambil meliputi: (1) Literasi digital untuk semua, masyarakat luas perlu didorong untuk memiliki literasi digital yang lebih tinggi agar mampu mengenali kontek nyata dan konten yang telah direkayasa.[9] Pelatihan literasi digital ini dapat menjadi bagian penting dari kurikulum nasional dan kampanye publik. (2) Mendorong etika AI, penggunaan AI generatif perlu diikat oleh norma etik yang tegas.[10] Pemerintah, akademisi, dan industri teknologi bersama-sama merumuskan prinsip etik AI yang menghormati hak bersama, termasuk hak kelompok minoritas, sehingga tidak ada yang dikecualikan. (3) Merancang kebijakan perlindungan identitas digital, regulasi baru harus dirancang untuk melindungi representasi digital warga negara, termasuk perlindungan khusus bagi kelompok marginal.[11] Ini mencakup mekanisme pemulihan hak, penegakan hukum yang adil, dan penguatan hak digital.

Kesimpulan

Fenomena serangan berbasis deep fake terhadap komunitas LGBTQIA+ adalah gejala dari ekosistem digital yang belum siap secara hukum, etika, dan budaya menghadapi dampak teknologi baru. Jika dibiarkan, ada risiko bahwa kekerasan simbolik seperti ini akan menjadi “normal”, dianggap bagian wajar dari dinamika media sosial.

Insiden-insiden ini juga menjadi peringatan: manipulasi berbasis AI tidak hanya mengancam satu komunitas saja. Kelompok rentan lainnya, seperti perempuan, minoritas agama dan etnis, penyandang disabilitas, serta para aktivis, sama mudahnya menjadi sasaran. Dalam masyarakat yang makin algoritmik, konten sintetis yang dimanipulasi berpotensi memperkuat ketimpangan yang sudah ada dan memperluas diskriminasi secara masif.

Ke depan, penyempurnaan regulasi dan penguatan etika AI harus berjalan beriringan dengan pemberdayaan masyarakat melalui literasi digital. Negara perlu mengadopsi pendekatan yang berpusat pada hak asasi manusia untuk merumuskan kebijakan yang melindungi kelompok rentan di ruang digital.

Selain itu, platform digital tak bisa lagi berlindung di balik narasi netralitas teknologi. Di era AI generatif, pengelolaan risiko dan tanggung jawab etis platform adalah bagian integral dari keadilan sosial. Yang dipertaruhkan bukan hanya keamanan komunitas LGBTQIA+, tetapi juga kualitas ruang publik digital kita bersama. Tantangan ini adalah peluang bagi Indonesia untuk membangun tata kelola digital yang lebih inklusif dan berkeadilan.

  1. Lidyana, V. (2025). Akun Pixel Helper Dikecam usai Unggah Video Perayaan LGBT di Kabah. IDN Times. Available at: https://www.idntimes.com/news/world/pixel-helper-dikecam-usai-unggah-video-perayaan-LGBT+-di-kabah-00-3m8tp-4t8js2 ↑
  2. Vaccari, C. & Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, 6(1). ↑
  3. Nasiruddin, M. (2025). Kontroversi Akun Pixel Helper: Replika Ka’bah Pelangi. Kompasiana. Available at: https://www.kompasiana.com/mohnasiruddin2480/6830e1fa34777c65c664eaf3/kontroversi-akun-pixel-helper-replika-ka-bah-pelangi ↑
  4. Marwick, A. & Lewis, R. (2017). Media Manipulation and Disinformation Online. Data & Society Research Institute. ↑
  5. Brundage, M. et al. (2018). The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. arXiv. ↑
  6. Human Rights Watch. (2024).World Report 2024: Indonesia. HRW Report. ↑
  7. Gillespie, T. (2018). Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. Yale University Press. ↑
  8. Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press. ↑
  9. Wardle, C. & Derakhshan, H. (2017). Information Disorder: Toward an Interdisciplinary Framework for Research and Policy Making. Council of Europe. ↑
  10. Jobin, A., Ienca, M. & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), pp. 389-399. ↑
  11. UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. UNESCO. ↑