We Need AI Regulations, Now: A Look at the European Union and China

  • 30/07/2025
  • Category: Commentaries ID
Tidak ada komentar
ai regulations

Penulis: Nathania Azalia
Editor: Achmed Faiz Yudha Siregar

Teknologi kecerdasan Buatan (AI) sedang berkembang pesat; pengembangan dan penggunaannya tidak dapat dihindari, terutama dengan adanya dorongan dalam skala global untuk melakukan digitalisasi dan inovasi. Pasar AI sendiri diproyeksikan mencapai USD 4,8 triliun pada tahun 2033 dari USD 189 miliar pada tahun 2023–membuktikan bahwa AI memimpin generasi teknologi masa depan.[1] Namun, karen masih berkembang, berbagai kekhawatiran muncul. Risiko seperti kehilangan pekerjaan, misinformasi, kekerasan seksual, ancaman terhadap privasi dan persetujuan (consent), serta hak kepemilikan hanyalah beberapa masalah yang muncul setiap harinya akibat penggunaan AI yang kurang diatur. Risiko-risiko terhadap hak-hak manusia ini menyoroti urgensi dibentuknya regulasi AI. Saat ini, hanya beberapa entitas, seperti Uni Eropa (UE) dan Tiongkok, yang sudah memiliki regulasi yang komprehensif. Hal ini dikarenakan oleh teknologi AI masih terus berkembang dan dengan kecepatan yang tidak mudah untuk diikuti.

Seiring negara-negara berlomba melakukan digitalisasi, kebutuhan akan pagar pembatas menjadi semakin mendesak. Dengan banyaknya risiko yang ada, pemerintah harus mempercepat penegakan regulasi AI untuk mencegah hilangnya kepentingan dasar manusia. Tulisan ini melihat risiko AI yang tidak diatur, mengeksplorasi peraturan AI yang ada di Uni Eropa dan Tiongkok, serta apa yang dapat dipelajari oleh Indonesia untuk membangun regulasinya sendiri.

Risiko-risiko Kecerdasan Buatan yang Tidak Diatur

Popularitas AI, termasuk generative AI, semakin mudah diakses oleh masyarakat umum. Meskipun bermanfaat untuk memudahkan pekerjaan, AI memiliki banyak risiko jika tidak diatur. Menurut CNN, 41% bisnis di seluruh dunia diproyeksikan mengurangi tenaga kerja manusia pada tahun 2030 akibat pengadopsian AI.[2] Hal ini dapat menyebabkan kesulitan bagi masyarakat untuk mempertahankan mata pencaharian mereka, apabila tidak ada pelatihan dan peningkatan keterampilan tenaga kerja yang memadai.

Teknologi AI juga memperburuk kekerasan seksual di ranah digital. Kemampuan generative AI untuk memanipulasi media visual memudahkan pembuatan pornografi, terutama pornografi deepfake. Deepfake adalah video dan gambar yang dibuat secara digital, dan dalam kasus pornografi, siapapun dapat membuat dan membagikan konten pornografi palsu dan nonkonsensual. Anggota Parlemen Selandia Baru, Laura McClure, menyuarakan kekhawatiran ini dengan meninjukkan gambar deepfake dirinya yang dihasilkan AI di depan Parlemen.[3] McClure menekankan bahwa masalah AI ini terletak pada penyalahgunaannya, bukan pada teknologinya itu sendiri.

Risiko terkait hak cipta dan keambiguan seputar seni dan AI juga meningkat. Pada awal tahun ini, media sosial diramaikan dengan fitur image generation dalam OpenAI 4o. Hal ini dipopulerkan oleh tren memanipulasi gambar menjadi gambar yang mirip dengan gaya seni film-film Studio Ghibli–seperti Spirited Away dan Howl’s Moving Castle. Hayao Miyazaki, pendiri Studio Ghibli, telah mengkritik AI dan seni yang dihasilkan secara artifisial, menyebutnya sebagai “insult to life itself.[4]” Keberadaan tren ini memperliatkan isu etika atas hak cipta, pertanyaan tentang masa depan kesenian, dan juga nilai kreativitas yang dihasilkan manusia.

Indonesia sendiri sudah semakin terdigitalisasi, dan pemerintah juga mendorong pengembangan dan penggunaan AI.[5] Namun, kita belum memiliki pedoman yang jelas untuk mengatur teknologi ini. Dengan risiko-risiko AI yang ada, diperlukan regulasi yang akan bertindak sebagai pedoman pengembangan dan penggunaan AI. Saat ini, UE dan Tiongkok telah mengambil langkah untuk meregulasi AI.

Regulasi AI di Uni Eropa dan Tiongkok

UE menetapkan Artificial Intelligence Act pada 13 Juni 2024 sebagai kerangka hukum resmi yang komprehensif untuk mengatur AI dari segi pengembangan, penempatan pada pasar, penggunaan, dan pemanfaatan AI dalam kawasannya.[6] Regulasi tersebut mendefinisikan AI sebagai sistem berbasis mesin yang dirancang untuk beroperasi dengan berbagai tingkat otonomi dan mempunyai kemampuan untuk beradaptasi. AI menggunakan data input untuk menghasilkan output seperti prediki, konten, rekomendasi, atau keputusan yang dapat memengaruhi lingkungan fisik maupun virtual. UE melihat bahwa AI memiliki berbagai risiko dan regulasi ini digunakan sebagai pagar pembatas untuk memastikan bahwa pengembangan dan penggunaan AI berpusat pada manusia dan dapat dipercaya (trustworthy). Hal ini termasuk perlindungan kesehatan, keselamatan, dan hak-hak dasar, sesuai dengan Charter of Fundamental Rights of the European Union–yang mencakup demokrasi, supremasi hukum, lingkungan, dan inovasi.

Untuk menegakkan regulasi AI, UE membentuk Kantor AI di dalam European Commmision. Kantor ini akan membentuk sistem tata kelola AI yang ditargetkan rampung pada tahun 2026. Mereka akan mengurus hal-hal terkait implementasi, pemantauan, dan pengawasan sistem AI.[7] Bersama dengan negara-negara anggota, Dewan AI, Panel Ilmiah, dan Forum Penasihat akan mengawai perkembangan regulasi ini.[8] Implementasi regulasi ini juga akan dilakukan bersamaan dengan kebijakan-kebijakan AI lainnya, seperti AI Innovation Package, AI Factories, dan Coordinated Plan on AI. Melalui langkah ini, UE berusaha untuk menyeimbangkan kemajuan teknologi dan perlindungan hak-hak dasar.

Di sisi lain, Tiongkok sudah berproses membuat regulasi AI sejak tahun 2021, dimulai dengan Interim Measures for the Management of Generative AI Services (“the Measures”) yang diterbitkan pada tahun 2023.[9] Tiongkok mendorong inovasi teknologi AI, tetapi juga mewajibkan pengembangan dan penggunaan AI selaras dengan hukum yang ada, menghormati moralitas dan etika sosial, serta tidak bersinggungan dengan keamanan dan kepentingan nasionalnya.[10] Regulasi tersebut juga mewajibkan pengembang teknologi AI untuk mendaftar algoritmanya pada pemerintah.[11] Selain itu, Tiongkok membentuk Cyberspace Administration of China (CAC) untuk mengawasi tata kelola AI. Hal ini dilakukan bersamaan dengan kementerian terkait lainnya seperti Kementerian Informasi dan Teknologi.

Apa yang dapat dilakukan Indonesia di era AI ini?

Indonesia, seperti negara-negara lain di dunia, sedang mendorong digitalisasi di berbagai aspek kehidupan. Teknologi AI masuk dalam visi tersebut. Dengan banyaknya risiko AI yang tidak diatur, terciptanya keseimbangan antara inovasi dan hak-hak dasar semakin penting. UE dan Tiongkok telah menetapkan regulasi untuk pengembangan dan penggunaan AI, masing-masing dengan versinya sendiri. Namun, etika dan kredibilitas AI tetap menjadi prioritas utama. Pemerintah Indonesia dapat melihat ke UE dan Tiongkok; bagaimana mereka mengembangkan regulasi AI, bagaimana mereka menyesuaikannya dengan lingkungan dan budaya digital yang ada, dan bagaimana untuk memprioritaskan pengembangan dan penggunaan AI yang human-centred.

Daftar Pustaka

Budiyanti, L. dan Adji, R. (2025). Indonesia encourages human-centered AI development. [online] Antara News. Tersedia di: https://en.antaranews.com/news/363949/indonesia-encourages-human-centered-ai-development [Diakses 5 Jul. 2025].

Cyberspace Administration of China (2023). Interim Measures for the Management of Generative Artificial Intelligence Services. [online] www.cac.gov.cn. Tersedia di: https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.

European Commission (2025). AI Act. [online] European Commission. Tersedia di: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai [Diakses 23 Jun. 2025].

European Union (2024). Artificial Intelligence Act. [online] Tersedia di: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689 [Diakses 8 Jun. 2025].

Evans, G. (2025). Hayao Miyazaki’s ‘disgusted’ thoughts on AI resurface following Studio Ghibli trend. [online] The Independent. Tersedia di: https://www.independent.co.uk/arts-entertainment/films/news/hayao-miyazaki-studio-ghibli-ai-trend-b2723358.html [Diakses 8 Jun. 2025].

Future of Life Institute. (n.d.). The AI Act: Responsibilities of the European Commission (AI Office) | EU Artificial Intelligence Act. [online] Tersedia di: https://artificialintelligenceact.eu/responsibilities-of-european-commission-ai-office/ [Diakses 23 Jun. 2025].

Olesya Dmitracova (2025). 41% of companies worldwide plan to reduce workforces by 2030 due to AI. [online] CNN. Tersedia di: https://edition.cnn.com/2025/01/08/business/ai-job-losses-by-2030-intl [Diakses 8 Jun. 2025].

Pandey, N. (2025). New Zealand MP Exposes Deepfake Threat By Displaying AI-Generated Nude Image Of Herself In Parliament. [online] NDTV. Tersedia di: https://www.ndtv.com/world-news/new-zealand-mp-exposes-deepfake-threat-by-displaying-ai-generated-nude-image-of-herself-in-parliament-8591350 [Diakses 8 Jun. 2025].

Sheehan, M. (2023). China’s AI Regulations and How They Get Made. [online] Carnegie Endowment for International Peace. Tersedia di: https://carnegieendowment.org/research/2023/07/chinas-ai-regulations-and-how-they-get-made?lang=en.

UNCTAD (2025). AI market projected to hit $4.8 trillion by 2033, emerging as dominant frontier technology. [online] UN Trade and Development (UNCTAD). Tersedia di: https://unctad.org/news/ai-market-projected-hit-48-trillion-2033-emerging-dominant-frontier-technology [Diakses 8 Jun. 2025].

Zou, M. dan Zhang, L. (2025). Navigating China’s regulatory approach to generative artificial intelligence and large language models. Cambridge Forum on AI: Law and Governance, 1. doi:https://doi.org/10.1017/cfl.2024.4.

  1. UNCTAD (2025). AI market projected to hit $4.8 trillion by 2033, emerging as dominant frontier technology. [online] UN Trade and Development (UNCTAD). Tersedia di: https://unctad.org/news/ai-market-projected-hit-48-trillion-2033-emerging-dominant-frontier-technology [Diakses 8 Jun. 2025] ↑
  2. Olesya Dmitracova (2025). 41% of companies worldwide plan to reduce workforces by 2030 due to AI. [online] CNN. Tersedia di: https://edition.cnn.com/2025/01/08/business/ai-job-losses-by-2030-intl [Diakses 8 Jun. 2025]. ↑
  3. Pandey, N. (2025). New Zealand MP Exposes Deepfake Threat By Displaying AI-Generated Nude Image Of Herself In Parliament. [online] NDTV. Tersedia di: https://www.ndtv.com/world-news/new-zealand-mp-exposes-deepfake-threat-by-displaying-ai-generated-nude-image-of-herself-in-parliament-8591350 [Diakses 8 Jun. 2025]. ↑
  4. Evans, G. (2025). Hayao Miyazaki’s ‘disgusted’ thoughts on AI resurface following Studio Ghibli trend. [online] The Independent. Tersedia di: https://www.independent.co.uk/arts-entertainment/films/news/hayao-miyazaki-studio-ghibli-ai-trend-b2723358.html [Diakses 8 Jun. 2025]. ↑
  5. Budiyanti, L. dan Adji, R. (2025). Indonesia encourages human-centered AI development. [online] Antara News. Tersedia di: https://en.antaranews.com/news/363949/indonesia-encourages-human-centered-ai-development [Diakses 5 Jul. 2025]. ↑
  6. European Union (2024). Artificial Intelligence Act. [online] Tersedia di: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689 [Diakses 8 Jun. 2025]. ↑
  7. Future of Life Institute. (n.d.). The AI Act: Responsibilities of the European Commission (AI Office) | EU Artificial Intelligence Act. [online] Tersedia di: https://artificialintelligenceact.eu/responsibilities-of-european-commission-ai-office/ [Diakses 23 Jun. 2025]. ↑
  8. European Commission (2025). AI Act. [online] European Commission. Tersedia di: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai [Diakses 23 Jun. 2025]. ↑
  9. Zou, M. dan Zhang, L. (2025). Navigating China’s regulatory approach to generative artificial intelligence and large language models. Cambridge Forum on AI: Law and Governance, 1. doi:https://doi.org/10.1017/cfl.2024.4. ↑
  10. Cyberspace Administration of China (2023). Interim Measures for the Management of Generative Artificial Intelligence Services. [online] www.cac.gov.cn. Tersedia di: https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm. ↑
  11. Sheehan, M. (2023). China’s AI Regulations and How They Get Made. [online] Carnegie Endowment for International Peace. Tersedia di: https://carnegieendowment.org/research/2023/07/chinas-ai-regulations-and-how-they-get-made?lang=en. ↑