- 22/12/2025
- Category: Commentaries ID
Author: Luthfi Baihaqi Riziq
Editor: Achmed Faiz Yudha Siregar
Pendahuluan
Di hadapan ancaman eksistensial akibat perkembangan pesat kecerdasan artifisial (KA), pemerintah serta berbagai lembaga internasional mencoba membatasi produksi dan penggunaan KA dengan serangkaian regulasi. Prinsip-prinsip etis digunakan dalam berbagai dokumen kerangka kerja untuk mendapatkan legitimasi.[1] Namun, implementasi regulasi KA yang benar-benar adil demi umat manusia tidak serta-merta datang dari menyebut prinsip. Hal ini disebut kesenjangan prinsip/praktik dalam regulasi KA.
Prinsip dan Ambiguitas
Mendekati isu KA dari prinsip menuju praktik dan kasus adalah cara populer bagi banyak badan pengembang kerangka kerja regulasi. Hal itu terkesan intuitif. Pemerintah perlu mencari landasan yang kuat bagi eksekusi program dan prinsip-prinsip etis tampak seperti pilihan bagus. Bagaimanapun, kita harus menyepakati rencana dengan berbagai pihak sebelum memulai operasi rencana tersebut.
| Negara/Lembaga | Dokumen | Prinsip Tercantum |
| UNESCO | Rekomendasi Etika Kecerdasan Artifisial[2] | Sepuluh prinsip inti: Proporsionalitas dan jangan merugikanKeselamatan dan keamananHak privasi dan proteksi dataTata kelola multi-pemangku kepentingan dan adaptif, dan kolaborasiTanggung jawab dan akuntabilitasTransparansi dan keterjelasanPengawasan dan penentuan manusiaKeberrlanjutanKesadaran dan literasiKeadilan dan non-diskriminasi |
| OECD / GPAI | Prinsip KA OECD[3] | Prinsip berbasis nilai: Pertumbuhan inklusif, pembangunan berkelanjutan, dan kesejahteraanPenghormatan kepada supremasi hukum, hak asasi manusia, nilai-nilai demokratis, termasuk keadilan dan privasiTransparansi dan keterjelasanKekokohan, keamanan, dan keselamatanAkuntabilitas |
| Cina | Norma Etis bagi Kecerdasan Artifisial Generasi Lanjut 2021 (Kode Etik KA 2021)[4] | Prinsip kunci: Meningkatkan kesejahteraan manusiaMempromosikan keadilan dan keadilanMelindungi privasi dan keselamatanMemastikan keterkendalian dan keandalanMeningkatkan akuntabilitasMeningkatkan literasi etis |
| Australia | Prinsip Etika KA Australia[5] | Kesejahteraan manusia, masyarakat, dan lingkunganNilai-nilai manusia-sentrisKeadilanPerlindungan privasi dan keamananKeandalan dan keselamatanTransparansi dan keterjelasanKemampuan untuk digugatAkuntabilitas |
| Indonesia | Surat Edaran Kementerian Komunikasi dan Informasi tentang Etika KA[6] | InklusivitasKemanusiaanKeamananAksesibilitasTransparansiKredibilitas dan akuntabilitasPelindungan data pribadiPembangunan dan lingkungan berkelanjutanKekayaan intelektual |
Tabel di atas merinci beberapa contoh penyebutan prinsip etika KA dalam dokumen kerangka kerja. Kerangka kerja tersebut meringkas nilai-nilai yang dianggap penting dalam pembatasan KA untuk menjadi pegangan bagi aktor pemerintah dan industri. Dokumen berbasis prinsip merupakan langkah penting bagi evolusi tata kelola KA.[7] Namun, ia hanya berlaku sebagai gambaran singkat tentang ekspektasi masa depan adopsi KA.
Masalah utama dari bergantung kepada prinsip dalam tata kelola KA adalah ketiadaan panduan bagi praktisi KA tentang cara desain atau implementasi algoritma dalam batasan etis yang diharapkan.[8] Akan tetapi, sebagaimana UUD tidak memberikan instruksi tentang cara membuat hukum, pun kerangka kerja etis tidak memberikan pedoman nyata tentang teknikalitas regulasi. Kerangka kerja tidak dibuat untuk mengekang. Dengan kata lain, kerangka kerja etis tidak memiliki fungsi praktis.
Menyebutkan nilai seperti transparansi dan keberlanjutan, misalnya, tidak mendesak aktor pemerintah ataupun industri untuk menjadi transparan dan lestari.[9] Kesamaran dan ambiguitas inheren dari prinsip-prinsip membuatnya mudah terabaikan dan, lebih buruk lagi, membuka celah eksploitasi. Dalam dokumen-dokumen ini, etika KA hanya dialihkan untuk menunjukkan posisi moral yang tinggi dan partisipasi bermakna.
Bahkan ketika UNESCO membarengi prinsip dengan “kebijakan tindak lanjut”, prinsip-prinsip tidak diterjemahkan menjadi praktik. Sebagai contoh, ideal semacam keadilan, keberlanjutan, dan proporsionalitas adalah konsep sosial yang dapat digugat dan berubah mengikuti individu, tempat, dan budaya. Asesmen prosedural terhadap dampak etis berdasarkan prinsip dapat mencoba mengukur menggunakan tapal batas yang paling ekstrem,[10] tetapi itu pun tetap tidak dipertimbangkan dalam pengembangan ataupun penggunaan KA. Memberikan instruksi eksplisit kepada para pengembang agar mempertimbangkan kode etik tidak mengubah cara kerja; mereka memprioritaskan heuristika tercepat dan tersimpel, yakni faktor ekonomis dan teknis.[11]
Melihat ke dalam Cermin
Alternatif etika KA berbasis prinsip adalah dokumen atau alat yang memberikan petunjuk pada level desain dan spesifikasi teknis.[12] Dibanding menyebutkan nilai semata, dokumen ini dapat terlihat seperti perangkat (toolkit) dengan sekumpulan pertanyaan “bagaimana”. Aksesnya terbuka agar dapat terus dikembangkan, tetapi selalu dapat diekstrak secara selektif. Contohnya, Kerangka Kerja Etika KA dari Digital Catapult, sebuah organisasi inovasi deep tech berbasis di Inggris, menggunakan kombinasi pertanyaan apa dan bagaimana untuk memperjelas desain produk KA dan mekanisme pengawasannya.[13]
Mengidentifikasi alat dan metode yang dapat membantu dalam situasi desain penting dilakukan untuk menetapkan batasan jelas dalam seluruh proses desain KA.[14] Pemetaan di dalamnya harus melingkupi pihak-pihak yang bertanggung jawab, pihak yang berkewajiban bertindak dalam situasi tertentu, dan kesepakatan bahasa yang digunakan. Tata kelola KA haruslah pragmatis dalam artian ia harus mencoba beroperasi dibanding berorientasi ideal. Mempersiapkan cara regulasi lebih penting daripada hal apa yang menjadi tujuan akhir. Daripada mengajukan prinsip universal, bertemu di tengah dengan praktisi KA dapat menghasilkan mekanisme etis dan regulatoris yang lebih relevan.
Limitasi perangkat ini ialah akan selalu terdapat faktor yang ditinggalkan dalam proses implementasi prosedur.[15] Dengan demikian, dapat dicatat bahwa perangkat ini harus diperbarui secara berkala dan cepat, bahkan lebih cepat dari kerangka kerja regulasi. Perangkat demikian dapat mengelaborasi ataupun membuang prinsip. Namun, ia tidak sebaiknya diimplementasikan dari atas ke bawah, melainkan dari bawah ke atas atau dari tengah ke luar—dilaksanakan oleh organisasi pengembang atau terdampak, kemudian relevansinya diperluas dari kasus spesifik menuju adaptasi lintas-organisasi.[16]
Kini, pemerintah Indonesia belum mengimplementasikan panduan berbasis praktisi yang dapat membantu desain dan adopsi KA. Surat Edaran Kemenkominfo di atas memajukan prinsip, sementara Buku Putih Peta Jalan KA Nasional[17] menggarisbawahi arah umum kebijakan hingga 2024. Etika KA masih direduksi menjadi prinsip. Rencana tata kelola pengembangan, adopsi, dan adaptasi tidak datang dari penyebutan prinsip. Sebaliknya, perangkat etika KA untuk mengembangkan pengetahuan teknis terkait perlindungan dari KA dapat didesain untuk dan melalui pengalaman para pengembang, ahli infrastruktur, organisasi sipil/komunitas, dan kelompok rentan terdampak tertentu. Hal ini akan menyuplai kesediaan basis pengetahuan selagi para praktisi mencoba mengoptimalkan manfaat dari alat KA untuk pembangunan manusia dan memitigasi potensi risikonya.
Kesimpulan
Prinsip etis KA yang belum dapat ditindaklanjuti harus dibarengi dengan panduan level meso bagi praktisi KA dalam setiap aspek. Desain, distribusi, hingga penggunaan selalu membutuhkan umpan balik konstan dari praktisi dan pengguna terlibat. Dengan demikian, dewan audit etis multidisipliner, berisikan secara parsial oleh para praktisi KA, dapat dibentuk untuk mendesain dan memproblematisasi praktik ataupun etika KA secara aktif.
[1] Untuk diskusi lebih tentang legitimasi etika KA, lihat Woods, D. (2025). Stag hunt in the digital wilds: Legitimizing global AI governance amidst diverse terrains. Fudan Journal of the Humanities and Social Sciences. https://doi.org/10.1007/s40647-025-00438-3
[2] UNESCO. (2022). Recommendation on the ethics of artificial intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000381137.locale=en
[3] Pertama diadopsi tahun 2019, lalu diamandemen tahun 2024. Lihat OECD. (2019). OECD AI principles overview. https://oecd.ai/en/ai-principles
[4] Yang, S., Fung, C., & Zhou, B. (2025, Januari 20). AI ethics: Overview (China). China Law Vision. https://www.chinalawvision.com/2025/01/digital-economy-ai/ai-ethics-overview-china/. Versi Mandarin orisinal dapat diakses di sini: https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html
[5] Australian Government. (2019, November 7). Australia’s AI ethics principles. Australian Department of Industry, Science and Resources. https://www.industry.gov.au/publications/australias-ai-ethics-principles
[6] Surat Edaran tentang Etika KA dapat diakses di sini: https://jdih.komdigi.go.id/produk_hukum/view/id/883/t/surat+edaran+menteri+komunikasi+dan+informatika+nomor+9+tahun+2023
[7] Lihat Raab, C. D. (2020). Information privacy, impact assessment, and the place of ethics. Computer Law & Security Review, 37, 105404. https://doi.org/10.1016/j.clsr.2020.105404
[8] Orr, W., & Davis, J. L. (2020). Attributions of ethical responsibility by Artificial Intelligence practitioners. Information, Communication & Society, 23(5), 719-735. https://doi.org/10.1080/1369118X.2020.1713842
[9] Munn, L. The uselessness of AI ethics. AI and Ethics, 3, 869-877. https://doi.org/10.1007/s43681-022-00209-w
[10] UNESCO. (2023). Ethical impact assessment: A tool of the Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000386276
[11] Hagendorff, T. (2020). The ethics of AI ethics: An evaluation of guidelines. Minds and Machines, 30, 99-120. https://doi.org/10.1007/s11023-020-09517-8
[12] Morley, J., Elhalal, A., Garcia, F., Kinsey, L., Mokander, J., & Floridi, L. (2021). Ethics as a service: A pragmatic operationalisation of AI ethics. Minds & Machines, 31, 239-256. https://doi.org/10.1007/s11023-021-09563-w
[13] Digital Catapult. (2018). Ethics framework. https://www.digicatapult.org.uk/wp-content/uploads/2023/06/DC_AI_Ethics_Framework-2021.pdf
[14] Morley, J., Floridi, L., Kinsey, L., & Elhalal, A. (2020). From what to how: An initial review of publicly available AI ethics tools, methods and research to translate principles into practices. Science and Engineering Ethics, 26, 2141-2168. https://doi.org/10.1007/s11948-019-00165-5
[15] Setiap kerangka kerja dan perangkat dapat saja terbatas bagi situasi tertentu. Untuk diskusi lebih, lihat Qiang, V., Rhim, J., & Moon, A. (2024). No such thing as one-size-fits-all in AI ethics frameworks: A comparative case study. AI & Society, 39, 1975-1994. https://doi.org/10.1007/s00146-023-01653-w
[16] Lihat Wong, R. Y., Madaio, M. A., & Merrill, N. (2023). Seeing like a toolkit: How toolkits envision the work of AI ethics. Proceedings of the ACM on Human-Computer Interaction, 7(CSCW1). https://doi.org/10.1145/3579621
[17] Draf Buku Putih Peta Jalan KA Nasional terbit pada Agustus 2025 dan dapat diakses di sini: https://s.komdigi.go.id/KonsultasiPublik_KA
