- 09/10/2024
- Category: Press Release
Yogyakarta, 3 Oktober 2024 – Penggunaan kecerdasan buatan (artificial intelligence) kini tidak hanya ada pada dunia bisnis dan industri, tetapi juga mulai mendominasi ranah politik. Di tengah berkembangnya teknologi ini, Indonesia berada di titik kritis dalam mengadopsi AI sebagai bagian dari masa depan demokrasinya. Melanjutkan misi untuk mempercepat kesejahteraan melalui masyarakat digital, Center for Digital Society (CfDS) UGM melangsungkan diskusi mengenai problem aini melalui Digital Society Week (DSW) 2024. Di dalam rangkaian hari ketiga DSW 2024, CfDS menghadirkan Doni Andika Pradana (Mahasiswa Fakultas Filsafat UGM dan Penerima Beasiswa CfDS), Perdana Karim (Koordinator Peneliti CfDS UGM), Bangkit Adhi Wiguna (Peneliti CfDS UGM), dan Henke Yunkins (Direktur Regulasi dan Etika di Indonesia AI Society (IAIS)) untuk mengupas tema berjudul “AI & It’s Socio Political Dimension” pada empat sesi yang berbeda.
Dalam dunia yang terus berubah, konsep mengenai demokrasi mengalami perkembangan dan perubahan yang besar pula. Doni menjelaskan bahwa dengan munculnya AI, terdapat persimpangan baru di demokrasi Indonesia, ditandai dengan penerapan e-government dan Undang-Undang Keterbukaan Informasi Publik yang mendorong transparansi dan akuntabilitas di era digital. Hal ini tercermin melalui pengadaan Parlemen Terbuka yang diimplementasikan di Dewan Perwakilan Rakyat Indonesia (DPR) dengan tujuan untuk menyediakan akses publik terhadap informasi legislatif, jadwal sidang, sampai risalah rapat. “DPR telah berusaha dengan baik untuk membuka akses bagi publik melalui berbagai platform digital, memungkinkan masyarakat untuk memantau proses legislasi dengan lebih transparan”, tutur Doni.
Penerapan AI dalam proses demokrasi ini membawa implikasi positif, memungkinkan keterhubungan koneksi antara pemerintah dan masyarakat sehingga dapat menciptakan partisipasi yang lebih luas dalam mengambil keputusan. Namun, infrastruktur digital di Indonesia masih mengalami keterbatasan, mulai dari seringnya down-nya server laman web DPR, hingga literasi digital yang masih belum merata. Oleh karena itu, perlu perhatian khusus untuk menangani tantangan etis dan inklusivitas ini untuk memastikan demokrasi digital yang adil di Indonesia.
Urgensi dari penerapan inklusivitas teknologi tentunya harus dilakukan secepatnya, mengingat AI kerap digunakan oleh para politisi untuk membangun narasi digital yang lebih relevan untuk kebutuhan kampanye. Dalam konteks ini, generative AI memiliki potensi besar untuk mengubah cara kampanye politik dilakukan, khususnya bagi generasi muda. Karim menuturkan bahwa peran anak muda sebagai pemilih sangatlah krusial, mengingat total populasi generasi muda sebanyak 56,5%. “Generasi muda sering terjebak dengan konten yang dipersonalisasi oleh algoritma sehingga menimbulkan bias dalam penilaiannya kepada kandidat politik”, tutur Karim.
Risiko ini tentunya tidak dapat diabaikan karena penggunaan AI dalam kampanye politik dapat memicu polarisasi yang lebih besar, karena algoritma ini cenderung memperkuat bias dan menciptakan “echo chamber” atau ruang gema, di mana pemilih hanya melihat konten yang sesuai dengan apa yang diyakininya. Oleh karena itu, generasi muda dituntut untuk lebih kritis terhadap narasi yang diyakinkan oleh para elit politik. “Jangan hanya karena jargon kampanye, pemuda langsung meyakini semua narasi yang dibuat. Sebagai pemuda, kita harus ‘jual mahal’ untuk tidak langsung menerima citra yang mereka bangun melalui AI”, tambah Karim.
Dalam konteks ini, generasi muda harus peka terhadap tantangan serius ini, khususnya kala pemilu dan pilkada. Terdapat banyak risiko bias-bias tertentu, seperti bias gender dan ras. Penggunaan AI yang tidak tepat tentunya dalam memperdalam ketidaksetaraan di masyarakat. Menurut Bangkit yang mengutip penelitian Berkeley Haas, sekitar 44% kinerja AI terjebak dalam bias gender. Misalnya, AI cenderung akurat dalam mengenali individu berkulit gelap, sementara perempuan atau kelompok ras tertentu digambarkan dengan berbagai stereotip yang merugikan. Implikasi ini sangat berdampak besar, seperti di sektor tenaga kerja, di mana perusahaaan tertentu menunjukan kecenderungannya untuk mendiskriminasi kandidat perempuan dalam proses seleksi.
Salah satu upaya teknis yang dapat dilakukan adalah dengan memperbaiki proses word embedding (pengaitan satu kata dengan kata lain). Intervensi ini dapat dilakukan untuk membuat dataset pembelajaran AI menjadi lebih inklusif. Meskipun hal ini telah teruji berhasil mengurangi bias dari 19% dari 6%, solusi ini bukanlah langkah jangka panjang karena AI selalu bergantung pada preferensi masyarakat. Jika preferensi ini mengandung bias, sewaktu-waktu bias ini akan kembali tercatat ke dalam sistem AI. Bangkit menyerukan perlu adanya intervensi di level masyarakat pengguna AI. Menurutnya, harus ada program yang menilik apakah masyarakat dari awal telah menormalisasi bias gender dan ras dalam keseharian kelompoknya. “Perjuangan keadilan gender dan ras sepatutnya diberi ruang. Negara dan akademisi harus mengambil peran untuk mendistribusikan pengetahuan mengenai isu ini”, tekan Bangkit menutup sesinya.
Bias-bias ini jika tidak dikelola dengan baik akan menimbulkan dampak yang berbahaya, seperti perihal perlindungan data pribadi. Melalui sesinya, Henke mengungkapkan bahwa, untuk bekerja secara efektif, AI memerlukan data pribadi dalam jumlah besar sebagai bahan pembelajarannya. Hal ini meningkatkan risiko masalah privasi dan kebocoran data yang akan semakin marak. AI sering pula dianggap lebih akurat dan tidak memihak, tetapi sayangnya algoritma tersebut bisa mengandung bias yang serius. Algoritma ini sering bekerja sebagai kotak hitam yang sulit dipahami. Keputusan ini seringkali disertai dengan penjelasan yang cukup, membuat masyarakat sulit memverifikasi kebenaran dan keadilannya. “Jangan memanusiakan AI karena AI sendiri merupakan tools yang bisa digunakan untuk mengarang bebas sehingga dapat menghadirkan aspek non-factual. Bahkan ChatGPT sering salah sehingga kita harus selalu mengecek kebenarannya”, jelas Henke
Untuk mengatasi risiko ini, prinsip etika AI harus dikembangkan, seperti transparansi, keadilan, privasi, dan keselamatan dengan tujuan untuk memaksimalkan manfaat dan meminimalkan kerugian bagi masyarakat dan mempertimbangkan seluruh penggunanya. “Penggunaan AI harus disertai dengan regulasi yang lebih kuat untuk mengatasi bias-bias yang mungkin timbul dan mempertimbangkan seluruh konteks, seperti pengguna, tujuan, dan target. AI tidak dapat dipandang sebagai sistem yang bekerja dalam ruang hampa. Dengan demikian, pengembangan AI secara etis bukan hanya soal teknologi, tetapi juga harus mempertimbangkan aspek sosial dan kemanusiaan”, tutur Henke menutup sesi ini.
Penulis : Muhammad Alfasya Syabil Sholatar
Editor : Allysa Putri Rendry
