- 08/03/2023
- Category: Commentaries ID
Penulis: Rio Akbar Pramanta
Editor: Alfredo Putrawidjoyo
Belakangan ini menjadi suatu tren dalam inovasi teknologi digital tentang AI Generation Engine atau Mesin Generasi AI. Mesin ini dapat memproduksi karya berdasarkan pemberian datadan pengambilan sampelyang telah dilakukan dan akan memproduksi karya sesuai prompt atau kata kunciyang diberikan oleh penggunapada mesintersebut. Seiring mesin tersebut terus belajar berdasarkan data, sampel, dan kata kunciyang diberikan, hasil produksi mesin tersebut semakin terlihat seperti karya manusia. Selayaknya tren terbaru selalu menjadi disrupsi terhadap hal-hal yang sudah ada, teknologi AI ini menjadi suatu resiko, bahkan ancaman terhadap beberapa hal.
Sebutlah AI seperti Stable Diffusion atau Midjourney yang dapat memproduksi ilustrasi dalam berbagai gaya, yang sebenarnya dihasilkan melalui sampel karya seniman tanpa persetujuan mereka. Semakin pintarnya AI tersebut dalam memproduksi karya dalam waktu yang lebih singkat pula daripada manusia, profesi seniman dapat terancam eksistensinya karena hal ini. Atau, ketika muncul berita bagaimana mahasiswa dapat lulus ujian berkat bantuan AIChatGPT. Hanya beberapa kali saja praktik ini tertangkap karena kejelian si dosen penguji. Dan di lain cerita, seseorang sukses memproduksi sebuah buku cerita yang seluruh isinya diproduksi ChatGPT. Sedikit contoh seperti ini dapat dinilai adanya krisis etika.
Prinsip Birokrasi Weber dan Dehumanisasi
Dalam hal perkembangan dan inovasi teknologi digital, Muellerleile dan Robertson menjelaskan bahwa terjadi perkembangan prinsip-prinsip birokrasi Weberian dalam konteks digital.[i] Prinsip-prinsip tersebut adalah: Efisiensi, Objektivitas, dan Rasionalitas. Efisiensi teknologi digital dianggap lebih berkelanjutan dan kompetitif. Teknologi digital juga dinilai bersifat objektif dan “bebas nilai”, karena bekerja atas kuantifikasi dan pengolahan Big Data atau Mahadata. Serta, teknologi digital lebih rasional karena menggunakan logika mesinyang formal. Hal ini digadangkan sebagai inovasi termutakhir dan bersifat disruptif.
Max Weber mendefinisikan birokrasi sebagai sebuah organisasi formal yang terstruktur, impersonal, dan bebas-nilai. Dapat dinilai bagaimana teknologi AI adalah teknologi yang impersonal, berstruktur formal, dan bebas bias nilai yang dimiliki oleh manusia. Impersonalitas ini juga didukung oleh kuantifikasi dan penggunaan Mahadata, di mana manusia direduksi menjadi angka dalam statistik. Namun, apa konsekuensi dari semua ini?
Kembali pada AI yang memproduksi karya seni, AI sudah bisa memproduksi karya seni secara lebih efisien, menghilangkan kreativitas yang berada di balik karya seni ciptaan manusia. Sebagai konsekuensinya, penggunaan teknologi AI yang didorong oleh prinsip-prinsip ini akan mengakibatkan dehumanisasi, bagaimana nilai manusia menjadi lebih rendah dan tergantikan oleh mesin.
Namun, Weber sendiri sudah memprediksi bagaimana fenomena dehumanisasi ini dapat terjadi. Sebuah esai menjelaskan bagaimana Weber sendiri khawatir bagaimana model birokrasinya dapat memberikan efek negatif pada masyarakat dan sistem sosial apabila tidak ada pembatasnya.[ii] Weber mendeskripsikannya sebagai masyarakat yang kaku dan menyerupai mesin, di mana individu hanya memiliki nilai sebatas bagaimana Ia dapat memproduksi secara rasional. Weber mengatakan bahwa harus terdapat nilai-nilai humanistik yang menyeimbangkan rasionalitas birokrasi. Weber memakai istilah “kharisma” sebagai lawan atas rasionalitas. “Kharisma” yang bersifat personal, akan menghambat proses perkembangan birokratisasi yang bersifat impersonal.
Namun, bagaimana jika individu yang memakai kharisma tersebut, justru datang mempromosikan rasionalitas, dan bukan menjadi lawannya? Begitu pula dengan bagaimana AI akan benar-benar menghapus personalitas dari perhitungan, menjadikan sistem birokrasi yang impersonal secara menyeluruh. Ketika rasionalitas begitu didorong hingga melampaui batasan tertentu, hal tersebut akan menjadi suatu gejala dari apa yang dikhawatirkan oleh Weber: Hyperrationality.
Hyperrationality: Rasionalitas yang Irasional
Hyperrationality atau hiperrasionalitas terjadi jika sebuah rasionalisme gagal untuk mengetahui kegagalannya, atau menolak untuk mengakui kecacatannya. Hiperrasionalisme adalah salah satu bentuk dari irasionalitas. Hal ini berdasarkan kritik dari pemahaman Kantian yang menyatakan bahwa rasio harus menetapkan batasan-batasannya sendiri.[iii] Rasionalitas yang digadangkan sebagai justifikasi teknologi digital dan AI dalam birokratisasi, dapat mengalami kegagalan meskipun sudah formal secara logika.
Aktor individu di balik birokrasi itu sendiri adalah sumber hiperrasionalitas. Weber mengatakan dibutuhkan “kharisma” personal untuk menyeimbangi rasionalitas birokrasi. Namun, itu berdasarkan asumsi bahwa personalitas menjadi lawan, bukan pendukung rasionalitas. Rasionalitas diseimbangkan dengan individu irasional, berdasarkan asumsi individu tersebut terpengaruh kepentingan individu ketimbang rasionalitas.[iv] Namun, ketika individu tersebut malah mempercepat pengembangan birokrasi hingga melebihi batas tertentu, birokrasi tersebut akan menjadi hiperrasional.
Tidak hanya itu, individu yang memaksakan rasionalitas, seringkali tidak menghiraukan Secondary Effect atau Efek Sekunder. Efek Sekunder ini penting karena berada di luar birokrasi sehingga tidak dikontrol oleh rasionalitas birokrasi. Beban Efek Sekunderini bisa melebihi apa yang bisa didapatkan dari suatu keputusan. Penilaian atas beban Efek Sekunder ini tidak selalu rasional, bisa saja normatif atau etika. Sehingga, keputusan yang mungkin secara teknis bersifat rasional, dapat menjadi hiperrasional, kemudian irasional karena beban Efek Sekunder tersebut.[v]
Penutup
Artificial Intelligence atau Kecerdasan Buatan, meskipun bersifat “cerdas”, tetap saja “buatan”. Terdapat individu-individu yang bekerja dibalik AI tersebut. Individu dapat melakukan tindakan yang irasional, namun ketika individu ini terlalu mendorong rasionalitas, maka dapat terjadi hiperrasionalitas. Hiperrasionalitas yang menghasilkan Efek Sekunder yang mengakibatkan rasionalitas tersebut menjadi irasional, salah diantaranya adalah dehumanisasi yang telah disebutkan di bagian sebelumnya. Mungkin teknologi AI dapat membuat kehidupan menjadi lebih mudah dan lebih baik. Namun “mudah” dan “baik” tidaklah objektif secara konsep. Dengan inovasi teknologi yang berkembang pesat, kita sedang menuju ke ambang jurang peradaban yang dikhawatirkan oleh Weber. Kita membutuhkan irasionalitas untuk mencegah terjadinya hiperrasionalitas. Salah satunya, yaitu dengan merumuskan etika dalam penggunaan teknologi AI. Pertanyaan yang harus dijawab selanjutnya adalah: bagaimana kita merumuskan etika penggunaan AI?
[i] C. Muellerleile and S. L. Robertson, “Digital Weberianism: Bureaucracy, Information, and the Techno-rationality of Neoliberal Capitalism,” Indiana Journal of Global Legal Studies, vol. 25, no. 1, p. 187, 2018, doi: https://doi.org/10.2979/indjglolegstu.25.1.0187.
[ii] W. J. Mommsen, “Max Weber on Bureaucracy and Bureaucratization: Threat to Liberty and Instrument of Creative Action,” in The Political and Social Theory of Max Weber : Collected Essays, Cambridge: Polity, 1989, pp. 109–120.
[iii] J. Elster, “When Rationality Fails,” in The Limits of Rationality, K. S. Cook and M. Levi, Eds. Chicago: University Of Chicago Press, 1990, pp. 19–51.
[iv] A. L. Stinchcombe, “Reason and Rationality,” in The Limits of Rationality, K. S. Cook and M. Levi, Eds. Chicago: University Of Chicago Press, 1990, pp. 285–317.
[v] Rogers Brubaker, The Limits of Rationality: An Essay on the Social and Moral Thought of Max Weber. London: George Allen & Unwin, 1984.
