- 16/07/2021
- Category: Commentaries ID
Hizkia Yosie Polimpung, dalam risetnya tentang historiografi revolusi teknologi, mengidentifikasi tiga sektor, dua motivasi, dan satu tujuan munculnya perkembangan teknologi.[i] Tiga sektor tersebut ialah: (1) militer, (2) industri, dan (3) domestik/personal. Kemudian, dua motivasi: untuk menyakiti tubuh manusia dan mengekstraksi kerja dari tubuh manusia. Semuanya diarahkan ke satu tujuan utama, yaitu efisiensi. Polimpung menamai formula ini “teknopolitika 321”.
Salah satu produk dari perkembangan[ii] tersebut, mengikuti formula Polimpung, adalah penggunaan dan pengembangan kecerdasan buatan (artificial intelligence atauAI)—dan teknologi disruptif lain—dalam militer. Hasilnya Lethal Autonomous Weapons System (Sistem Senjata Otonom Mematikan atau LAWS) yang begitu sukar didefinisikan. Mungkin akan lebih mudah untuk menjelaskan apa yang bukan—belum—LAWS. Bukan Terminator, Decepticon, Ultron, maupun HAL 9000. LAWS adalah persenjataan, dengan bantuan AI, yang dapat mengenali dan mengeksekusi target tanpa intervensi manusia. LAWS bisa berupa drone, sentry gun (senapan penjaga), sistem rudal, dan lain-lain. Kesulitan dalam mendefinisi persenjataan seperti ini berasal dari tingkat pemisahaan manusia dari interaksi, apakah mereka hanya sangat otomatis atau benar-benar otonom.
Kurangnya kontrol manusia adalah alasan Human Rights Watch dan organisasi lain bersatu di bawah nilai-nilai humanis, mengangkat masalah etika, hukum, teknis, dan keamanan dalam payung Campaign to Stop Killer Robots (KRC).[iii] Menyanggah argumen “robot akan lebih etis daripada manusia, mereka tidak akan memperkosa atau melakukan kejahatan lain” dan “sistem senjata otonom mampu memproses data dan beroperasi dengan kecepatan lebih tinggi daripada yang dikendalikan oleh manusia” dengan kekhawatiran mengenai siapa yang akan bertanggung jawab jika LAWS menyebabkan kematian yang tidak sah. Dan, kurangnya kontrol manusia merusak prinsip dasar Hukum Humaniter Internasional (IHL) dan hukum hak asasi manusia. Dengan kecemasan inilah KRC mengadvokasi sebuah perjanjian untuk melarang pengembangan, produksi, dan penggunaan LAWS.
Sebuah peraturan untuk LAWS
Di bawah kerangka Konvensi PBB tentang Senjata Konvensional (CCW), KRC dan negara-negara anggota lainnya dalam CCW telah menyerukan perjanjian yang mengikat secara hukum untuk melarang LAWS sejak 2014.[iv] Namun, hingga tahun 2021, kemajuan yang lambat mendorong KRC untuk mempertimbangkan forum alternatif dalam mengembangkan instrumen hukum.[v] Rosert dan Sauer, di antara yang lain, mengemukakan dua alasan mengapa LAWS cukup sukar untuk diatur.[vi] Pertama, LAWS tidak selalu melanggar prinsip-prinsip IHL yang mengikat secara hukum dan kemajuan teknologi mungkin membuat LAWS setidaknya sesuai dengan IHL atau lebih sesuai daripada senjata yang dikendalikan manusia dari jarak jauh. Kedua, “pengendalian manusia yang berarti” (meaningful human control) sebagai prinsip IHL belum mengikat secara hukum.[vii] Diskusi lebih lanjut seputar LAWS sebagai subjek pembahasan lebih baik diulas dalam apa yang saya sebut “masalah manusia”.
Permasalahan manusia
Masalah manusia dalam subjek LAWS muncul dari tetapi melampaui argument KRC bahwa LAWS tidak memiliki karakteristik manusia untuk membuat pilihan yang rumit secara etis, dan membiarkan mesin memutuskan hidup dan mati melwati ambang batas moral.[viii] Rosi Braidotti menyebutnya “kepanikan kognitif di hadapan prospek perubahan pascamanusia, dan menyalahkan teknolog canggih.”[ix] Jika demikian, kita perlu mempertanyakan totalitas kapitalisme mutakhir yang mengancam keberlanjutan planet kita, mengkomodifikasi semua yang hidup, dan melanggengkan ketidaksetarran.[x] Sesuatu yang tidak dibahas oleh KRC.
Bahaya teknologi dalam kegunaan sistem kapitalisme itu memang nyata. Dibawa ke depan mata oleh pengejawantahan kemanusiaan paling vulgar dan sensational lewat peperangan dan mortalitas. LAWS hanyalah wajah, tubuhnya adalah campuran rumit dari teknologi, kapitalisme, kelas, ras, gender, dan kemampuan. Menariknya, cara menghadapi wajah dan tubuh tersebut adalah belok dan menjadi pascamanusia.
Argumen pascamanusia
Pascamanusia, singkatnya, adalah cara memikirkan bentuk-bentuk baru subjektivitas dengan penekanan pada menghapuskan keluarbiasaan manusia.[xi] Bekerja melawan biner (di antar lain) hidup/mati dan manusia/bukan manusia. Emily Jones berpendapat, untuk memahami totalitas kematian, manusia, dan teknologi, kita perlu melihat tidak hanya LAWS tetapi juga beragam pengambilan keputusan hidup/mati buatan manusia dengan bantuan mesin.[xii]
Datafikasi memang sudah menjadi bagian penting dari operasional persenjataan konvensional dalam militer Amerika Serikat. Saking biasa, sampai tidak terlihat dalam pembahasan kegunaan mematikan kecerdasan digital. Menurut Jones, menggunakan otonomi sebagai aksiom dalam pembingkaian isu berpotensi menciptakan sebuah standar yang terlalu tinggi. Sehingga mesin yang sudah terlibat dalam pengambilan keputusan hidup/mati hanya akan bertambah jumlah.[xiii] Jones juga menekankan kemungkinan dan realitas perangkat tambahan prajurit manusia melalui modifikasi tubuh dan perangkat teknologi militer siap pakai.[xiv] Contoh teknologi yang sudah ada adalah perangkat siap pakai bernama Boomerang Warrior-X. Dengan menggunakan pendeteksi suara dan bantuan algoritma, perangkat tersebut dapat mengenali tembakan senjata ringan.[xv] Untuk membawa diskusi seputar teknologi dan kegunaannya untuk membunuh, Jones menempatkan LAWS bukan liyan otonom luas biasa. Sebaliknya, menggunakan kerangka pascamanusia, mendorong diskusi lebih jauh untuk menolak kegunaan teknologi yang militeristik tetapi mempertahankan ontologi yang datar.
Penulis: Alfredo (Research Intern CfDS)
Penyunting: Amelinda Pandu Kusumaningtyas (Research Project Officer CfDS)
[i] Polimpung, Hizkia Yosie. 2018. Teknopolitika Kemudahan Hidup. June 4. Accessed May 8, 2021. https://indoprogress.com/2018/06/teknopolitika-kemudahan-hidup/.
[ii] Polimpung juga menggunakan diksi “mutasi” untuk merujuk kecenderungan reaksioner dari perkembangan tekonologi dan modus control lainnya dalam kapitalisme, reaksioner terhadap perlawanan buruh. Lihat Polimpung, Hizkia Yosie. 2017. “Pekerja adalah Universal: Manusia dan subjek dalam Mutasi Kapitalisme.” IndoProgress 1-28.
[iii] Wareham, Mary. 2020. Robots Aren’t Better Soldiers than Humans. October 26. Accessed May 8, 2021. https://www.hrw.org/news/2020/10/26/robots-arent-better-soldiers-humans.
[iv] Human Rights Watch. 2020. New Weapons, Proven Precedent: Elements of Models for a Treaty on Killer Robots. October 20. Accessed May 9, 2021. https://www.hrw.org/report/2020/10/20/new-weapons-proven-precedent/elements-and-models-treaty-killer-robots#_ftn1.
[v] Rosert, Elvira, and Frank Sauer. 2021. “How (not) to stop the killer robots: A comparative analysis of humanitarian disarmament campaign strategies.” Contemporary Security Policy 15.
[vi] Ibid 17-18; Untuk alasan strategis mengapa militer dan kemeterian-kementerian pertahanan ingin mengembangkan LAWS. Lihat Leys, Nathan. 2018. “Autonomous Weapon Systems and International Crises.” Strategic Studies Quarterly 48-73.
[vii] Untuk ulasan tentang ambiguitas “pengendalian manusia yang berarti” (meaningful human control). Lihat Ekelhof, Merel. 2019. “Moving Beyond Semantics on Autonomous Weapons: Meaningful Human Control in Operation.” Global Policy 343-348.
[viii] Campaign to Stop Killer Robots. n.d. The Threat of Fully Autonomous Weapons. Accessed May 9, 2021. https://www.stopkillerrobots.org/learn/.
[ix] Braidotti, Rosi. 2017. “Posthuman Critical Theory.” Journal of Posthuman Studies 13.
[x] Ibid; Untuk pembahasan tentang AI dan redlining. Lihat Khan, Jeremy. 2020. A.I. and tackling the risk of “digital redlining”. February 11. Accessed May 9, 2021. https://fortune.com/2020/02/11/a-i-fairness-eye-on-a-i/.
[xi] Kumm, Brian E., Lisbeth A. Berbary, and Bryan S. R. Grimwood. 2019. “For Those to Come: An Introduction to Why Posthumanism Matters.” Leisure Sciences 1-7.
[xii] Jones, Emily. 2018. “A Posthuman-Xenofeminist Analysis of the Discourse on Autonomous Weapons Systems and Other Killing Machines.” Australian Feminist Law Journal 99.
[xiii] Ibid 112.
[xiv] Ibid 113.
[xv] Ibid 114.
