- 09/10/2026
- Category: Commentaries ID
Penulis: Immanuel Putra Siregar
Penyunting: Hosea Immanuel Latumahina
Tren adopsi Generative AI (GenAI) di sektor publik dan privat di Indonesia saat ini tengah digenjot secara masif atas nama efisiensi.1–5 Sebagai gambaran, institusi (baik publik maupun privat) kini mengerahkan chatbot berbasis GenAI untuk merespons ribuan keluhan pengguna secara simultan.1–3,5 Namun, ambisi efisiensi ini melahirkan anomali di lapangan, alih-alih mendapatkan kemudahan layanan, masyarakat justru bertransformasi menjadi auditor dadakan yang dituntut memverifikasi keaslian foto, kebenaran informasi chatbot, hingga akurasi penyelesaian masalah.6,1,7 Berkaca pada paradoks tersebut, jika GenAI diciptakan untuk mempermudah hidup, mengapa masyarakat kini justru makin kelelahan karena harus terus-menerus bertindak sebagai “auditor gratisan” bagi sistem pemerintah dan korporasi?7–9 Fenomena ini mendesak dibahas karena menyingkap ilusi efisiensi GenAI, di mana praktik ini secara diam-diam memindahkan beban kerja pembuktian ke pundak warga biasa.10–12,1 Jika dibiarkan, hal ini akan memicu kelelahan massal (cognitive verification load) yang berujung pada runtuhnya kepercayaan publik terhadap seluruh ekosistem digital.10,7,13,14,5 Oleh karena itu, tulisan ini berargumen bahwa maraknya pemanfaatan GenAI yang justru menghasilkan limbah konten sintetik dan informasi halusinasi (AI slop) tanpa pagar pengaman bukanlah sekadar masalah miskomunikasi teknologi,7 melainkan sebuah strategi ekonomi-politik institusi untuk mengalihdayakan beban biaya akuntabilitas kepada warga melalui praktik kerja tak dibayar (invisible verification labor).7,8
Ekonomi Politik ‘AI Slop’: Efisiensi Mengorbankan Siapa?
Integrasi masif GenAI dalam arsitektur layanan publik dan privat dewasa ini tidak bisa dilepaskan dari logika pemotongan biaya operasional (cost–efficiency).1,2 Bagi institusi negara maupun platform digital, GenAI menawarkan janji efisiensi berskala besar berkat anjloknya biaya pembuatan balasan otomatis (cost collapse),13 yang memungkinkan mereka memproses ribuan keluhan warga atau pertanyaan konsumen secara simultan dalam sepersekian detik dengan meminimalkan biaya sumber daya manusia yang minimal (cost burden).1 Namun, narasi efisiensi ini sering kali menyembunyikan realitas ekonomi-politik yang terjadi di baliknya, di mana beban biaya tersebut tidak benar-benar hilang dari sistem, melainkan dieksternalisasi ke luar ekosistem institusi.7,10,12
Berbeda dengan asumsi umum yang menganggap bahwa institusi sekadar mengorbankan kontrol kualitas, apa yang sebenarnya terjadi adalah pengalihan struktural atas beban biaya verifikasi manusia (labour transfer).7 Beberapa institusi sebenarnya telah menyadari krusialnya penilaian manusia sebagai penyaring output GenAI, sebagaimana diamanatkan dalam sembilan prinsip etika SE Menkominfo No. 9/2023 dan pedoman etika GenAI.15,5,16 Namun, karena kerangka regulasi nasional saat ini masih bersifat soft law yang belum dilengkapi skema insentif maupun mekanisme audit yang mengikat di tingkat operasional, beban tersebut justru jatuh ke pundak pengguna akhir.12 Sebagai contoh konkret, ketika seorang warga melaporkan fasilitas umum yang rusak atau komplain produk ke customer service, kini mereka tidak hanya menunggu solusi dari operator manusia. Mereka harus secara mandiri membedah, menebak, dan memverifikasi apakah foto progres perbaikan yang diunggah petugas atau jawaban regulasi dari bot merupakan fakta nyata atau sekadar halusinasi mesin.1
Menanggung Cognitive Verification Load di Era “Easy to Generate, Hard to Audit”
Asimetri struktural, di mana institusi meraup efisiensi sementara warga menanggung beban kerja verifikasi, melahirkan fenomena yang menguras memori kerja warganet, atau yang dikenal sebagai cognitive verification load.7,10 Di era di mana pembuatan konten sintetis menggunakan GenAI menjadi sangat instan dan nyaris tanpa biaya bagi institusi (easy to generate),13 proses untuk mengaudit kebenaran informasi tersebut menjadi sangat rumit dan menyita waktu bagi pengguna manusia (hard to audit).11,12,14 Kesulitan ini berakar pada batasan komputasionalnya: model GenAI tidak memiliki kemampuan untuk mengevaluasi kalibrasi faktual dirinya sendiri secara mandiri tanpa label kebenaran (self-verification impossibility).11 Akibatnya, setiap kali warga dipaksa memilah antara balasan halusinasi mesin dan informasi resmi, mereka sejatinya sedang dituntut membayar AI oversight tax, yakni kerja kognitif ekstra untuk memverifikasi, merestorasi konteks, dan mengoreksi kesalahan sistem.12 Akumulasi beban verifikasi tersembunyi ini tidak hanya memicu kelelahan keputusan (decision fatigue), tetapi pada akhirnya mengancam keberlanjutan kognitif (cognitive sustainability) masyarakat secara luas.7
Situasi ini menjadi makin pelik ketika gagasan human-in-the-loop disalahartikan dalam praktiknya. Alih-alih mewajibkan institusi menyiagakan operator manusia sebagai verifikator akhir (gatekeeper) sebelum output GenAI dilempar ke pengguna,12,7,17 pengawasan internal justru kerap terdegradasi menjadi sekedar pengawasan formalitas.12 Tanggung jawab tersebut justru dibebankan kepada pengguna melalui narasi “peningkatan literasi AI”.1 Menuntut masyarakat agar terus awas dan melek teknologi untuk mendeteksi AI slop adalah bentuk lepas tangan institusi. Keharusan untuk terus-menerus memverifikasi banjir informasi otomatis ini pada akhirnya hanya akan mendorong publik menuju skeptisisme dan kelelahan absolut.18,14,13 Dengan demikian, literasi teknologi seharusnya menjadi alat pemberdayaan warga, bukan dalih bagi institusi untuk mengalihdayakan beban audit kualitas layanan.7,8,5
Erosi Kepercayaan Digital & Rekomendasi
Ketika cognitive verification load terus menumpuk, modal sosial paling krusial dalam masyarakat modern akan ikut tergerus, yakni kepercayaan digital.10,7,13 Di sektor privat, pembiaran AI slop jelas mencederai hak konsumen untuk mendapatkan informasi yang akurat dan layanan yang layak sebagaimana diamanatkan dalam Pasal 4 dan Pasal 18 UU Perlindungan Konsumen (UUPK).1,7,19 Sementara di sektor publik, pengalihdayaan verifikasi ini mengkhianati kontrak sosial. Warga berhak atas layanan negara yang akuntabel, bukan dipaksa menebak apakah pemerintahnya sedang bersembunyi di balik halusinasi algoritma.5,18 Jika dibiarkan, asimetri ini akan melahirkan sebuah ekosistem di mana publik secara default bersikap skeptis dan menolak segala inisiatif digitalisasi, sebaik apa pun tujuannya karena merasa hak dasar mereka terus dikompromikan.13,14,5
Oleh karena itu, pemerintah harus mengambil langkah intervensi struktural. Momentum penyusunan Peraturan Presiden (Perpres) tentang Etika Kecerdasan Artifisial (KA) harus dimanfaatkan untuk menegaskan batas akuntabilitas ini. Regulasi tersebut harus secara eksplisit mewajibkan implementasi human-in-the-loop sebagai compliance cost di sisi institusi (baik publik maupun privat), bukan sekadar imbauan.7,12,17 Negara dan korporasi harus dituntut bertanggung jawab secara hukum atas “halusinasi” cacat dari GenAI mereka, serta diwajibkan menyediakan jalur komplain nonGenAI yang transparan. Mengembalikan literasi AI sebagai sarana pemberdayaan berarti memastikan teknologi melayani warga, bukan sekadar memindahkan beban kerja kepada mereka.
Referensi
