- 10/09/2024
- Category: Commentaries ID
Penulis: Emira Anjani
Editor: Hafiz Noer
Konvergensi AI dalam disiplin biomedika berpotensi merevolusi kedokteran, terutama dalam penggunaannya sebagai alat untuk meningkatkan efektivitas ‘Precision Medicine‘ atau Pengobatan Presisi. Precision medicine adalah paradigma biomedis yang menekankan perbedaan antarpribadi untuk memfasilitasi intervensi medis yang dipersonalisasi sesuai dengan kebutuhan pasien secara spesifik. Pada dasarnya, terlepas dari infeksi virus atau bakteri, faktor biologis (jenis kelamin) dan non-biologis (gender) merupakan determinan relevan dalam kondisi simtomatik dan asimtomatik pada berbagai penyakit. Ini mencakup prevalensi, faktor risiko, usia rentan, perawatan yang diperlukan, manifestasi gejala, prognosis, dan biomarker. Dalam jurnalnya, Cirillo, D. et al (2020) menyajikan berbagai temuan medis yang membuktikan adanya korelasi antara jenis kelamin dan gender dengan penyakit kronis, seperti autoimunitas, kanker, penyakit kardiovaskular, gangguan kesehatan mental, diabetes, penyakit neurologis, dan lainnya. Sejak pendekatan ‘one size fits all’ sudah dianggap kuno dan tidak akomodatif terhadap berbagai variabel, precision medicine mendapatkan reputasi kuat sebagai pendekatan medis yang menjanjikan, terutama ketika melibatkan bantuan AI untuk meningkatkan akurasi dalam praktik medis. Namun, hal ini tidak terlepas dari kekurangan. Penelitian terbaru menunjukkan bahwa meskipun precision medicine menawarkan peningkatan presisi, tetap ada tantangan signifikan, terutama dalam mengatasi masalah bias gender akibat isu struktural terkait dengan adanya ketimpangan.
Perlu diklarifikasi bahwa demi kesederhanaan dan koherensi, artikel ini berangkat dari pemahaman bahwa jenis kelamin dan gender saling terkait. Meskipun kedua faktor ini memiliki konsep yang berbeda, mereka berinteraksi secara dinamis dalam membentuk peran sosial, norma, identitas, perilaku, dan persepsi sosial. Oleh karena itu, mulai dari titik ini, jenis kelamin dan gender akan digabungkan menjadi satu istilah ‘gender,’ kecuali dinyatakan sebaliknya.
Data adalah Masalahnya
Dalam konteks ini, penilaian terhadap AI sebaiknya tidak dipadukan dengan kesalahan reduksionis dengan menganalogikan akurasi dengan efisiensi. Memang benar bahwa jika dirancang dan dikonfigurasi dengan baik, AI dapat menjadi alat yang kuat untuk pengembangan biomedis dengan tidak mengabaikan faktor diskriminatif dan perancu. Namun, ketergantungan pada AI sebagai pelengkap precision medicine dapat menyebabkan penyangkalan bahwa teknologi bertindak sebagai double-edged sword yang juga dapat memperkuat dan memperpetuasi ketidaksetaraan yang ada. Masalahnya adalah, ketidaksetaraan gender yang saat ini dimanifestasikan dalam AI berasal dari kumpulan data yang tidak cukup mewakili perempuan. Pada tingkat kesadaran sosial global saat ini tentang ketidaksetaraan gender, ketidakterwakilan dapat menimbulkan masalah klise. Namun, justru karena ini adalah klise, hal ini menandakan bahwa patriarki struktural masih belum cukup diatasi hingga saat ini.
Sebagai bidang yang didominasi laki-laki, sebagian besar penelitian biomedis secara dominan berkonsentrasi pada subjek klinis laki-laki dan model eksperimental. Secara umum, hanya sekitar 5-10% penelitian biomedis yang mempertimbangkan perbedaan gender sebagai faktor penting dalam epidemiologi. Sebagai contoh, dari 11 juta penelitian yang diterbitkan antara tahun 1960-2018, hanya sekitar 30% yang mewakili laki-laki dan perempuan secara setara—dan bahkan lebih sedikit hanya pada perempuan. Beberapa alasan sering dikutip untuk membenarkan ketidaksetaraan ini, termasuk faktor bioetika dan sosial-budaya seperti persepsi sosial, stereotip, dan stigma. Alasan lain, yang disajikan dalam preferensi terhadap percobaan dengan tikus jantan daripada betina, termasuk kekhawatiran bioteknis bahwa siklus hormonal dan sistem reproduksi dianggap sebagai variabel perancu terhadap hasil penelitian.
Sementara itu, kinerja dan keandalan AI bergantung pada dataset yang dipelajarinya. Oleh karena itu, rumusnya cukup sederhana: AI yang belajar dari dataset yang direpresentasikan secara berlebihan oleh satu pihak akan menghasilkan hasil yang menguntungkan bagi pihak tersebut. Dalam konteks ini, keefektifan atau akomodatif bukanlah hal yang sejajar dengan akurasi. Pihak dengan proporsi data yang lebih rendah juga akan menerima hasil yang akurat (baik itu diagnosis, prognosis, atau rekomendasi perawatan) berdasarkan data yang tersedia dari alat tersebut. Namun, hasil tersebut mungkin tidak efektif untuk kebutuhan pihak tersebut berdasarkan variasi yang dikonfigurasi oleh faktor biologis dan non-biologis mereka. Misalnya, University College London (UCL) baru-baru ini menerbitkan bahwa perangkat skrining hati berbasis AI menunjukkan risiko ketidakakuratan sebesar 44% pada perempuan dan 23% pada laki-laki. Studi lain mengungkapkan bahwa meskipun penyakit jantung koroner adalah penyebab kematian utama perempuan, 67% peserta dalam studi klinis untuk perawatan dan perangkat bantu dilakukan pada laki-laki. Meskipun jenis kelamin berkontribusi dalam menentukan farmakokinetik dan farmakodinamik obat kardiovaskular, seperti Statin, rekomendasi yang dihasilkan biasanya tidak mempertimbangkan jenis kelamin sebagai faktor. Sebaliknya, perawatan terapeutik dan obat-obatan sering digeneralisasi.
Menghilangkan Bias
Solusi pertama dan paling jelas untuk masalah yang dihadapi adalah menghilangkan bias program AI dengan menambahkan data yang inklusif terhadap perempuan—dan interseksionalitasnya, meskipun ini mungkin tidak sesederhana yang terlihat. Kekurangan data, yang ditekankan artikel ini sebagai penyebab bias AI, adalah bagian dari masalah yang lebih luas yang berasal dari ketidaksetaraan gender. Untuk mengembangkan strategi mitigasi yang efektif, penting untuk memahami sejauh mana kekurangan atau bias dalam data yang saat ini tersedia. Ini bukan tugas yang mustahil, seperti yang dinyatakan oleh Direktur Riset di Distributed AI Research Institute, Alex Hanna, bahwa bias dalam dataset dapat diselidiki menggunakan metode komputasi. Namun, bias gender dalam AI lebih kompleks daripada yang terlihat karena tidak hanya berhenti pada jenis kelamin, melainkan juga melintasi interseksionalitas gender, ras, kemampuan, dan etnis. Untuk menghilangkan bias data secara eksklusif pada dimensi gender akan berpotensi mengasingkan interseksi ini, yang kemudian dapat menimbulkan isu ableisme. Oleh karena itu, tidak ada cara pasti untuk menghilangkan bias dalam dataset.
Selain upaya untuk memperbaiki dataset, langkah penting lain yang diperlukan untuk menghilangkan bias AI adalah menerapkan perubahan dalam kehidupan nyata. Sebagian dari masalah bias AI juga terletak pada pertanyaan siapa. Yaitu, siapa yang berkontribusi pada penelitian dan siapa yang merumuskan dataset. Peran perempuan sangat penting tidak hanya dalam dimensi praktisi dan peneliti, tetapi juga dalam konteks yang lebih luas dari STEM, terutama biologi komputasi dan bioinformatika, untuk menantang bias gender dengan memastikan bahwa perumusan data AI telah mengakomodasi berbagai kelompok gender dan interseksionalitasnya.
Pada akhirnya, meskipun integrasi AI ke dalam precision medicine memiliki potensi besar untuk meningkatkan perawatan kesehatan yang dipersonalisasi, hal ini tidak terlepas dari tantangan. Bias gender yang persisten dalam penelitian biomedis dan dataset AI menyoroti perlunya pendekatan yang lebih inklusif. Mengatasi bias ini memerlukan tidak hanya memperluas dan menyempurnakan data yang dilatih oleh sistem AI tetapi juga mempromosikan keragaman yang lebih besar di antara para peneliti dan praktisi di bidang ini. Hanya melalui upaya komprehensif seperti ini kita dapat memastikan bahwa AI benar-benar melayani kebutuhan beragam semua pasien dan berkontribusi pada sistem perawatan kesehatan yang lebih adil.
Referensi
Anker, M. (2011) ‘Taking sex and gender into account in emerging infectious disease programmes: An analytical framework’. World Health Organization. Available at: https://iris.who.int/bitstream/handle/10665/207693/9789290615323_eng.pdf?sequence=1.
Balch, B. (2024) Why we know so little about women’s health, AAMC. Available at: https://www.aamc.org/news/why-we-know-so-little-about-women-s-health (Accessed: 24 August 2024).
Buslón, N. et al. (2023) ‘Raising awareness of sex and gender bias in artificial intelligence and health’, Frontiers in Global Women’s Health, 4, p. 970312. Available at: https://doi.org/10.3389/fgwh.2023.970312.
Buslón, N., Racionero-Plaza, S. and Cortés, A. (2022) ‘Chapter 2 – Sex and gender inequality in precision medicine: Socioeconomic determinants of health’, in D. Cirillo, S. Catuara-Solarz, and E. Guney (eds) Sex and Gender Bias in Technology and Artificial Intelligence. Academic Press, pp. 35–54. Available at: https://doi.org/10.1016/B978-0-12-821392-6.00005-4.
Chen, D. (2024) ‘Ethical frameworks of informed consent in the age of pediatric precision medicine’, Cambridge Prisms: Precision Medicine, 2, p. e6. Available at: https://doi.org/10.1017/pcm.2024.3.
Cirillo, D. et al. (2020) ‘Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare’, npj Digital Medicine, 3(1), p. 81. Available at: https://doi.org/10.1038/s41746-020-0288-5.
Dhruva, S.S., Bero, L.A. and Redberg, R.F. (2011) ‘Gender Bias in Studies for Food and Drug Administration Premarket Approval of Cardiovascular Devices’, Circulation: Cardiovascular Quality and Outcomes, 4(2), pp. 165–171. Available at: https://doi.org/10.1161/CIRCOUTCOMES.110.958215.
Galea, L.A. and Parekh, R.S. (2023) ‘Ending the neglect of women’s health in research’, BMJ, p. p1303. Available at: https://doi.org/10.1136/bmj.p1303.
Hanna, A. (2023) ‘Understanding Gender and Racial Bias in AI’. Available at: https://www.sir.advancedleadership.harvard.edu/articles/understanding-gender-and-racial-bias-in-ai.
Hariharan, K. (no date) How Will AI Affect Gender Gaps in Health Care? Available at: https://www.marshmclennan.com/insights/publications/2020/apr/how-will-ai-affect-gender-gaps-in-health-care-.html (Accessed: 24 August 2024).
Hay, K. et al. (2019) ‘Disrupting gender norms in health systems: making the case for change’, The Lancet, 393(10190), pp. 2535–2549. Available at: https://doi.org/10.1016/S0140-6736(19)30648-8.
Holman, L., Stuart-Fox, D. and Hauser, C.E. (2018) ‘The gender gap in science: How long until women are equally represented?’, PLOS Biology. Edited by C. Sugimoto, 16(4), p. e2004956. Available at: https://doi.org/10.1371/journal.pbio.2004956.
Jongsma, K.R., Sand, M. and Milota, M. (2024) ‘Why we should not mistake accuracy of medical AI for efficiency’, npj Digital Medicine, 7(1), p. 57. Available at: https://doi.org/10.1038/s41746-024-01047-2.
March, R. (2023) The changing landscape of precision medicine, Astra Zeneca. Available at: https://www.astrazeneca.com/what-science-can-do/topics/technologies/precision-medicine-history.html (Accessed: 24 August 2024).
McGregor, A.J. et al. (2016) ‘How to study the impact of sex and gender in medical research: a review of resources’, Biology of Sex Differences, 7(S1), p. 46. Available at: https://doi.org/10.1186/s13293-016-0099-1.
Stock, E.O. and Redberg, R. (2012) ‘Cardiovascular disease in women’, Current Problems in Cardiology, 37(11), pp. 450–526. Available at: https://doi.org/10.1016/j.cpcardiol.2012.07.001.
Straw, I. and Wu, H. (2022) ‘Investigating for bias in healthcare algorithms: a sex-stratified analysis of supervised machine learning models in liver disease prediction’, BMJ Health & Care Informatics, 29(1), p. e100457. Available at: https://doi.org/10.1136/bmjhci-2021-100457.
Xhyheri, B. and Bugiardini, R. (2010) ‘Diagnosis and Treatment of Heart Disease: Are Women Different From Men?’, Progress in Cardiovascular Diseases, 53(3), pp. 227–236. Available at: https://doi.org/10.1016/j.pcad.2010.07.004.Yoon, D.Y. et al. (2014) ‘Sex bias exists in basic science and translational surgical research’, Surgery, 156(3), pp. 508–516. Available at: https://doi.org/10.1016/j.surg.2014.07.001.
