Paus Leo XIV: Martabat Manusia Harus Dihormati dalam Integrasi Kecerdasan Buatan (AI) di Bidang Kesehatan

Perspektif Etis tentang Kecerdasan Buatan dalam Pelayanan Kesehatan

Pada pertemuan hari Senin dengan ALAMI (Asosiasi Amerika Latin Sistem Persentase Layanan Kesehatan Swasta), Paus Leo XIV meminta para peserta untuk mempertimbangkan kebutuhan akan perspektif etika baru akibat perkembangan teknologi yang pesat, kemajuan di bidang kesehatan, serta pengembangan landasan etika baru untuk bidang-bidang ini melalui media digital.

Rapat tersebut diselenggarakan di Roma untuk Seminar Etika dalam Manajemen Kesehatan yang kesembilan, yang diselenggarakan di bawah naungan Akademi Kepausan untuk Kehidupan.

Dalam khotbahnya, Paus menegaskan bahwa konferensi ini adalah "perjalanan rohani"; artinya, ketika kita merenungkan dimensi etika dari proposal-proposal kita, kita akan mencapai tonggak penting dalam perjalanan rohani ini bersama sebagai Gereja dan masyarakat.

Risiko Bias Kecerdasan Buatan dalam Kedokteran

Ia mengakui luasnya pengalaman semua peserta dan mengatakan bahwa Gereja menyambut semua peserta sebagai "orang-orang yang penuh harapan" karena talenta, pengalaman, dan aspirasi unik mereka, saat mereka bekerja sama untuk membantu orang sakit. Ia menasihati: berhati-hatilah agar kecerdasan buatan tidak memicu bias etis potensial dan sadari potensi jebakan etis dalam penggunaan teknologi semacam itu di bidang kesehatan. Paus Fransiskus membahas bagaimana kemajuan teknologi dalam perawatan kesehatan menghadirkan tantangan signifikan akibat penggunaan teknologi yang tidak tepat oleh komunitas perawatan kesehatan, yang dapat menciptakan bentuk-bentuk diskriminasi baru yang sulit diidentifikasi.

Selain itu, ia mencatat bahwa penggunaan teknologi untuk mengubah perilaku manusia dapat menciptakan risiko signifikan dalam menciptakan bias yang dirasakan terhadap seseorang, yang pada gilirannya dapat menyebabkan perlakuan tidak etis terhadap orang tersebut dalam masyarakat. Selain itu, Paus Fransiskus menyatakan bahwa bentuk-bentuk teknologi digital yang kuat dapat digunakan sebagai "alat melalui mana individu atau kelompok dapat mengeksploitasi orang lain atau masyarakat," yang pada gilirannya menghasilkan tingkat "prasangka halus" yang unik, terlihat melalui dua dimensi berbeda: cara kita menyajikan informasi dan cara kita berinteraksi dengan orang lain.

Dalam komentarnya, ia menyatakan bahwa kemungkinan memperlakukan orang sebagai "objek" atau "data" atau "entitas" tanpa memperlakukan orang tersebut sebagai individu menimbulkan kekhawatiran besar terkait distorsi yang akan kita ciptakan saat memperlakukan seseorang (misalnya, bagaimana perlakuan tersebut akan diarahkan kepada mereka), semua hal tersebut akan berkontribusi pada pandangan negatif terhadap orang tersebut, seperti bagaimana mereka akan dilihat berdasarkan perawatan yang tersedia dan/atau 'nilai atau biaya' yang ditempatkan masyarakat pada perawatan tersebut. Perspektif memperlakukan orang lain dari sudut pandang martabat manusia sebagai prinsip dasar didasarkan pada keyakinan ini.

Solidaritas, Kebaikan Bersama, dan Kasih Sayang

Dalam upaya untuk menyeimbangkan kecenderungan yang bertentangan di antara penyedia layanan kesehatan, Paus Leo XIV mendorong mereka untuk mengambil perspektif yang lebih luas dan bersama berdasarkan solidaritas dan kebaikan bersama. Ia mengatakan bahwa, untuk mewujudkan hal ini, perlu menghindari pemikiran reduksionis, dengan menyatakan, "Untuk mengubah pandangan Anda.... Jika boleh saya katakan, untuk melihat seperti Tuhan, Anda tidak hanya harus melihat keuntungan langsung tetapi juga apa yang terbaik untuk semua."

Paus Fransiskus mengingatkan kita semua untuk berhati-hati agar teknologi baru tidak membuat kita kehilangan kemampuan untuk terhubung satu sama lain dengan cara yang bermakna. “Perspektif yang lebih luas selalu mencakup fokus pada siapa kita sebagai manusia yang menggunakan teknologi, dan bagaimana kita mengekspresikan kemanusiaan kita satu sama lain melalui tindakan penuh kasih sayang, serta mengakui bahwa setiap orang memiliki martabat dan kerentanan individu,” kata Paus Fransiskus. Tujuan Bapa Suci adalah agar para manajer layanan kesehatan menggunakan perspektif ini sebagai prinsip panduan dalam mengelola organisasi mereka.