Paus Leo XIV: Anak-anak dan remaja rentan terhadap manipulasi oleh kecerdasan buatan.

Uskup Agung Parolin: Lindungi martabat anak-anak di era kecerdasan buatan

Melindungi martabat anak-anak tidak dapat disederhanakan menjadi kebijakan semata, tetapi memerlukan pendidikan digital yang tepat, kata Paus Leo XIV saat berbicara kepada peserta Konferensi "Martabat Anak-Anak dan Remaja di Era Kecerdasan Buatan" pada Kamis di Vatikan.

Mengamati bagaimana kecerdasan buatan mengubah banyak aspek kehidupan sehari-hari kita, termasuk pendidikan, hiburan, dan keamanan anak-anak, ia mengatakan hal ini “mengajukan pertanyaan etis yang penting, terutama terkait perlindungan martabat dan kesejahteraan anak-anak.”

Paus memperingatkan bahwa anak-anak dan remaja sangat rentan terhadap manipulasi melalui algoritma kecerdasan buatan yang dapat memengaruhi keputusan dan preferensi mereka. Penting bagi orang tua dan pendidik untuk menyadari dinamika ini, serta mengembangkan alat untuk memantau dan membimbing interaksi muda-mudi dengan teknologi.

"Pemerintah dan organisasi internasional," tegas Paus, "memiliki tanggung jawab untuk merancang dan menerapkan kebijakan yang melindungi martabat anak-anak di era kecerdasan buatan ini," yang menurutnya "meliputi pembaruan undang-undang perlindungan data yang ada untuk mengatasi tantangan baru yang ditimbulkan oleh teknologi yang sedang berkembang, serta mempromosikan standar etika untuk pengembangan dan penggunaan kecerdasan buatan."

Pemeliharaan tidak dapat dikurangi menjadi kebijakan

"Namun, perlindungan martabat anak-anak tidak dapat dikurangi menjadi kebijakan semata; hal ini juga memerlukan pendidikan digital," tegasnya.

Paus Leo mengingat kata-kata Paus Fransiskus, yang pernah berkomentar dalam proyek perlindungan yang dipromosikan oleh tiga asosiasi Katolik besar di Italia bahwa orang dewasa harus menemukan kembali panggilan mereka sebagai "pengrajin pendidikan..."

Paus mengakui betapa pentingnya menyusun dan menegakkan pedoman etika, tetapi menekankan bahwa hal itu tidak cukup.

"Yang dibutuhkan," katanya, "adalah upaya pendidikan yang berkelanjutan dan sehari-hari, yang dilakukan oleh orang dewasa yang sendiri dilatih dan didukung oleh jaringan kolaborasi."

Paus mengatakan proses ini melibatkan pemahaman akan risiko yang dapat ditimbulkan oleh penggunaan kecerdasan buatan (AI) dan akses digital yang prematur, tak terbatas, dan tak terawasi terhadap hubungan dan perkembangan anak muda.

"Hanya dengan ikut serta dalam penemuan risiko-risiko tersebut dan dampaknya terhadap kehidupan pribadi dan sosial mereka," kata Paus, "dapat anak-anak didukung untuk mendekati dunia digital sebagai sarana untuk memperkuat kemampuan mereka dalam membuat pilihan yang bertanggung jawab bagi diri mereka sendiri dan orang lain."

Harus memastikan AI berfungsi sebagai sekutu dan bukan ancaman

Bapa Suci menyarankan bahwa hal ini sendiri merupakan "latihan vital dalam melindungi keaslian dan keterhubungan manusia, yang harus selalu dipandu oleh penghormatan terhadap martabat manusia sebagai nilai fundamental."

Hanya dengan mengambil pendekatan pendidikan, etis, dan bertanggung jawab, katanya, kita dapat memastikan bahwa kecerdasan buatan berfungsi sebagai sekutu, bukan ancaman, dalam pertumbuhan dan perkembangan anak-anak dan remaja.

Paus Leo mengakhiri dengan mengutarakan harapannya agar konferensi ini membantu membangun dasar yang kokoh untuk pelayanan kita yang berkelanjutan kepada anak-anak, pemuda, dan seluruh komunitas gerejawi dan sipil, serta dengan memberikan berkat Tuhan.