교황 레오 14세: 의료 분야에 인공지능을 도입할 때 인간의 존엄성은 반드시 존중되어야 한다

의료 분야 인공지능에 대한 윤리적 관점

월요일 라틴아메리카 민간 의료 보험 협회( ALAMI )와의 회의에서 교황 레오 14세는 기술의 급속한 발전과 의료 분야의 진보, 그리고 디지털 미디어를 통한 이 분야들의 새로운 윤리적 기반 구축 필요성으로 인해 새로운 윤리적 관점이 필요함을 참석자들에게 고려해 달라고 요청했다.

이 회의는 교황청 생명학술원의 후원으로 진행되는 제9회 의료 관리 윤리 세미나를 위해 로마에서 소집되었다.

교황은 강론에서 이 회의가 "순례"임을 분명히 밝혔습니다. 즉, 우리가 제안의 윤리적 차원을 성찰할 때, 교회와 사회로서 함께 이 순례의 중요한 이정표에 도달할 것이라고 말했습니다.

의료 분야 인공지능(AI) 편향성의 위험성

교황은 모든 참석자들의 폭넓은 경험을 인정하며, 병자들을 돕기 위해 함께 노력하는 그들의 독특한 재능, 경험, 열망 덕분에 교회가 그들을 "희망의 사람들"로 환영한다고 말했습니다. 교황은 인공지능이 잠재적인 윤리적 편향을 조장하지 않도록 주의하고, 의료 분야에서 이러한 기술을 사용할 때 발생할 수 있는 잠재적 윤리적 함정을 인식할 것을 당부했습니다. 교황 프란치스코는 의료 분야 내 기술 발전이 의료계에 부적절하게 활용될 경우 식별하기 어려운 새로운 형태의 차별을 초래함으로써 중대한 도전을 제기한다고 논했습니다.

또한, 기술 활용을 통해 사람들의 행동을 변화시키려는 시도는 개인이 특정 대상에 대해 스스로 인식하는 편향을 생성할 위험이 크며, 이는 결국 사회 내에서 그 대상에 대한 비윤리적 대우로 이어질 수 있다고 지적했습니다. 또한 교황은 강력한 형태의 디지털 기술이 "개인이 또는 집단이 타인이나 사회를 착취할 수 있는 도구"로 사용될 수 있으며, 이는 정보 제시 방식과 타인과의 상호작용이라는 두 가지 차원을 통해 드러나는 독특한 수준의 "미묘한 편향"을 초래한다고 말씀하셨습니다.

그의 발언에서, 개인을 '개체'나 '데이터' 또는 '실체'로 취급하며 인간으로서 대우하지 않을 가능성에 대해 언급하며, 이는 누군가를 대할 때(예: 그들에게 어떻게 치료가 제공될지) 우리가 만들어낼 왜곡에 대한 중대한 우려를 제기합니다. 이러한 모든 요소는 해당 개인에 대한 부정적 시각을 조성할 것이며, 이는 오로지 이용 가능한 치료법과/또는 사회가 그 치료법에 부여하는 '가치나 비용'만을 기준으로 그들을 바라보는 방식으로 나타날 수 있습니다. 인간 존엄성을 기본 원칙으로 삼아 타인을 대하는 관점은 바로 이러한 신념에 기반합니다.

연대, 공동선, 그리고 연민

의료 제공자들 사이의 상충되는 경향을 조화시키기 위해 교황 레오 14세는 그들에게 연대와 공동선을 바탕으로 한 더 넓고 보편적인 관점을 취할 것을 권고했습니다. 그는 이 과업을 달성하기 위해서는 환원주의적 사고를 피해야 한다고 말하며, "시각을 바꾸는 것... 말하자면, 하느님처럼 보이기 위해서는 즉각적인 이익뿐만 아니라 모두에게 최선인 것이 무엇인지도 보아야 합니다"라고 강조했습니다.

교황 프란치스코는 우리 모두가 신기술이 의미 있는 방식으로 서로 연결되는 능력을 상실하게 하지 않도록 조심해야 한다고 상기시켰습니다. 교황은 "더 넓은 시각은 항상 기술을 사용하는 인간으로서 우리의 정체성에 초점을 맞추고, 자비로운 행동을 통해 서로에게 인간성을 표현하며, 각 개인이 고유한 존엄성과 취약성을 지닌 존재임을 인식하는 것을 포함할 것"이라고 말했습니다. 교황 성하의 의도는 의료 관리자들이 조직 운영 시 이 시각을 지침 원칙으로 활용하라는 것입니다.