Papa Leão XIV: A dignidade humana deve ser respeitada ao integrar a IA na área da saúde

Uma perspectiva ética sobre a IA na área da saúde

Na reunião de segunda-feira com a ALAMI (Associação Latino-Americana de Sistemas Percentuais de Saúde Privada), o Papa Leão XIV pediu aos participantes que considerassem a necessidade de uma nova perspectiva ética devido aos rápidos desenvolvimentos tecnológicos e avanços na área da saúde, bem como o desenvolvimento de um novo tipo de base ética para esses campos através dos meios digitais.

A assembleia está reunida em Roma para seu nono Seminário sobre Ética na Gestão da Saúde, realizado sob os auspícios da Pontifícia Academia para a Vida.

Em sua homilia, o Papa deixou claro que esta conferência é uma “peregrinação”; ou seja, quando refletimos sobre as dimensões éticas de nossas propostas, alcançaremos um marco importante nesta peregrinação juntos como Igreja e sociedade.

Os riscos do viés da IA na medicina

Ele reconheceu a amplitude da experiência de todos os participantes e disse que a Igreja acolhe todos os participantes como “pessoas de esperança” devido aos seus talentos, experiências e aspirações únicos, enquanto trabalham juntos para ajudar os doentes. Ele aconselhou: tenham cuidado para não permitir que a inteligência artificial promova um potencial viés ético e estejam cientes das potenciais armadilhas éticas do uso dessas tecnologias na área da saúde. O Papa Francisco discutiu como o progresso tecnológico na área da saúde apresenta desafios significativos devido ao uso inadequado da tecnologia pela comunidade de saúde, criando novas formas de discriminação que podem ser difíceis de identificar.

Além disso, ele observou que utilizar a tecnologia para mudar o comportamento das pessoas pode criar um risco significativo de criar preconceitos percebidos contra uma pessoa, levando a um tratamento antiético em relação a essa mesma pessoa nas sociedades. Além disso, o Papa Francisco afirmou que formas poderosas de tecnologia digital podem ser usadas como “ferramentas através das quais é possível que um indivíduo ou grupo explore outros ou sociedades”, o que, por sua vez, produz um nível único de “preconceitos sutis” vistos através de duas dimensões diferentes: na forma como apresentamos informações e na forma como interagimos com os outros.

Em seus comentários, ele fez uma declaração sobre a possibilidade de tratar as pessoas como um “objeto”, “dados” ou “uma entidade” sem tratá-las como indivíduos, o que levanta uma grande preocupação em relação às distorções que criaremos quando tratarmos alguém (por exemplo, como o tratamento será direcionado a essa pessoa), o que contribuirá para uma visão negativa sobre essa pessoa, como a forma como ela será vista com base apenas nos tratamentos disponíveis e/ou no “valor ou custo” que a sociedade atribui a esses tratamentos. A perspectiva de tratar outras pessoas a partir de um ponto de vista da dignidade humana como princípio básico baseia-se nessa crença.

Solidariedade, bem comum e compaixão

Em um esforço para conciliar essas tendências conflitantes entre os profissionais de saúde, o Papa Leão XIV os encorajou a adotar uma perspectiva mais ampla e comum, baseada na solidariedade e no bem comum. Ele disse que, para realizar essa tarefa, será necessário evitar o pensamento reducionista, afirmando: “Para mudar sua visão... Se assim posso dizer, parecer-se com Deus exigirá que você não veja apenas o ganho imediato, mas também o que é melhor para todos”.

O Papa Francisco lembrou a todos nós que devemos ter cuidado para não permitir que as novas tecnologias nos façam perder a capacidade de nos conectarmos uns com os outros de maneira significativa. “Uma perspectiva mais ampla sempre incluirá um foco em quem somos como seres humanos que utilizam a tecnologia e como expressamos nossa humanidade uns aos outros por meio de ações compassivas, reconhecendo que cada pessoa tem sua dignidade e vulnerabilidade individuais”, disse o Papa Francisco. A intenção do Santo Padre é que os gestores de saúde utilizem essa perspectiva como princípio orientador na administração de suas organizações.