71. Como participantes da obra curativa de Deus, os profissionais de saúde têm a vocação e a responsabilidade de ser «guardiões e servidores da vida humana» [134]. Por isso, a profissão de saúde possui uma «dimensão ética intrínseca e indispensável», como reconhecido no juramento de Hipócrates, que exige o «respeito absoluto à vida humana e à sua sacralidade» [135]. Esse compromisso, inspirado pelo exemplo do Bom Samaritano, deve ser assumido por homens e mulheres que «não permitem a construção de uma sociedade de exclusão, mas que se aproximam, levantam e reabilitam o homem caído, para que o bem seja comum» [136].
72. Nesse contexto, a IA tem enorme potencial em diversas aplicações médicas, como assistência no diagnóstico, facilitação das relações entre pacientes e profissionais de saúde, desenvolvimento de novos tratamentos e ampliação do acesso a cuidados de qualidade, mesmo para aqueles em situações de isolamento ou marginalização. Assim, a tecnologia pode aprimorar «a proximidade plena de compaixão e ternura» [137] dos profissionais de saúde em relação aos doentes e sofredores.
73. No entanto, se a IA for usada para substituir, em vez de melhorar, a relação entre pacientes e profissionais de saúde, deixando os primeiros interagirem com máquinas em vez de pessoas, isso levará à redução de uma estrutura relacional humana essencial em um sistema centralizado, impessoal e injusto. Em vez de encorajar a solidariedade com os doentes, essas aplicações podem agravar a solidão frequentemente associada à doença, especialmente em uma cultura onde «as pessoas não são mais vistas como um valor primário a ser respeitado e protegido» [138]. Esse uso seria incompatível com o respeito à dignidade humana e à solidariedade.
74. A responsabilidade pelo bem-estar do paciente e pelas decisões que envolvem sua vida está no cerne da profissão de saúde. Essa responsabilidade exige que os profissionais médicos usem toda sua capacidade e inteligência para tomar decisões ponderadas e eticamente motivadas, sempre respeitando a dignidade inviolável do paciente e o princípio do consentimento informado. Portanto, as decisões sobre tratamentos e a responsabilidade associada a elas devem sempre recair sobre pessoas, e nunca ser delegadas à IA [139].
75. Além disso, o uso da IA para decidir quem deve receber cuidados, com base predominantemente em critérios econômicos ou de eficiência, é um exemplo particularmente problemático do «paradigma tecnocrático» que deve ser rejeitado [140]. «Otimizar recursos significa utilizá-los de maneira ética e solidária, sem penalizar os mais frágeis» [141]. Além disso, ferramentas baseadas em IA são vulneráveis a preconceitos e discriminações sistêmicas, que podem não apenas causar injustiças em casos isolados, mas também gerar desigualdades sociais em larga escala [142].
76. A integração da IA na saúde também pode acentuar desigualdades existentes no acesso a cuidados. Como os sistemas de saúde estão cada vez mais voltados para a prevenção e estilos de vida saudáveis, há o risco de que soluções orientadas por IA favoreçam inadvertidamente as populações mais abastadas, que já têm maior acesso a recursos médicos e nutrição de qualidade. Isso pode reforçar a ideia de uma "medicina para ricos", em que pessoas com recursos financeiros se beneficiam de avanços e informações médicas personalizadas, enquanto outros mal conseguem acessar serviços básicos. Por isso, é necessário criar estruturas equitativas de gestão para garantir que a IA na saúde esteja a serviço do bem comum e não agrave as desigualdades existentes.