.png)
50. Como afirmou o Papa Francisco, «a dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem ser a base para o desenvolvimento de novas tecnologias e servir como critérios inegociáveis para avaliálas antes de seu uso» [100].
51. Sob essa ótica, a IA poderia «introduzir importantes inovações na agricultura, na educação e na cultura, melhorar o padrão de vida de nações inteiras e povos, além de promover a fraternidade humana e a amizade social», sendo, assim, utilizada para «promover o desenvolvimento humano integral» [101]. Além disso, a IA pode ajudar organizações a identificar pessoas em situações de necessidade e combater casos de discriminação e marginalização. De maneiras como essas, a IA pode contribuir para o desenvolvimento humano e o bem comum [102].
52. No entanto, embora a IA ofereça muitas possibilidades de benefício, ela também pode dificultar ou até mesmo contrariar o desenvolvimento humano e o bem comum. O Papa Francisco observou que «os dados coletados até agora parecem sugerir que as tecnologias digitais têm servido para ampliar as desigualdades no mundo, não apenas em relação à riqueza material, que é importante, mas também no acesso à influência política e social» [103]. Nesse sentido, a IA pode ser usada para perpetuar situações de marginalização e discriminação, criar novas formas de pobreza, ampliar o "abismo digital" e agravar desigualdades sociais [104].
53. Além disso, o fato de que a maior parte do poder sobre as principais aplicações de IA está atualmente concentrada nas mãos de poucas empresas poderosas levanta sérias preocupações éticas. Esse problema é agravado pela natureza intrínseca dos sistemas de IA, em que nenhum indivíduo tem supervisão completa sobre os vastos e complexos conjuntos de dados utilizados. Essa falta de uma responsabilidade claramente definida (accountability) aumenta o risco de que a IA seja manipulada para ganhos pessoais ou corporativos, ou para influenciar a opinião pública em benefício de interesses específicos. Essas entidades, motivadas por seus próprios interesses, têm o poder de exercer «formas de controle tão sutis quanto invasivas, criando mecanismos de manipulação das consciências e do processo democrático» [105].
54. Outro risco é que a IA seja utilizada para promover o que o Papa Francisco chamou de «paradigma tecnocrático», que busca resolver praticamente todos os problemas do mundo apenas por meio de soluções tecnológicas [106]. Dentro desse paradigma, a dignidade humana e a fraternidade muitas vezes são negligenciadas em nome da eficiência, «como se a realidade, o bem e a verdade brotassem espontaneamente do poder da tecnologia e da economia» [107]. No entanto, a dignidade humana e o bem comum nunca devem ser sacrificados em nome da eficiência [108]. Assim, «os avanços tecnológicos que não melhoram a qualidade de vida de toda a humanidade, mas que, ao contrário, ampliam as desigualdades e os conflitos, nunca poderão ser considerados um verdadeiro progresso» [109]. A IA deve ser colocada «a serviço de um tipo de progresso mais saudável, mais humano, mais social e mais integral» [110].
55. Para alcançar esse objetivo, é necessário refletir mais profundamente sobre a relação entre autonomia e responsabilidade, já que maior autonomia implica maior responsabilidade em cada aspecto da vida comum. Para os cristãos, essa responsabilidade se fundamenta no reconhecimento de que toda capacidade humana, incluindo a autonomia da pessoa, provém de Deus e deve ser colocada a serviço dos outros [111]. Portanto, em vez de perseguir apenas objetivos econômicos ou tecnológicos, a IA deve ser usada em prol «do bem comum de toda a família humana», ou seja, «das condições de vida social que permitem tanto aos grupos quanto aos indivíduos alcançar sua realização plena de forma mais rápida e eficaz» [112].