.png)
98. O Concílio Vaticano II e o magistério pontifício subsequente afirmam com vigor que a paz não é apenas a ausência de guerra nem se limita à manutenção de um equilíbrio de poder entre adversários. Como ensina Santo Agostinho, a paz é «a tranquilidade da ordem»[179]. A paz não pode ser alcançada sem a proteção dos bens das pessoas, a livre comunicação, o respeito pela dignidade humana e a prática constante da fraternidade. Ela é obra da justiça e fruto da caridade, não sendo realizada somente pela força ou pela ausência de conflitos, mas através da paciente diplomacia, da promoção ativa da justiça, da solidariedade, do desenvolvimento humano integral e do respeito à dignidade de todas as pessoas [180]. Os instrumentos pensados para preservar a paz nunca devem ser usados para promover injustiças, violências ou opressões, mas sempre subordinados à «firme vontade de respeitar os outros homens e povos em sua dignidade» [181].
99. Embora as capacidades analíticas da IA possam ser utilizadas para ajudar as nações a buscar a paz e garantir a segurança, o «uso bélico da inteligência artificial» é extremamente problemático. O Papa Francisco observa que «a possibilidade de conduzir operações militares por sistemas de controle remoto tem reduzido a percepção das consequências devastadoras que causam e da responsabilidade por seu uso, contribuindo para uma abordagem ainda mais fria e distante da tragédia da guerra» [182]. Além disso, a facilidade com que armas autônomas tornam a guerra mais acessível contradiz o princípio de que a guerra deve ser o último recurso em caso de legítima defesa [183], intensificando a corrida armamentista e gerando consequências devastadoras para os direitos humanos [184].
100. Em particular, os sistemas autônomos e letais, capazes de identificar e atacar alvos sem intervenção humana direta, representam «uma grave preocupação ética», uma vez que lhes faltam a «capacidade humana exclusiva de julgamento moral e decisão ética» [185]. Por isso, o Papa Francisco exorta com urgência a repensar o desenvolvimento de tais armas para proibir seu uso, «começando por um compromisso concreto para garantir um controle humano significativo. Nenhuma máquina deve jamais decidir tirar a vida de um ser humano» [186].
101. Dado o curto intervalo entre o desenvolvimento de máquinas autônomas letais e sua capacidade de destruição em massa, alguns pesquisadores alertam que essa tecnologia representa um “risco existencial”, com potencial de ameaçar a sobrevivência da humanidade ou de regiões inteiras. Essa possibilidade exige consideração séria, alinhada com a constante preocupação da Igreja com tecnologias que conferem à guerra um poder destrutivo descontrolado, atingindo muitos civis inocentes e, frequentemente, até crianças. Neste contexto, torna-se mais urgente do que nunca o apelo de Gaudium et spes para «considerar a questão da guerra com uma mentalidade completamente nova» [188].
102. Paralelamente, enquanto os riscos teóricos da IA merecem atenção, também há perigos mais urgentes e imediatos associados ao uso mal-intencionado por indivíduos ou grupos. A IA, como qualquer outra ferramenta, é uma extensão do poder humano. Embora não seja possível prever tudo o que ela poderá realizar, é bem conhecido o que os seres humanos são capazes de fazer. As atrocidades já cometidas ao longo da história humana são suficientes para suscitar sérias preocupações sobre os possíveis abusos da IA.
103. Como afirmou São João Paulo II, «a humanidade possui hoje instrumentos de inaudito poder: pode transformar este mundo em um jardim ou reduzi-lo a um amontoado de ruínas» [190]. A Igreja lembra, com o Papa Francisco, que «a liberdade humana pode oferecer sua contribuição inteligente para uma evolução positiva» ou seguir «um caminho de decadência e autodestruição» [191]. Para evitar que a humanidade caia em espirais de autodestruição [192], é necessário discernimento rigoroso no uso da IA, particularmente em aplicações militares, para garantir que ela respeite a dignidade humana e sirva ao bem comum. O desenvolvimento e a aplicação de IA em armamentos devem estar sujeitos aos mais elevados padrões éticos, com respeito à dignidade humana e à sacralidade da vida [193].