.png)
197. A este cenário associa-se o desenvolvimento incessante dos sistemas de armas, em particular das armas relacionadas com a IA. A Santa Sé observou recentemente que a crescente facilidade com que os sistemas de armas com autonomia operativa podem ser utilizados torna a guerra mais “viável” e menos sujeita ao controlo humano, contrariando o princípio de que o recurso à força armada deve ocorrer como última alternativa em caso de legítima defesa. Por isso, o desenvolvimento e a utilização da IA no campo bélico devem estar sujeitos aos mais rigorosos compromissos éticos, no respeito pela dignidade humana e pela sacralidade da vida, evitando uma corrida ao armamento.
198. Fala-se por vezes de “agentes morais artificiais”, como se uma máquina pudesse garantir, com maior coerência do que um ser humano, a distinção entre o bem e o mal. Ora, o juízo moral não se reduz a um cálculo: implica consciência, responsabilidade pessoal e reconhecimento do outro como pessoa. Por isso, não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis. Não existe algoritmo que possa tornar a guerra moralmente aceitável. A IA não retira ao conflito a sua intrínseca desumanidade: apenas o torna mais rápido e impessoal, baixando a fasquia do recurso à violência e transformando a defesa em previsão operacional, com as vítimas reduzidas a dados. Habituamo-nos, assim, à ideia de que a violência é inevitável e deve apenas ser otimizada. É, portanto, de máxima importância infundir valores e prudência na programação dos sistemas artificiais que construímos, os quais podem contribuir para um ecossistema moral em que os seres humanos se encontrem melhor posicionados para ouvir a própria consciência e em que os modelos de IA estabeleçam limites apropriados.
199. Não basta invocar genericamente a ética: é necessário indicar critérios precisos de discernimento. O primeiro diz respeito à responsabilidade pessoal. Quando a decisão de atingir se automatiza ou se torna obscura, aumenta o risco de desresponsabilização. Por isso, a cadeia de responsabilidades deve permanecer identificável e verificável: quem projeta, quem treina, quem autoriza e quem utiliza deve poder prestar contas das suas escolhas. O segundo critério diz respeito ao tempo do juízo moral. A IA tende a comprimir os tempos de decisão; mas, na guerra, as decisões irreversíveis não podem ter como critérios supremos a rapidez e a eficiência. O terceiro critério é a distinção dos civis e a sua proteção. Toda a tecnologia que facilite atingir sem ver o rosto do outro reduz o nível moral do conflito. A seleção de alvos e o uso da força não podem confundir combatentes e não combatentes, nem ignorar o impacto sobre populações indefesas.
200. Destes critérios decorrem algumas exigências imprescindíveis. Em primeiro lugar, para qualquer sistema utilizado em âmbito bélico, devem ser garantidas a rastreabilidade e a possibilidade de reconstituir as decisões, de modo que responsabilidade e eventuais culpas não se dissolvam “na máquina”. Em segundo lugar, a decisão de recorrer à força letal não pode ser delegada em processos pouco transparentes ou automatizados, mas deve permanecer sob um controlo humano efetivo, consciente e responsável. Por fim, é necessário estabelecer regras partilhadas, inclusive a nível internacional, que travem a corrida ao armamento tecnológico e garantam uma especial proteção a civis e infraestruturas essenciais à sua sobrevivência.