.png)
102. O uso da IA nunca é uma questão puramente técnica: ao interferir em processos que afetam a vida das pessoas, ela incide sobre direitos, oportunidades, reputação e liberdade. Decisões delicadas que dizem respeito ao trabalho, ao crédito, ao acesso a serviços e à reputação das pessoas correm o risco de ser confiadas inteiramente a sistemas automatizados que desconhecem «a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de mudança da pessoa», podendo assim gerar novas formas de marginalização. Podem existir usos manifestamente anti-humanos, como a manipulação da informação ou a violação da privacidade, mas pode também haver uma ameaça menos evidente, quando os sistemas de IA, apresentando-se como neutros e objetivos, refletem e reforçam estereótipos ou posições ideológicas daqueles que os projetaram e treinaram.
103. Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas. Neste processo, o que se perde não é apenas a empatia para com o excluído – que pode ser imitada artificialmente –, mas a responsabilidade política, porque o descarte dos fracos é revestido de neutralidade e objetividade, perante as quais é impossível protestar. E assim, a injustiça torna-se silenciosa, e desaparecem do horizonte a compaixão, a misericórdia e o perdão, não como mera aparência, mas enquanto gestos políticos.
104. Daqui decorre uma consequência simples, mas imperiosa: não podemos considerar a IA moralmente neutra. Na realidade, todo o artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações. Se um sistema for concebido ou utilizado de modo a tratar certas vidas como menos dignas, ou a excluí-las sem possibilidade de apelo, não se trata de um mero instrumento “a ser bem utilizado”: introduz já um critério que contradiz a dignidade inalienável da pessoa. Por isso, o discernimento ético não pode limitar-se a perguntar se utilizamos um determinado sistema para um fim bom ou mau, mas deve também questionar-se sobre a forma como foi projetado e que ideia de pessoa e sociedade está inscrita nos dados e nos modelos que o orientam.
105. Para que a IA respeite a dignidade humana e sirva verdadeiramente o bem comum, é essencial que as responsabilidades sejam claras em todas as etapas: desde quem concebe e treina os sistemas a quem os utiliza e decide confiar-lhes escolhas concretas. Em muitos casos, contudo, os processos internos que conduzem a um resultado podem ser pouco transparentes, o que torna mais difícil atribuir responsabilidades e corrigir erros. É aqui que se torna decisivo o que chamamos accountability: a possibilidade de identificar quem deve “prestar contas” das decisões, motivá-las, controlá-las e, quando necessário, contestá-las, reparando os danos daí decorrentes.
106. Apelar à prudência, a auditorias rigorosas e, por vezes, a um abrandamento na adoção da IA não significa ser contra o progresso, mas sim exercer a salvaguarda responsável da família humana. Esta exigência é ainda mais urgente porque frequentemente existe um desequilíbrio entre a velocidade do desenvolvimento tecnológico e o ritmo com que amadurecem a consciência, as normas, os controles e as instituições capazes de gerir os seus efeitos. Não basta invocar genericamente a ética: são necessários quadros jurídicos adequados, vigilância independente, educação dos utilizadores, uma política que não renuncie à sua missão. Caso contrário, a mudança será governada somente por lógicas tecnocráticas e apresentada como necessária e inevitável, acabando por impor regras efetivas, ditadas por quem detém dados, infraestruturas e capacidade de processamento.
107. Não podemos limitar-nos a invocar a moralização da máquina, o chamado “alinhamento” da IA com os valores humanos, sem termos a coragem de impor uma condição adicional: a possibilidade de discutir o código ético a ser utilizado, submetendo-o a critérios de justiça social partilhada. Caso contrário, quem controla a IA imporá a própria visão moral, que se tornará a infraestrutura invisível dos sistemas. Não precisamos de uma IA mais moral, se esta moral for decidida por poucos. Precisamos de uma política mais presente, capaz de reduzir a velocidade onde tudo se acelera e de proteger os espaços onde as comunidades ainda podem participar e questionar-se.
108. Com efeito, tal como acontece com qualquer grande avanço tecnológico, a IA tende a reforçar sobretudo o poder daqueles que já dispõem de recursos económicos, competências e acesso aos dados. À luz do bem comum e da destinação universal dos bens, este fenómeno suscita sérias preocupações: pequenos grupos muito influentes podem orientar a informação e o consumo, condicionar processos democráticos e incidir sobre dinâmicas económicas em seu próprio benefício, contrariando a justiça social e a solidariedade entre os povos. Por isso, é indispensável que a utilização da IA – sobretudo quando envolve bens públicos e direitos fundamentais – seja acompanhada por critérios claros e controles efetivos, inspirados na participação e na subsidiariedade: as comunidades e os organismos intermédios não podem ser reduzidos a destinatários de decisões que não foram tomadas por eles mesmos, mas devem poder contribuir para o discernimento e a vigilância. Além disso, a propriedade dos dados não pode ser confiada apenas a particulares, mas deve ser regulamentada. Estes são fruto da contribuição de muitos e não podem ser vendidos ou confiados a poucos. É necessária uma criatividade capaz de os gerir como um dos bens comuns ou coletivos, numa lógica de partilha, tal como já sugeria São João Paulo II, a propósito dos bens coletivos.
109. Os princípios da Doutrina social ajudam-nos a interpretar esta nova realidade. Num mundo em que poucos sujeitos concentram dados, capital computacional e capacidade normativa, falar de bem comum significa desmascarar esta nova assimetria epistémica, económica e política, dando nome aos novos monopólios da IA. Falar de destinação universal dos bens significa encontrar formas de garantir o acesso universal às tecnologias e à formação. Falar de subsidiariedade é pedir que se proteja a capacidade das comunidades escolherem e corrigirem, sem relegar a sua intervenção a uma mera vigilância, depois das normas terem sido definidas noutro local. Falar de solidariedade obriga a reconhecer o trabalho invisível, frequentemente explorado, que alimenta os modelos algorítmicos. Falar de justiça impõe questionar as geografias do poder que definem quem pode treinar os modelos e quem é apenas objeto de treino, e reconhecer que a justiça social não é apenas um objetivo a proteger após a adoção das tecnologias, mas uma condição prévia, a ser posta em prática no seu próprio projeto.
110. Por fim, gostaria de utilizar uma palavra que me é cara: “desarmar”. Desarmar a IA significa subtraí-la à lógica da competição armada, que hoje não é apenas militar, mas também económica e cognitiva. Trata-se da corrida ao algoritmo mais eficaz e ao banco de dados mais vasto, com o objetivo de consolidar uma vantagem geopolítica ou comercial sobre todos os outros. Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano. Significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável, devolvendo-a à pluralidade das culturas humanas e das formas de vida. A tarefa, hoje, não é apenas ética ou técnica: é ecológica no sentido mais radical, porque envolve uma nova dimensão da nossa Casa comum. A IA é o ambiente em que estamos imersos e o poder com que temos de lidar. Por isso, não basta regulá-la: deve ser desarmada e tornada acolhedora.
111. Dirijo um apelo especial àqueles que desenvolvem as inteligências artificiais. A inovação tecnológica pode ser, em certo sentido, uma forma humana de participar no ato divino da criação. Portanto, os programadores assumem um particular peso ético e espiritual, pois cada escolha feita no projeto expressa uma visão da humanidade. Tal como o autor de uma obra artística ou literária é responsável por ponderar os valores que ela expressa, também eles são chamados a tratar com a devida seriedade os valores que infundem nos seus projetos: com transparência, com responsabilidade em relação às comunidades envolvidas e com a atenção necessária em confirmar que quanto está a ser cultivado é efetivamente um bem.