.png)
85. A IA pode ser um apoio à dignidade da pessoa humana se usada como auxílio para compreender fatos complexos ou como guia para fontes confiáveis na busca pela verdade [158].
86. Contudo, há um risco real de que a IA produza conteúdos manipulados e informações falsas, que, sendo difíceis de diferenciar de dados reais, podem facilmente enganar. Isso pode ocorrer acidentalmente, como no caso das “alucinações” da IA, quando um sistema gera informações que parecem reais, mas não são. Gerenciar esse fenômeno é difícil, já que a capacidade de gerar informações que imitam a produção humana é uma característica central da IA. Ainda assim, as consequências de informações falsas podem ser graves. Por isso, todos os envolvidos na criação e uso da IA devem priorizar a veracidade e a precisão das informações divulgadas.
87. Além disso, há o problema ainda mais grave do uso intencional da IA para manipulação. Isso ocorre, por exemplo, quando operadores ou organizações geram e divulgam intencionalmente deepfakes — conteúdos falsos, como vídeos, áudios ou imagens, criados por IA para enganar ou prejudicar. Embora artificiais, esses conteúdos podem causar danos reais, deixando «cicatrizes profundas na dignidade humana» [159].
88. Produtos audiovisuais falsificados gerados por IA podem distorcer «relações com os outros e com a realidade» [160], ameaçando a coesão social. Isso exige regulação rigorosa, pois a desinformação pode ser propagada acidentalmente, aumentando a polarização política e o descontentamento social. A confiança fundamental necessária para manter sociedades saudáveis corre o risco de ser destruída por essas práticas [162].
89. Combater essas distorções não é tarefa apenas de especialistas, mas de todos os que desejam promover a dignidade humana e o bem comum. Deve-se verificar a autenticidade do que se compartilha, evitando conteúdos que promovam ódio, intolerância ou degradem a dignidade humana [164]. Isso exige prudência e discernimento contínuos por parte dos usuários da tecnologia [165].