O Papa alertou para os riscos de uma tecnologia digital que “simula” a realidade humana, pedindo a proteção dos “rostos e vozes” contra a manipulação da inteligência artificial (IA), na sua primeira mensagem para o Dia Mundial das Comunicações Sociais.
“O desafio, portanto, não é tecnológico, mas antropológico. Proteger os rostos e as vozes significa, em última análise, proteger-nos a nós mesmos”, escreve.
Com o tema “Preservar vozes e rostos humanos” esta é a primeira mensagem do Papa Leão para o Dia Mundial das Comunicações Sociais, divulgada pela Santa Sé no passado dia 24 de janeiro, dia do padroeiro dos jornalistas e comunicadores, São Francisco de Sales.
O Papa adverte que os sistemas de IA, ao simularem “sabedoria, conhecimento, consciência e responsabilidade”, invadem o nível mais profundo da relação entre pessoas.
“A tecnologia digital, se falharmos nessa proteção, corre o risco de alterar radicalmente alguns dos pilares fundamentais da civilização humana que, muitas vezes, temos como assegurados”, sustenta.
Leão XIV denuncia a “confiança ingenuamente acrítica” na IA como um “oráculo”, sublinhando que o recurso sistemático a uma compilação estatística artificial, corre o risco, a longo prazo, de corroer “as capacidades cognitivas”.
A confiança do público conquista-se com precisão, com transparência, não com a busca de qualquer tipo de envolvimento. Os conteúdos gerados ou manipulados pela IA devem ser sinalizados e claramente distinguidos dos conteúdos criados por pessoas.”
O texto aborda o fenómeno dos “chatbots” e assistentes virtuais, alertando para a “antropomorfização” enganadora que pode tornar estas ferramentas em “arquitetos ocultos” de estados emocionais, especialmente perante pessoas vulneráveis.
“Sem a aceitação da alteridade, não pode haver nem relação nem amizade”, aponta o Papa, criticando a criação de um mundo de espelhos onde tudo é feito “à nossa imagem”.
A mensagem identifica ainda os perigos dos “deepfakes” e da desinformação, num cenário onde a IA pode fabricar “realidades paralelas” e apropriar-se da identidade das pessoas.
“Estamos imersos numa multidimensionalidade, onde se torna cada vez mais difícil distinguir a realidade da ficção”, observa.
Há muito tempo que existem múltiplas evidências de que os algoritmos projetados para maximizar o envolvimento nas redes sociais – lucrativo para as plataformas – recompensam as emoções rápidas e penalizam, em contrapartida, as expressões humanas que requerem mais tempo, como o esforço de compreensão e a reflexão.”
Para enfrentar estes desafios, o Papa propõe uma “aliança” baseada em três pilares: responsabilidade, cooperação e educação.
A mensagem exige “transparência” aos criadores de algoritmos e pede aos legisladores uma regulamentação que proteja a dignidade humana e contenha a difusão de conteúdos falsos.
O Dia Mundial das Comunicações Sociais é a única celebração do género estabelecida pelo Concílio Vaticano II, no decreto ‘Inter Mirifica’, em 1963; assinala-se, em cada ano, no domingo antes do Pentecostes – 17 de maio, em 2026.
(Com Agência Ecclesia)
