Uma possível aliança
Por
trás desta enorme força invisível que a todos envolve, está apenas um pequeno
grupo de empresas, cujos fundadores foram recentemente apresentados como os criadores
da “pessoa do ano de 2025”, ou seja, os arquitetos da inteligência artificial.
Isto suscita uma preocupação importante em relação ao controle oligopolístico dos sistemas algorítmicos e de inteligência
artificial capazes de orientar subtilmente os comportamentos e até mesmo de
reescrever a história da humanidade – incluindo a história da Igreja –,
muitas vezes sem que possamos ter real consciência disso.
O desafio que nos espera não é impedir a
inovação digital, mas sim orientá-la, estando conscientes do seu
caráter ambivalente. Cabe a cada um de nós
levantar a voz em defesa das pessoas,
para que estas ferramentas possam realmente ser integradas por nós como
aliadas. Esta aliança é possível, mas tem de se basear em três pilares: responsabilidade, cooperação e educação.
Em
primeiro lugar, a responsabilidade. Ela
pode ser definida, consoante às funções, como honestidade, transparência, coragem, visão, dever de partilhar
conhecimento, direito de ser informado. Porém, em geral, ninguém pode fugir à sua responsabilidade
diante do futuro que estamos a construir.
Para quem está no comando das plataformas
on-line, isso significa garantir que as
próprias estratégias empresariais não sejam norteadas pelo exclusivo critério
da maximização do lucro, mas por uma visão clarividente que tenha em conta
o bem comum, da mesma forma que cada um deles se preocupa com o bem-estar dos
seus filhos.
Aos criadores e desenvolvedores de modelos
de IA, é exigida transparência e
responsabilidade social em relação aos princípios de criação de projetos e aos
sistemas de moderação que estão na base dos seus algoritmos e dos modelos
desenvolvidos, de modo a permitir um consentimento esclarecido aos
utilizadores.
Igual responsabilidade é pedida aos legisladores nacionais e reguladores supranacionais,
que têm a função de zelar pelo respeito da dignidade humana. Uma adequada
regulamentação pode proteger as pessoas duma ligação afetiva com os chatbots e
conter a disseminação de conteúdos falsos, manipuladores ou deturpados,
preservando a integridade da informação face à sua simulação enganosa.
Por sua vez, as empresas dos mass
media e da comunicação não podem permitir que algoritmos orientados
para vencer a qualquer custo a batalha por alguns segundos de atenção a mais
prevaleçam sobre a fidelidade aos seus valores profissionais, voltados para
a busca da verdade. A confiança do público conquista-se com a precisão e a
transparência, não com a corrida por uma participação qualquer.
Os conteúdos gerados ou manipulados pela
IA devem ser sinalizados e claramente distinguidos dos conteúdos criados por
pessoas. A autoria e a propriedade
soberana do trabalho dos jornalistas e outros criadores de conteúdo devem ser
protegidas. A informação é um bem público. Um serviço público construtivo e
significativo não se baseia na opacidade, mas na transparência das fontes, na
inclusão dos sujeitos envolvidos e num elevado padrão de qualidade.
Todos
somos chamados a cooperar.
Nenhum setor pode enfrentar sozinho o desafio de liderar a inovação digital e
governar a IA. Por isso, é necessário criar mecanismos de salvaguarda. Todas as partes interessadas – desde a
indústria tecnológica aos legisladores, das empresas de criação ao mundo acadêmico,
dos artistas aos jornalistas e educadores – devem
estar envolvidas na construção e na efetivação de uma cidadania digital
consciente e responsável.
O
objetivo da educação é
este: aumentar as nossas capacidades pessoais de refletir
criticamente, avaliar a credibilidade das fontes e os possíveis interesses por
trás da seleção das informações que nos chegam, compreender os mecanismos
psicológicos que elas ativam, permitir às nossas famílias, comunidades e
associações a elaboração de critérios práticos para uma cultura de comunicação
mais saudável e responsável.
Precisamente por isso, cada vez mais, é urgente introduzir também, em todos os
níveis dos sistemas educativos, a literacia para os meios de comunicação social,
a informação e a IA, que algumas instituições civis já estão a promover. Como
católicos, podemos e devemos dar o nosso contributo, para que as pessoas –
especialmente os jovens – adquiram a capacidade de pensamento crítico e cresçam
na liberdade do espírito. Esta literacia deveria ainda ser integrada em
iniciativas mais amplas de educação permanente, alcançando igualmente os idosos
e os membros marginalizados da sociedade, que muitas vezes se sentem excluídos
e impotentes perante as rápidas mudanças tecnológicas.
A literacia para os meios de comunicação,
a informação e a IA ajudará todos a não
se adaptarem à tendência de antropomorfização destes sistemas, mas a
tratá-los como ferramentas, a recorrer sempre a uma validação externa das
fontes – que podem ser imprecisas ou erradas – fornecidas pelos sistemas de IA,
a proteger a própria privacidade e os próprios dados, conhecendo os parâmetros
de segurança e as opções de reclamação.
É
importante educar e educar-se para utilizar a IA de forma intencional e, neste
contexto, proteger a própria imagem, o próprio rosto e a própria voz, para
evitar que sejam utilizados na criação de conteúdos e comportamentos
prejudiciais, como fraudes digitais, ciberbullyng,
deepfake, que violam a privacidade e a intimidade das pessoas sem o seu
consentimento.
Assim como a revolução industrial exigiu
uma alfabetização mínima para permitir que as pessoas reagissem às novidades,
também a revolução digital exige uma
literacia digital (com uma formação humanística) para compreender como os algoritmos moldam a nossa percepção da
realidade, como funcionam os preconceitos da IA, quais são os mecanismos que
determinam o aparecimento de determinados conteúdos nos nossos fluxos de
informação (feeds), quais são e como podem mudar os pressupostos e
modelos econômicos da economia da IA.
É
necessário que o rosto e a voz voltem a dizer a pessoa. É
necessário preservar o dom da comunicação como a mais profunda verdade do ser
humano, para a qual também se deve orientar toda a inovação tecnológica. Ao
propor estas reflexões, agradeço a todos aqueles que estão a trabalhar para os
objetivos aqui apresentados e, de coração, abençoo quantos trabalham para o bem
comum através dos meios de comunicação.
Vaticano,
na Memória de São Francisco de Sales, 24 de janeiro de 2026.
LEÃO XIV PP.