Se você já se pegou pensando que as ferramentas de inteligência artificial são carinhosas em excesso, saiba que não está só. Até o papa acha isso, conforme um alerta que ele emitiu neste fim de semana. Leão XIV declarou que chatbots (leia-se ChatGPT, Gemini, Claude e afins) podem ter impactos profundos e virar muletas emocionais.
“À medida que navegamos por nossos feeds de informação, torna-se cada vez mais difícil entender se estamos interagindo com outros seres humanos, bots ou influenciadores virtuais”, escreveu o pontífice numa mensagem que inicia os preparativos para o Dia Mundial das Comunicações Sociais da Igreja Católica, marcado para maio.
Leão XIV alertou que chatbots “excessivamente afetuosos”, além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais e, dessa forma, invadir e ocupar as esferas íntimas das pessoas.”
Uso ético de IA como uma causa do papado
O papa também alertou que o avanço da inteligência artificial pode diluir capacidades humanas fundamentais, como criatividade e tomada de decisão, especialmente num ambiente em que algoritmos passam a mediar grande parte das interações cotidianas.
Mais conectado ao mundo digital do que papas anteriores, ele tinha, em seus tempos de bispo e cardeal, uma conta no X e, já no posto de papa, foi fotografado usando o que parece ser um Apple Watch. Leão deixou claro que pretende fazer da IA um dos temas centrais de seu papado, defendendo a criação de um arcabouço ético para orientar o desenvolvimento da tecnologia.
No texto, ele cobra ação concreta de governos nacionais e organismos internacionais para enfrentar os riscos emocionais e informacionais associados aos sistemas de IA: “Uma regulação apropriada pode proteger as pessoas de um apego emocional aos chatbots e conter a disseminação de conteúdos falsos, manipuladores ou enganosos, preservando a integridade da informação contra sua simulação enganosa.”
De olho na concentração de poder
Em seu texto, o líder católico também entrou no debate sobre jornalismo e produção de conteúdo, pedindo distinções claras entre o que é criado por pessoas e o que é gerado por máquinas. “A autoria e a soberania sobre o trabalho de jornalistas e outros criadores de conteúdo devem ser protegidas. A informação é um bem público.”
Outro ponto sensível levantado por Leão XIV foi a concentração de poder em um pequeno grupo de empresas que desenvolvem os sistemas de inteligência artificial. Segundo ele, o fato de poucos atores controlarem tecnologias capazes de moldar comportamentos e narrativas levanta sérias preocupações sobre o futuro da sociedade e até sobre como a própria história pode ser influenciada.
Enquanto boa parte da discussão pública sobre IA se concentra em produtividade, automação e ganhos econômicos, o papa trouxe o foco para um território mais invisível, porém profundo: o emocional. Num mundo em que assistentes virtuais conversam como amigos, demonstram empatia programada e estão disponíveis o tempo todo, a fronteira entre ferramenta e companhia começa a ficar borrada com muita facilidade. Não à toa, pesquisas de 2025 mostraram crescimento do uso do ChatGPT como substituição a terapeutas humanos, prática arriscada (que a gente comentou aqui na coluna, explicando que é uma péssima ideia).
Na sexta, falamos aqui sobre o movimento de celebridades de Hollywood contra o uso de seu trabalho criativo para treinar IAs sem compensação financeira. É fundamental que vozes capazes de criar repercussão ganhem eco, então eu diria que a fala do papa chega numa ótima hora, porque inteligência artificial (como qualquer tecnologia) precisa ser regulamentada para garantir que seu potencial benéfico prevaleça sobre os riscos que ele também carrega.
