O empresário Elon Musk surpreendeu nesta quarta-feira, 14, ao afirmar em uma postagem que não tem conhecimento da existência de qualquer imagem de menor de idade nua produzida pelo Grok, a ferramenta de inteligência artificial (IA) integrada à plataforma X (antigo Twitter). A declaração ocorre após uma saraivada de críticas e denúncias relacionadas à nova funcionalidade aberta ao público, que permite alterar fotos e vídeos para a recriação de registros sexualizados de meninas e meninos — além de mulheres adultas. Diante da repercussão, o Grok foi banido na Indonésia e na Malásia. No Brasil, o Instituto de Defesa do Consumidor (Idec) protocolou um pedido formal para a suspensão da ferramenta.
Ao liberar gratuitamente o chamado modo “Spicy”, Musk apostou claramente no aumento do engajamento, sem impor salvaguardas robustas ou mecanismos eficazes de controle. As consequências vieram rapidamente, na forma de denúncias às autoridades policiais, reportagens na imprensa internacional e reclamações feitas pelos próprios usuários da rede social. Ainda assim, o empresário afirmou em sua postagem que a IA “não faz nada por conta própria”, sustentando que a ferramenta apenas executa os comandos dados pelos usuários.
O episódio expõe uma zona cinzenta cada vez mais crítica na governança das plataformas digitais: até que ponto empresas de tecnologia podem se eximir de responsabilidade alegando neutralidade técnica? Especialistas em regulação digital e direitos da infância apontam que a lógica do “apenas responde a comandos” ignora o fato de que o desenho da ferramenta, seus limites e permissões são decisões empresariais, não neutras. Ao priorizar engajamento e viralização, plataformas ampliam riscos previsíveis, sobretudo quando lidam com conteúdos sensíveis e potencialmente criminosos. O caso do Grok reforça a pressão por regulações mais duras sobre IA generativa, especialmente no que diz respeito à proteção de crianças e adolescentes. O argumento da responsabilidade exclusiva do usuário tende a perder força diante tribunais cada vez mais atentos aos efeitos concretos dessas tecnologias, além de colocar em evidência a necessidade de novas leis digitais para garantir o bom uso da tecnologia.
