O governo federal e o Ministério Público Federal (MPF) cobraram ajustes do X no chatbot de inteligência artificial que funciona dentro da plataforma, o Grok. As autoridades pedem que a empresa tome providências para impedir que a ferramenta seja usada para gerar imagens sexualizadas não consentidas. Por enquanto, o ofício encaminhado ao X tem status de recomendação. Se as orientações não forem seguidas, a rede social pode ser sancionada administrativamente no Brasil e até acionada na Justiça.
A principal recomendação é a proibição imediata de novas imagens, vídeos ou áudios que representem crianças, adolescentes ou adultos que não deram consentimento em contextos sexualizados ou erotizados, inclusive nas versões pagas da rede social.
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal e a Secretaria Nacional do Consumidor, vinculada ao Ministério da Justiça, também pedem a suspensão urgente das contas envolvidas nesses episódios.
Outra cobrança é pela criação, em até 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo produzidos com o Grok, que ainda estejam disponíveis na plataforma.
Para o futuro, o governo sugere a implementação de canais para denúncias e a produção de relatórios sobre o uso da IA para a manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok.
A ferramenta passou a atender a pedidos de alteração em fotos, como deixar roupas transparentes ou substituí-las por biquínis, mudar ângulos para tornar as imagens sugestivas e até adicionar objetos sexuais nas imagens. Países como Reino Unido, França e Índia decidiram restringir a funcionalidade.
