A partir desta sexta-feira, 9, a função do Grok que permite tirar as roupas de pessoas em fotos será restrita aos assinantes do serviço. Até ontem, a ferramenta desenvolvida pelo bilionário Elon Musk estava acessível a qualquer usuário do X (ex-Twitter), o que resultou em uma geração massiva global de “deepfakes” de mulheres reais — muitas delas, menores de idade.
Usuários que tentam utilizar a função nesta sexta-feira recebem uma mensagem negativa do próprio Grok: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”. Atualmente, um plano de assinatura do X Premium custa 8 dólares (43 reais) por mês, chegando a 40 dólares (215 reais) mensais para utilizar o potencial máximo da ferramenta generativa.
Disponibilizada mundialmente de forma irrestrita no início da semana, a nova ferramenta do Grok não permite gerar imagens de nudez explícita ou pornografia, mas consegue colocar mulheres em biquínis ou roupas íntimas a partir de fotos completamente vestidas e reproduzi-las em praticamente qualquer posição e cenário. Nos últimos dias, usuárias do X que protestaram contra o sistema foram atacadas e humilhadas nas redes, sendo retratadas seminuas e vestindo suásticas nazistas em campos de concentração, ou em poses sexualmente sugestivas na presença de homens.
Entre terça e quarta-feira, o Grok registrou um pico de geração de 6.700 imagens “nudificadas” ou sexualmente sugestivas por hora, segundo dados divulgados pela pesquisadora Genevieve Oh, especialista em estudos de inteligência artificial. No mesmo período, a ONG europeia AI Forensics analisou cerca de 20.000 imagens produzidas pela plataforma e identificou que mais da metade retratavam pessoas em roupas mínimas, sendo oito em cada dez vítimas mulheres.
Onda de deepfakes coloca Musk novamente sob a mira da União Europeia
Com os alarmes soando ao redor do planeta, a União Europeia abriu um processo contra o Grok na quinta-feira, 7, e impôs uma medida cautelar à plataforma, determinando que as empresas de Elon Musk devem preservar todos os documentos relacionados à ferramenta de IA até o final de 2026.
Em dezembro, a Comissão Europeia aplicou uma multa de 120 milhões de euros (753 milhões de reais) ao X por descumprimento da Lei de Serviços Digitais (DSA, na sigla em inglês). Entre as violações apontadas pelo bloco econômico estão a falta de transparência da plataforma sobre anúncios, a recusa em fornecer dados públicos a pesquisadores e o uso enganoso dos selos de verificação — de acordo com o órgão, a venda indiscriminada dos “blue checks” permite que qualquer usuário se apresente como uma autoridade, organização ou empresa renomada, abrindo margem para golpes, fraudes e desinformação contra os internautas.
