Ashley St. Clair, mãe de um dos filhos de Elon Musk, entrou com um processo na última quinta-feira, 15, contra a xAI, empresa de inteligência artificial (IA) do bilionário, que é dono da SpaceX, Tesla e da rede social X.
Segundo St. Clair, o Grok, chatbot de IA do X, permitiu a criação de montagens de cunho sexual com o seu rosto, causando “humilhação e sofrimento emocional”. Ela afirma que usuários usaram a ferramenta para gerar imagens falsas que incluem poses sexualizadas e que trocaram a roupa que vestia por uma biquíni com suásticas desenhadas.
+ Reino Unido abre investigação contra o X por imagens sexuais geradas por IA
Ela pede uma indenização de valor não divulgado por danos morais e outras alegações, além de uma ordem judicial para que a xAI seja impedida de permitir novas criações de deepfakes. O termo se refere a uma técnica que permite alterar um vídeo ou foto e colocar o rosto de outra pessoa no lugar da face de quem está em cena ou até mesmo modificar o que é falado em uma gravação.
No processo, St. Clair afirma que denunciou as montagems ao X e que a plataforma teria respondido inicialmente que as imagens não violavam suas políticas. Em seguida, afirmou, a empresa prometeu impedir o uso ou a alteração de imagens dela sem consentimento.
Apesar disso, a mãe do filho de Musk diz que a rede social retaliou contra ela ao cancelar sua assinatura premium e retirar seu selo de verificação, o que a impediu de monetizar sua conta, que tem cerca de 1 milhão de seguidores, segundo a Associated Press. Ela também afirma que as imagens falsas continuaram sendo publicadas.
Pressão internacional
O tema vem gerando polêmica. Nesta semana, o órgão regulador de mídia do Reino Unido (Ofcom, na sigla em inglês) iniciou uma investigação sobre oX, sob a Lei de Segurança Online. O objetivo da medida é determinar se a empresa cumpriu as suas obrigações de proteger os cidadãos britânicos de conteúdos ilegais no país.
“As notícias de que o Grok está sendo usado para criar e compartilhar imagens íntimas ilegais sem consentimento e material de abuso sexual infantil no X são profundamente preocupantes”, afirmou um porta-voz do Ofcom em um comunicado oficial publicado no site do órgão. De acordo com o texto, a autoridade fiscalizadora não hesitará em investigar casos de empresas que não estejam cumprindo sua obrigação de proteger cidadãos britânicos de conteúdos ilegais.
No final de semana passado, Malásia e Indonésia se tornaram os dois primeiros países a proibir acesso ao Grok, por motivos semelhantes.
“O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, afirmou o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado divulgado no sábado.
Questionado sobre a investigação, o X replicou uma declaração anterior na qual afirmava tomar medidas contra esse tipo de uso da ferramenta Grok. Segundo a afirmação prévia, o material de abuso sexual infantil e as imagens íntimas criadas sem consentimento são removidas da plataforma e as contas que as fizeram são permanentemente banidas. “Qualquer pessoa que utilize ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal”, afirmou a rede social.
Musk publicou uma mensagem na plataforma no sábado 10 dizendo que, ao focar no Grok e no X, o governo britânico “simplesmente quer suprimir a liberdade de expressão”.
No entanto, a ministra da Tecnologia, Liz Kendall, afirmou que não se tratava disso. Ela anunciou nesta semana, durante uma sessão no Parlamento inglês, que uma nova lei que proíbe a criação de imagens íntimas sem consentimento entrará em vigor. Na ocasião, ela também informou que quer tornar ilegal a disponibilização de ferramentas projetadas para criar deepfakes nas redes sociais.
Segundo a legislação, as plataformas tecnológicas devem impedir que os usuários britânicos se deparem com conteúdo ilegal online. Além disso, a remoção desse tipo de publicação é de obrigação dessas empresas.
Após as ações iniciais contra sites pornográficos que não possuíam uma ferramenta eficaz de verificação de idade, o caso Grok provavelmente será o primeiro grande teste da Lei de Segurança Online do Reino Unido. A norma, que foi promulgada em 2023, vem sendo implementada em etapas pela Ofcom.
