A mesma tecnologia que pode melhorar a vida das pessoas, tem potencial para causar danos horríveis, costumo dizer aqui na coluna. O exemplo ruim desse começo de ano é o chatbot de IA Grok, de Elon Musk, que tem sido usado da maneira mais abjeta possível: para gerar imagens de abuso infantil, além de conteúdo sexual não consentido com maiores de idade (sobretudo mulheres). O caso começou nas últimas semanas de dezembro, estendeu-se janeiro adentro, e agora caminha rumo a uma investigação em vários países.
A crise começou depois que o X lançou um recurso atualizado de edição de imagens para o Grok que permitia aos usuários marcar o chatbot em postagens públicas e solicitar alterações em fotografias. A ferramenta ganhou fôlego depois que o próprio Musk repostou imagens dele mesmo e de desafetos usando biquínis.
A partir daí, virou bola de neve: criadores de conteúdo adulto usaram para gerar imagens sensuais – também de si mesmos. Depois disso, segundo investigação de uma plataforma chamada Copyleaks, mais pessoas passaram a pedir nudificação, só que de terceiros, inclusive pessoas famosas. Entre elas, artistas do elenco da série Stranger Things (inclusive os que ainda são menores de idade).
Levantamentos realizados nesta semana mostraram números alarmantes de uso abusivo do Grok. A ONG europeia AI Forensics analisou 20.000 imagens geradas pela IA de Elon Musk e encontrou conteúdo de abuso sexual infantil de níveis variados: dos mais explícitos até aplicação de fluidos sexuais em cima de partes do corpo vestido. Outra investigação, da pesquisadora Genevieve Oh, divulgada pela Bloomberg, descobriu que entre 5 e 6 de janeiro o Grok gerou aproximadamente 6.700 imagens sexualmente sugestivas ou de nudificação por hora. Repetindo: por hora.
A plataforma tem respondido que conteúdo impróprio é apagado, e as contas dos responsáveis são suspensas. Musk postou no perfil dele que “qualquer pessoa usando o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências que se fizesse upload de conteúdo ilegal”. Parece mais lógico, no entanto, que o Grok simplesmente se recuse a criar as imagens. Ou seja, tenha o que é chamado “guard-rail”, que são limites técnicos e normativos embutidos nos sistemas para orientar o que eles podem ou não fazer.
Representantes de diversos países, como França, Inglaterra e Índia, condenaram a postura do bilionário, que com isso se esquiva de qualquer responsabilidade por danos que a tecnologia que ele soltou no mundo tem causado. O gabinete do primeiro-ministro britânico classificou as imagens como “repugnantes e intoleráveis” e cogita boicote ao X. A França encaminhou o caso para investigação criminal. O governo indiano, por sua vez, expressou insatisfação com o fato de a empresa ter focado em punir usuários após a criação do conteúdo, em vez de impedir que o Grok gere esse tipo de material. É possível ainda que haja aplicação de multas, tomara que das mais pesadas possíveis, pois dinheiro é a única linguagem que Musk parece entender.
