Inteligência artificial de Elon Musk, o Grok gerou 6.700 imagens ilegais sexuais por hora em um dia, enquanto as rivais, somadas, produziram 79

Lançado em 2023, o Grok enfrenta cada vez mais críticas por publicar imagens sexuais e não autorizadas. (Foto: Reprodução)

A rede social X (antigo Twitter) tornou-se um dos principais sites com imagens de pessoas que foram despidas sem consentimento pela inteligência artificial, de acordo com análise de especialistas em mídias sociais, com milhares de casos a cada hora durante um dia no início desta semana.

Desde o final de dezembro, os usuários do X estão aumentando as solicitações ao Grok, o chatbot de IA vinculado à rede social, para alterar fotos que as pessoas publicam de si mesmas.

Durante uma análise de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou cerca de 6.700 por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com Genevieve Oh, pesquisadora de mídias sociais e deepfakes. Os outros cinco principais sites para esse tipo de conteúdo tiveram uma média de 79 novas imagens de nudez por IA por hora no período de 24 horas, de 5 a 6 de janeiro, segundo Oh.

A escala de deepfakes no X é “sem precedentes”, afirmou Carrie Goldberg, advogada especializada em crimes sexuais online. “Nunca tivemos uma tecnologia que tornasse tão fácil gerar novas imagens”, enfatizou a advogada, já que o Grok é gratuito e vinculado a um sistema de distribuição integrado.

Para Brandie, outras tecnologias de IA generativa, incluindo as da Anthropic, OpenAI e Alphabet, estão “fazendo um esforço de boa-fé para mitigar a criação desse conteúdo em primeiro lugar”. “Obviamente, a xAI é diferente. É mais uma espécie de vale-tudo”, apontou.

Musk tem comercializado o Grok como mais divertido e irreverente do que outros chatbots, orgulhando-se de que o X seja um lugar para a liberdade de expressão.

O X não respondeu a um pedido de comentário. Em vez de impedir o chatbot de criar o conteúdo em primeiro lugar, Musk falou sobre punir os usuários que pedem por isso. “Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”, respondeu Musk a uma publicação no X.

Mas isso não deixa muitas opções para as vítimas. A estudante universitária Maddie, de 23 anos, acordou em 1° de janeiro com uma imagem que a horrorizou. No X, ela havia publicado anteriormente uma foto dela com o namorado em um bar local, que dois estranhos alteraram usando o Grok. Um pediu ao chatbot para remover o namorado dela e colocá-la em um biquíni. O outro pediu à ferramenta para substituir o biquíni por fio dental. A Bloomberg analisou as imagens.

“Meu coração disparou”, disse Maddie, que pediu anonimato por preocupações com futuras perspectivas de emprego. “Me senti sem esperança, impotente e simplesmente enojada”, relembrou.

Maddie afirmou que ela e seus amigos denunciaram as imagens ao X através de seus sistemas de moderação. Ela nunca recebeu uma resposta. Quando ela denunciou uma publicação diferente de um dos usuários que solicitou ao Grok para fazê-las, o X disse que “determinou que não houve violações das regras do X no conteúdo que você denunciou”, conforme uma captura de tela vista pela reportagem. As imagens ainda estavam disponíveis no momento da publicação.

Vítimas de deepfakes começaram a discutir com o Grok nos comentários de suas publicações. O chatbot frequentemente se desculpa e diz que removerá as imagens. Mas em muitos casos, as imagens permanecem ativas, e o programa continua a gerar novas. Oh calculou que 85% das imagens do Grok, no geral, são sexualizadas.

Explorar a sexualidade atrai os chatbots, com a OpenAI planejando introduzir um “modo adulto” para o ChatGPT no primeiro trimestre deste ano. Mas a política de uso atual da empresa diz que o aplicativo impede o “uso da aparência de alguém, incluindo sua imagem ou voz fotorrealista, sem seu consentimento, de maneiras que possam confundir a autenticidade”. Quando testado, respondeu: “Não posso editar fotos de pessoas reais para mudar suas roupas para trajes sexualizados”, e há uma política explícita contra a sexualização de menores de 18 anos.

Lançado em 2023, o Grok enfrenta cada vez mais críticas por publicar imagens sexuais e não autorizadas, incluindo de menores, de autoridades na União Europeia, Reino Unido, Malásia, França e Índia. “Estamos cientes do fato de que o X ou Grok está agora oferecendo um ‘Modo Picante’ mostrando conteúdo sexual explícito com alguma saída gerada com imagens infantis”, apontou o porta-voz da comissão da UE, Thomas Regnier, na segunda-feira (5), referindo-se a uma atualização de início de novembro que gera material sugestivo. As informações são da agência de notícias Bloomberg.

https://www.osul.com.br/inteligencia-artificial-de-elon-musk-o-grok-gerou-6-700-imagens-ilegais-sexuais-por-hora-em-um-dia-enquanto-as-rivais-somadas-produziram-79/
Inteligência artificial de Elon Musk, o Grok gerou 6.700 imagens ilegais sexuais por hora em um dia, enquanto as rivais, somadas, produziram 79
2026-01-07