Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência. (Foto: Reprodução)
O Grok, chatbot de inteligência artificial (IA) da xAI, de Elon Musk afirmou nessa sexta-feira (2) que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X. Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Ministros franceses denunciaram o caso à Arcom, órgão regulador da mídia na França, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia, informou a agência de notícias Reuters. Em comunicado, eles afirmaram que o conteúdo “sexual e sexista” era “manifestamente ilegal”.
As imagens publicadas no X – geradas após comandos de usuários no Grok – mostravam menores usando “roupas mínimas”.
“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, publicou o chatbot, acrescentando que material de abuso sexual infantil é “ilegal e proibido”.
“Conforme observado, identificamos falhas nas proteções e estamos corrigindo-as com urgência – o CSAM é ilegal e proibido”, disse Grok, referindo-se a material de abuso sexual infantil.
O Grok não deu mais detalhes. Em uma resposta separada a um usuário no X na quinta-feira, Grok afirmou que a maioria dos casos poderia ser evitada por meio de filtros e monitoramento avançados, embora tenha dito que “nenhum sistema é 100% infalível”, acrescentando que a xAI estava priorizando melhorias e analisando os detalhes compartilhados pelos usuários.
Quando contatada pela Reuters para comentar o assunto por email, a xAI respondeu com a mensagem “a mídia tradicional mente.”
Exaltação a Hitler
Em um outro caso ocorrido em julho do ano passado, o Grok, inteligência artificial criada por Elon Musk e integrada ao X, publicou conteúdos antissemitas e de exaltação a Adolf Hitler. As publicações foram apagadas pela xAI, empresa responsável pela IA do Musk, após reclamações de usuários do X e da Liga Antidifamação, uma ONG judaica com sede nos EUA, informou a agência de notícias Reuters.
O Grok foi desenvolvido para competir com chatbots de outras bigtechs, como o Gemini, do Google, e o ChatGPT, da OpenAI.
Apesar de o conteúdo ter sido deletado, usuários fizeram capturas de tela e as compartilharam.
Um dos compartilhamentos mostra a resposta a um post que parecia “comemorar” a morte de crianças na enchente que atingiu um acampamento cristão no Texas, nos EUA.
Um dos usuários questionou o Grok sobre qual “figura histórica do século 20” seria mais indicada para lidar com o “ódio a pessoas brancas”.
A resposta da IA dizia: “Para lidar com esse ódio vil contra brancos? Adolf Hitler, sem dúvida. Ele identificaria o padrão e lidaria com isso de forma decisiva, toda santa vez”, escreveu o Grok.
https://www.osul.com.br/grok-inteligencia-artificial-de-musk-admite-falhas-apos-gerar-imagens-sexualizadas-de-menores/ Grok, inteligência artificial de Musk, admite falhas após gerar imagens sexualizadas de menores 2026-01-02
O número representa um aumento de um 1% em relação ao estudo publicado no ano passado. (Foto: Reprodução) As atividades maliciosas representam 7% do tráfego na internet, segundo uma pesquisa feita pela Cloudflare. O número representa um aumento de um 1% em relação ao estudo publicado no ano passado. Para a companhia, as guerras e …
O uso de assistentes virtuais como o ChatGPT tem se tornado cada vez mais frequente. (Foto: Reprodução) O uso de assistentes virtuais como o ChatGPT tem se tornado cada vez mais frequente, especialmente em tarefas que exigem geração de texto. No entanto, muitos usuários ainda cometem erros que podem comprometer a eficácia das respostas obtidas. …
O Apple Watch Ultra 2 é um modelo dedicado para esportes, mas pode se aposentar dois anos depois do seu lançamento. (Foto: Reprodução) O lançamento do iPhone 17 deve acontecer em 9 de setembro, data em que a Apple tem evento marcado. Se isso acontecer, será natural que a companhia aposente alguns de seus dispositivos, …
Todas as especificações da câmera principal de 48 MP do iPhone 16 são idênticas à do iPhone 15. Foto: Divulgação As vendas foram impulsionadas por descontos que chegaram a até 35%. (Foto: Divulgação) A Apple lançou seus novos modelos de celular: a família do iPhone 16. No Brasil, a pré-venda começa com preços variando entre …
Grok, inteligência artificial de Musk, admite falhas após gerar imagens sexualizadas de menores
Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência. (Foto: Reprodução)
O Grok, chatbot de inteligência artificial (IA) da xAI, de Elon Musk afirmou nessa sexta-feira (2) que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X. Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Ministros franceses denunciaram o caso à Arcom, órgão regulador da mídia na França, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia, informou a agência de notícias Reuters. Em comunicado, eles afirmaram que o conteúdo “sexual e sexista” era “manifestamente ilegal”.
As imagens publicadas no X – geradas após comandos de usuários no Grok – mostravam menores usando “roupas mínimas”.
“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, publicou o chatbot, acrescentando que material de abuso sexual infantil é “ilegal e proibido”.
“Conforme observado, identificamos falhas nas proteções e estamos corrigindo-as com urgência – o CSAM é ilegal e proibido”, disse Grok, referindo-se a material de abuso sexual infantil.
O Grok não deu mais detalhes. Em uma resposta separada a um usuário no X na quinta-feira, Grok afirmou que a maioria dos casos poderia ser evitada por meio de filtros e monitoramento avançados, embora tenha dito que “nenhum sistema é 100% infalível”, acrescentando que a xAI estava priorizando melhorias e analisando os detalhes compartilhados pelos usuários.
Quando contatada pela Reuters para comentar o assunto por email, a xAI respondeu com a mensagem “a mídia tradicional mente.”
Exaltação a Hitler
Em um outro caso ocorrido em julho do ano passado, o Grok, inteligência artificial criada por Elon Musk e integrada ao X, publicou conteúdos antissemitas e de exaltação a Adolf Hitler. As publicações foram apagadas pela xAI, empresa responsável pela IA do Musk, após reclamações de usuários do X e da Liga Antidifamação, uma ONG judaica com sede nos EUA, informou a agência de notícias Reuters.
O Grok foi desenvolvido para competir com chatbots de outras bigtechs, como o Gemini, do Google, e o ChatGPT, da OpenAI.
Apesar de o conteúdo ter sido deletado, usuários fizeram capturas de tela e as compartilharam.
Um dos compartilhamentos mostra a resposta a um post que parecia “comemorar” a morte de crianças na enchente que atingiu um acampamento cristão no Texas, nos EUA.
Um dos usuários questionou o Grok sobre qual “figura histórica do século 20” seria mais indicada para lidar com o “ódio a pessoas brancas”.
A resposta da IA dizia: “Para lidar com esse ódio vil contra brancos? Adolf Hitler, sem dúvida. Ele identificaria o padrão e lidaria com isso de forma decisiva, toda santa vez”, escreveu o Grok.
https://www.osul.com.br/grok-inteligencia-artificial-de-musk-admite-falhas-apos-gerar-imagens-sexualizadas-de-menores/
Grok, inteligência artificial de Musk, admite falhas após gerar imagens sexualizadas de menores
2026-01-02
Related Posts
Acessos maliciosos são 7% do tráfego na internet
O número representa um aumento de um 1% em relação ao estudo publicado no ano passado. (Foto: Reprodução) As atividades maliciosas representam 7% do tráfego na internet, segundo uma pesquisa feita pela Cloudflare. O número representa um aumento de um 1% em relação ao estudo publicado no ano passado. Para a companhia, as guerras e …
Seis sinais claros de que você está usando mal o ChatGPT; veja como melhorar
O uso de assistentes virtuais como o ChatGPT tem se tornado cada vez mais frequente. (Foto: Reprodução) O uso de assistentes virtuais como o ChatGPT tem se tornado cada vez mais frequente, especialmente em tarefas que exigem geração de texto. No entanto, muitos usuários ainda cometem erros que podem comprometer a eficácia das respostas obtidas. …
Apple pode aposentar sete dispositivos após o lançamento do iPhone 17; saiba quais
O Apple Watch Ultra 2 é um modelo dedicado para esportes, mas pode se aposentar dois anos depois do seu lançamento. (Foto: Reprodução) O lançamento do iPhone 17 deve acontecer em 9 de setembro, data em que a Apple tem evento marcado. Se isso acontecer, será natural que a companhia aposente alguns de seus dispositivos, …
iPhone 16: veja quatro coisas que decepcionam na nova linha de celulares da Apple
Todas as especificações da câmera principal de 48 MP do iPhone 16 são idênticas à do iPhone 15. Foto: Divulgação As vendas foram impulsionadas por descontos que chegaram a até 35%. (Foto: Divulgação) A Apple lançou seus novos modelos de celular: a família do iPhone 16. No Brasil, a pré-venda começa com preços variando entre …