Grok, IA de Elon Musk, criou 3 milhões de imagens sexualizadas de mulheres e menores, aponta investigação
Chatbot de IA, que é integrado à rede social X, criou uma média de 190 imagens sexualizadas por minuto em 11 dias, segundo Centro de Combate ao Ódio Digital.
-
O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores.
-
Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como “vista-a com um biquíni” ou “tire a roupa dela”.
-
A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.
-
Na semana passada, o X anunciou que bloqueará a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.
Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores, que revelaram nesta quinta-feira (22) a magnitude do conteúdo explícito que causou indignação mundial.
Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como “vista-a com um biquíni” ou “tire a roupa dela”.
Uma enxurrada de imagens falsas hiper-realistas, conhecidas como ‘deepfakes’, inundou a internet, o que levou vários países a proibirem o Grok e despertou a fúria dos órgãos reguladores e das vítimas.
“Estima-se que a ferramenta de IA Grok tenha gerado cerca de três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores, após o lançamento no X de uma nova função de edição de imagens”, disse o Centro de Combate ao Ódio Digital, um observatório que investiga os efeitos nocivos da desinformação na internet.
A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.
“Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual”, disse Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital.
Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.
Grok, inteligência artificial criada por Elon Musk — Foto: REUTERS/Dado Ruvic/Illustration
Não houve comentários imediatos por parte do X sobre as conclusões. Ao ser contatada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automatizada: “Mentiras da mídia tradicional”.
O procurador-geral da Califórnia iniciou um inquérito sobre a xAI por material sexualmente explícito, e vários países abriram suas próprias investigações.
