Países estão pressionando o Grok, IA do bilionário Elon Musk, após diversos casos de usuários do X que estão usando o chatbot para gerar imagens falsas sexualizadas de mulheres e crianças, sem consentimento.
O Reino Unido, por exemplo, abriu uma investigação contra a plataforma nesta segunda-feira (12), enquanto a Indonésia e a Malásia proibiram o uso do chatbot. A Índia, por sua vez, pediu explicações ao X e exigiu mais proteções na plataforma contra esses casos.
Rede Social X limita uso da inteligência artificial Grok para edição de imagens
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
O X restringiu o Grok a usuários pagantes na semana passada. A empresa afirmou ainda que remove todo conteúdo ilegal da plataforma e suspende permanentemente as contas envolvidas.
“Qualquer pessoa que use ou provoque o Grok a produzir conteúdo ilegal sofrerá as mesmas consequências que se fizesse o upload de conteúdo ilegal”, disse.
A investigação contra o Grok no Reino Unido foi aberta pelo órgão regulador de mídia do país, a Ofcom, e tem o objetivo de determinar se as deepfakes geradas pelo chatbot violaram o dever da plataforma de proteger as pessoas contra conteúdos ilegais.
Segundo o órgão, as imagens sexualizadas de crianças podem se enquadrar como “material de abuso sexual infantil”.
O regulador está sob pressão para agir depois que o primeiro-ministro Keir Starmer declarou que as imagens produzidas pelo Grok eram “repugnantes” e “ilegais”. Segundo Starmer, o X precisa “assumir o controle” do Grok.
Ele disse na quinta-feira (8) que a Ofcom tem total apoio do governo para adotar medidas contra a plataforma, informou a agência de notícias Reuters.
No Reino Unido, é ilegal criar ou compartilhar imagens íntimas sem consentimento ou material de abuso sexual infantil, incluindo imagens sexuais geradas por inteligência artificial.
Além disso, as plataformas de tecnologia devem impedir que usuários britânicos tenham acesso a conteúdo ilegal e removê-lo assim que tomarem conhecimento de sua existência.
A Ofcom afirmou que, nos casos mais graves de descumprimento, pode pedir a um tribunal que determine que “provedores de pagamento ou anunciantes retirem seus serviços de uma plataforma” ou que provedores de internet bloqueiem o acesso a um site no Reino Unido.
O X não respondeu imediatamente a um pedido de comentário da Reuters sobre a investigação da Ofcom.
A Indonésia foi o primeiro país a suspender o Grok, no sábado (10). A decisão foi seguida pela Malásia, que determinou a proibição nesta segunda-feira (12).
Grok, inteligência artificial criada por Elon Musk — Foto: REUTERS/Dado Ruvic/Illustration
