Em buscas feitas pelo g1 no X, foram encontradas interações em que usuários pedem ao Grok alterações em imagens já publicadas por outras pessoas na plataforma.
Nesses casos, o Grok agora está respondendo: “A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos”. A mensagem vem acompanhada de um link para a página de assinatura.
Procurado, o X informou que está verificando a resposta da IA e que passará mais detalhes “assim que tiver alguma atualização”.
Interações do Grok com edição de imagem dentro do X — Foto: Reprodução/X
Em meio à onda de imagens manipuladas de mulheres, outras fotos publicadas no X, geradas a partir de comandos de usuários ao Grok, mostravam menores de idade usando roupas mínimas.
‘Horrível. Me sinto suja’, diz vítima
Giovanna (nome fictício) teve sua foto modificada por usuário do X. — Foto: Reprodução/Redes sociais.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). “Na foto original, do meu story, eu estava de calça.”
A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como “@endricklamar__” repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.
O g1 identificou as manipulações ao buscar palavras-chave relacionadas ao tema na barra de pesquisa do X. A partir disso, foi possível localizar solicitações ao Grok feitas pela conta “@endricklamar__”, incluindo uma em que aparecia o @ de Giovanna*.
Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.
Conta no X vinha publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas. — Foto: Reprodução/X
Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.
“Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni”, comparou.
“Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores”, completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.
No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta “??”. Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).
Perfil excluído logo após o contato do g1. — Foto: Reprodução/X
Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para “tomar ações não autorizadas em nome de terceiros”, “retratar imagens de pessoas de forma pornográfica” e para “a sexualização ou exploração de crianças”.
“Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida”, diz Patrícia Peck, advogada especialista em direito digital.
O g1 procurou o X, que respondeu com uma publicação que já existia em sua página de segurança. No post, a empresa afirma que “qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem enviar conteúdo ilegal” (leia a íntegra ao final da reportagem). O X não comentou a denúncia de Giovanna*.
Prática é crime; veja o que fazer se for vítima
“A lei impõe remoção imediata mediante simples notificação da vítima, sem necessidade de ordem judicial, sob pena de responsabilidade civil do provedor [rede social]”, diz Ronaldo Lemos, advogado e diretor do Instituto Tecnologia e Sociedade do Rio de Janeiro (ITS-Rio).
Segundo ele, embora o Brasil ainda não tenha uma lei específica sobre deepfakes (quando imagens reais são alteradas por inteligência artificial), esse tipo de conduta pode se enquadrar nos crimes contra a honra previstos nos artigos 138, 139 e 140 do Código Penal.
➡️ Veja o que fazer caso você seja uma vítima:
- Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
- Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
- Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
- Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
*Giovanna é nome fictício para preservar a identidade da vítima.
Rede Social X limita uso da inteligência artificial Grok para edição de imagens
Crise da memória RAM pode deixar celulares, notebooks e até carros mais caros no Brasil
Mulher se casa com personagem criado no ChatGPT
