Na segunda-feira, a Comissão Europeia disse que as imagens de mulheres e crianças despidas compartilhadas no X eram ilegais e horríveis.
Interação no X para recriar imagem de mulher de biquíni usando o Grok — Foto: Reprodução/X
Agora, a Comissão decidiu estender uma ordem de retenção de documentos enviada ao X no ano passado, relacionada a algoritmos e à disseminação de conteúdo ilegal, segundo o porta-voz Thomas Regnier.
“Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos”, afirmou Regnier.
O porta-voz, no entanto, disse que a medida não equivale a uma nova investigação formal contra o X com base na Lei de Serviços Digitais (DSA) da União Europeia.
Além da UE, reguladores de países como Reino Unido, França, Índia e Malásia pretendem investigar a empresa de Elon Musk por causa dessas imagens, segundo a agência AFP.
Entre os últimos dias 5 e 6, a IA do X criou 6.700 imagens por hora identificadas como sexualmente sugestivas ou de nudez, reportou a agência Bloomberg, citando um levantamento feito pela pesquisadora de mídias sociais e deepfakes Genevieve Oh.
Casos no Brasil
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
Ela postou uma imagem deitada na cama com sua gata na noite de 31 de dezembro e, quando acordou, no dia seguinte, descobriu que a foto tinha sido manipulada diversas vezes e postada como se ela estivesse nua e com trajes sensuais.
O g1 também encontrou outra vítima brasileira de um usuário que editou uma imagem sua com o Grok. Ela descobriu a manipulação após contato da reportagem.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse a vítima, na última segunda (7), ao ser informada pelo g1 que uma foto sua de biquíni estava no X. “Na foto original, do meu story, eu estava de calça.”
Vítima teve sua foto modificada no Grok por usuário do X — Foto: Reprodução/Redes sociais.
Prática é considerada crime
Pela lei brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização é crime e pode levar à punição dos responsáveis — inclusive de quem apenas replica o conteúdo, explica a advogada especialista em direito digital Patrícia Peck (saiba mais abaixo).
Veja o que diz o Código Penal:
Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes: Pena – detenção, de 6 (seis) meses a 1 (um) ano, e multa.
— Art. 216-B. do Código Penal
A advogada explica que, no entendimento do Direito brasileiro, quem faz o “prompt”, ou seja, o pedido à IA, é considerado o autor direto do crime, já que usa a ferramenta como meio para cometer injúria ou violar a intimidade da vítima.
Segundo a especialista, quem compartilha esse tipo de conteúdo também comete crime. “O ato de replicar conteúdo íntimo falso é tão grave quanto o de criá-lo, porque amplia o dano à vítima”, afirma.
Conta X vem publicando imagens de outras mulheres e pedindo para o Grok deixar elas seminuas. — Foto: Reprodução/X
Também foi vítima? Veja o que fazer
- Preserve as provas: não apague nada inicialmente. Tire prints do perfil do responsável, da imagem gerada, dos comentários e, principalmente, da URL (link) direta da postagem.
- Registre a autenticidade do material: se possível, use ferramentas de registro de prova digital com validade jurídica, como a ata notarial em cartório ou plataformas online, como o e-Notariado. Esses registros ajudam a evitar que as provas sejam contestadas.
- Denuncie o conteúdo na plataforma: use os mecanismos internos da rede social para denunciar a violação. O Marco Civil da Internet obriga a remoção rápida de conteúdo íntimo não consensual após notificação da vítima.
- Registre um boletim de ocorrência: procure uma Delegacia de Crimes Cibernéticos ou faça o registro pela internet, reunindo todas as provas coletadas.
O que diz o X
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
