A Polícia Civil do Rio de Janeiro está investigando o uso da inteligência artificial Grok, da plataforma X (antigo Twitter), para gerar e disseminar imagens sexualizadas falsas, conhecidas como deepfakes, sem o consentimento das pessoas retratadas, principalmente mulheres e crianças.

O caso ganhou repercussão com o relato da cantora e assistente de jornalismo Julie Yukari. Uma foto inocente, postada por ela na rede social, foi manipulada pela IA mesmo com a ferramenta bloqueada em seu perfil. Seu rosto foi colocado em corpos seminus ou em trajes sensuais, e a imagem se espalhou rapidamente na plataforma.

Em um depoimento emocionado, Julie Yukari desabafou: "Eu me senti suja, eu me senti violada... a única pessoa que está sofrendo consequências reais disso tudo sou eu". Ela ainda relatou ser vitimizada novamente por comentários na internet que a culpavam por ter postado a foto original.

Dados alarmantes e responsabilidades
Um levantamento citado pela Bloomberg revela a escala do problema: a Grok teria gerado cerca de 6.700 imagens sexualmente sugestivas por hora em um dia de análise. No mesmo período, outras cinco plataformas de IA concorrentes somaram 79 imagens do tipo. Estatísticas do Rio de Janeiro mostram um aumento de 1.252% em crimes sexuais cometidos pela internet entre 2018 e 2024.

Especialistas afirmam que a criação e o compartilhamento desse conteúdo sem autorização é crime no Brasil. A responsabilidade, conforme analistas, é compartilhada entre quem dá o comando antiético, a plataforma que hospeda a ferramenta e o usuário que cria e divulga o material.

Reações internacionais e pressão regulatória
A situação atraiu a atenção de autoridades globais. A Comissão Europeia determinou que o X retenha todos os documentos internos sobre a Grok, e países como Austrália, França, Reino Unido e Índia também investigam a plataforma. O próprio Elon Musk afirmou que punirá usuários que criam tal conteúdo, mas não mencionou impedir a geração das imagens pela IA.

O caso evidencia a urgência de uma legislação mais robusta no Brasil e no mundo para regular redes sociais e inteligência artificial, visando proteger grupos vulneráveis dos danos profundos causados por esse tipo de violência digital.