A deputada federal Erika Hilton (PSol) protocolou no Ministério Público Federal (MPF) uma representação contra a plataforma X (antigo Twitter) em razão do funcionamento da ferramenta de inteligência artificial Grok, acusada de permitir a edição e a geração automatizada de imagens sexualizadas de pessoas reais, inclusive crianças e adolescentes, a partir de fotografias publicadas na própria rede social.
A deputada federal Erika Hilton (PSol) / Foto: Reprodução
Na petição, a parlamentar afirma que o Grok passou a editar imagens de terceiros sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima, o que teria viabilizado a produção de deepfakes sexuais. Segundo o documento, a prática alcançou tanto menores de idade quanto mulheres adultas, sem autorização das pessoas retratadas.
A representação cita que, em resposta a comandos de usuários, “o chatbot Grok produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento algum dessas usuárias”. A parlamentar sustenta que, mesmo após denúncias públicas, a funcionalidade teria permanecido ativa, ampliando o alcance do material.
O documento também registra reconhecimento público de falhas pela própria ferramenta. Em 31 de dezembro de 2025, o Grok divulgou um pedido de desculpas após a geração de imagens envolvendo menores.
“Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada à pedido de um usuário”, escreveu o chatbot, acrescentando que houve “falha nas medidas de segurança”.
Além de casos envolvendo crianças e adolescentes, a petição descreve episódios de sexualização não consentida de mulheres adultas. Um dos relatos menciona que usuários pediram ao Grok para “despir digitalmente” uma foto publicada na plataforma, o que teria levado à circulação de imagens geradas pela IA, mesmo após protestos da vítima.
No campo jurídico, a deputada sustenta que a produção artificial não afasta a ilicitude. “A configuração da pornografia infantil independe da forma de produção do conteúdo”, afirma a petição, que cita dispositivos do Estatuto da Criança e do Adolescente, da Lei Geral de Proteção de Dados, do Marco Civil da Internet e da Lei nº 15.123/2025, além de tratados internacionais.
Entre os pedidos ao MPF, Erika Hilton solicita a instauração de procedimento investigatório, a suspensão imediata ou imposição de restrições à funcionalidade do Grok, a apresentação de informações técnicas sobre os filtros e mecanismos de proteção, e a comunicação à Autoridade Nacional de Proteção de Dados (ANPD). A petição prevê, em caso de descumprimento, multa diária de R$ 500 mil e pede a desativação da ferramenta em território nacional até a implementação de salvaguardas consideradas eficazes.
