O Grok, sistema de inteligência artificial integrado ao X e desenvolvido pela xAI, empresa de Elon Musk, tornou-se o epicentro de uma nova polêmica global envolvendo deepfakes sexualizados e violência digital contra mulheres.

Nas primeiras semanas do ano, usuários passaram a explorar brechas no gerador de imagens da plataforma para criar versões falsas e hiper-realistas de mulheres “despidas” a partir de fotos públicas. Comandos como “remova a roupa”, “coloque biquíni transparente” e “deixe nua” viralizaram rapidamente, transformando a ferramenta em alvo de denúncias.

Relatos apontam que as imagens eram realistas o suficiente para gerar confusão e constrangimento, ampliando o impacto psicológico e profissional das vítimas. Criadoras de conteúdo afirmaram temer prejuízos comerciais, perda de contratos e danos irreversíveis à reputação.

A repercussão foi imediata. Organizações de justiça de gênero enviaram cartas abertas pedindo que Apple e Google removam o X de suas lojas de aplicativos, alegando falhas graves na moderação de conteúdo. Legisladores norte-americanos também avançaram com propostas para permitir que vítimas de deepfakes sexuais processem responsáveis por danos civis.

Após a explosão de críticas, a empresa anunciou restrições no recurso de geração de imagens e limitou o acesso a assinantes pagos. Elon Musk declarou que qualquer uso ilegal da ferramenta estaria sujeito às mesmas consequências de quem publica conteúdo ilícito.

O caso do Grokreacende um debate central da era da inteligência artificial: até que ponto plataformas são responsáveis pelo uso previsivelmente abusivo de suas ferramentas?