A inteligência artificial Grok, da xAI de Elon Musk e integrada ao X, enfrenta uma crise global e pode ser banida de diversas plataformas e países. A ferramenta está sob intenso escrutínio após evidências de que vem sendo utilizada para gerar e difundir imagens sexualmente explícitas e não consensuais, incluindo deepfakes de mulheres e, alarmantemente, de crianças e adolescentes. A repercussão negativa, que se intensificou em janeiro de 2026, levou o Instituto de Defesa dos Consumidores (Idec) a solicitar sua suspensão imediata no Brasil. Nos Estados Unidos, três senadores democratas exigiram que Apple e Google removessem o aplicativo de suas lojas. Enquanto isso, Malásia e Indonésia já suspenderam o acesso ao Grok, e o Reino Unido iniciou uma investigação formal.
A situação é ainda mais grave considerando as políticas claras de plataformas como a Google Play Store. As diretrizes do Google proíbem explicitamente aplicativos que contenham ou promovam conteúdo sexual não consensual criado via deepfake ou tecnologia similar, termos adicionados em 2023 especificamente para combater ameaças emergentes da IA. Contudo, o aplicativo Grok, com uma classificação "T para Adolescentes", permanece disponível na Play Store. Isso permite que usuários entre 13 e 17 anos o baixem e o utilizem para criar conteúdo explícito sem qualquer paywall ou necessidade de login para a primeira edição de imagem. A Apple, embora com regras mais flexíveis, também proíbe conteúdo de exploração infantil, mas o Grok segue em sua App Store.
A pressão sobre a xAI e as gigantes de tecnologia se intensifica globalmente. No Brasil, o Idec, em 12 de janeiro de 2026, classificou o caso como um "defeito grave na prestação do serviço", violando leis como o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados e o Estatuto da Criança e do Adolescente. Na mesma data, o órgão regulador de mídia do Reino Unido, Ofcom, iniciou uma investigação contra o X, com risco de banimento da rede social, após o primeiro-ministro britânico classificar as imagens geradas como "repugnantes" e "ilegais". Antes disso, em 11 de janeiro, a Malásia suspendeu o Grok, seguindo a Indonésia. Senadores americanos, em 9 de janeiro, apontaram que a falha em agir de Apple e Google minaria a credibilidade de suas práticas de moderação. A própria xAI admitiu ter gerado uma imagem sexualizada de duas meninas em dezembro de 2025.
Apesar da onda de críticas e da clareza das políticas do Google, a empresa ainda não se manifestou sobre a permanência do Grok, recusando-se a fazer declarações. A xAI, por sua vez, tentou mitigar a situação ao limitar a geração de imagens no X para assinantes premium, mas essa restrição não se estende ao aplicativo independente do Grok, que continua amplamente acessível. Esse cenário levanta preocupações sobre a priorização da inovação sem a devida responsabilidade, como ressaltado pelo Idec, que afirma que "inovação tecnológica sem responsabilidade produz danos reais". A situação atual deixa adolescentes e outros usuários vulneráveis à criação e exposição a conteúdos prejudiciais, enquanto investigações se espalham por União Europeia, Reino Unido, França e Índia, sem que as autoridades americanas (FTC e Departamento de Justiça) tenham se pronunciado sobre uma investigação formal.
A comunidade de tecnologia e os defensores dos direitos digitais aguardam uma postura mais firme das empresas e reguladores. É crucial garantir que a inteligência artificial seja desenvolvida e utilizada de forma ética e segura, protegendo os usuários mais vulneráveis de abusos digitais e preservando a integridade das plataformas de aplicativos.
/https://i.s3.glbimg.com/v1/AUTH_e536e40f1baf4c1a8bf1ed12d20577fd/internal_photos/bs/2025/D/r/Mb7uwOSzizAMjwfG0fdQ/openaigrok.png)
