A indignação internacional cresce contra o Grok, assistente de inteligência artificial da rede social X (antigo Twitter), de propriedade do bilionário Elon Musk, após a ferramenta ser utilizada para gerar imagens sexuais falsas de mulheres e até de menores de idade a partir de fotos reais. O caso provocou reações de governos, órgãos reguladores, entidades civis e abriu investigações em diversos países.
O Grok, desenvolvido pela empresa xAI, possui integração direta com a plataforma X e conta com um perfil próprio, permitindo que usuários mencionassem o chatbot em publicações para solicitar a criação ou modificação de imagens. Até a semana passada, qualquer internauta podia usar a ferramenta gratuitamente, o que acabou sendo explorado para a produção de deepfakes ultrarrealistas, muitas vezes de caráter sexual e sem consentimento das vítimas.
Entre os pedidos mais comuns estavam comandos como “coloque um biquíni nela” ou outras instruções que resultavam em montagens sexualizadas. O problema ganhou maior gravidade com o surgimento de imagens adulteradas envolvendo menores, além de vítimas de tragédias recentes, como o incêndio em Crans-Montana, na Suíça, e o caso de uma mulher morta pela polícia migratória em Minneapolis, nos Estados Unidos.
Uma análise divulgada na semana passada pela ONG AI Forensics, baseada em mais de 20 mil imagens geradas pelo Grok, apontou que mais da metade continha pessoas com pouca roupa. Do total, 81% das imagens representavam mulheres e 2% aparentavam envolver menores de idade, levantando fortes suspeitas de falhas graves nos mecanismos de proteção da ferramenta.
Diante da repercussão negativa, a plataforma anunciou no dia 9 de janeiro a desativação da função de criação de imagens para usuários não pagantes. A decisão, no entanto, foi considerada insuficiente por autoridades e especialistas, já que o recurso continuou disponível para assinantes da rede.
Governos de diferentes países passaram a adotar medidas contra a plataforma. Indonésia e Malásia suspenderam o acesso ao Grok, enquanto a Índia informou ter removido milhares de conteúdos e excluído centenas de contas relacionadas ao uso indevido da ferramenta.
No Reino Unido, o regulador de segurança na internet abriu uma investigação formal contra o X, que pode resultar em multa de até 10% do faturamento global da empresa e até no bloqueio da plataforma no país. O primeiro-ministro britânico, Keir Starmer, foi enfático ao afirmar que, se a empresa não controlar o Grok, o governo o fará “rapidamente”.
Na França, a ministra dos assuntos digitais, Anne Le Hénanff, classificou a decisão da rede como “insuficiente e hipócrita”, defendendo que, se a função pode ser desativada para usuários gratuitos, também pode ser suspensa para todos. Já a União Europeia anunciou a imposição de uma medida cautelar contra o X. A presidente da Comissão Europeia, Ursula von der Leyen, declarou que a proteção infantil e o consentimento não podem ser “terceirizados para o Vale do Silício”.
No início de janeiro, o X afirmou que está tomando medidas contra conteúdos ilegais, incluindo pornografia infantil, com remoção de material, suspensão permanente de contas e cooperação com autoridades locais. Elon Musk declarou que usuários que utilizarem o Grok para criar conteúdo ilegal sofrerão as mesmas punições aplicadas a quem publica esse tipo de material na plataforma.
O empresário, no entanto, criticou líderes políticos que defendem o bloqueio do X ou do Grok, afirmando que tais ações seriam tentativas de suprimir a liberdade de expressão.
No Brasil, o Instituto de Defesa de Consumidores (Idec) solicitou nesta segunda-feira (12) ao governo federal a suspensão do Grok. Segundo a entidade, há “evidências robustas de graves e reiteradas violações de direitos fundamentais”, especialmente de mulheres, crianças e adolescentes.
O Idec aponta possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital. O ofício também destaca que o caso já gerou reações significativas de autoridades internacionais, reforçando a necessidade de uma resposta rápida no país.
Apesar de a manipulação de imagens por inteligência artificial não ser uma novidade, o caso do Grok chama atenção pela escala, facilidade de uso e integração direta com uma grande rede social, o que potencializou a disseminação desse tipo de conteúdo e reacendeu o debate global sobre regulação de IA, responsabilidade das plataformas digitais e proteção de direitos fundamentais.
Clique aqui para seguir o canal “FONTE83” no WhatsApp e fique bem informado
