O Grok se tornou alvo das autoridades europeias e de vários países após a divulgação de imagens sexualizadas de diversas pessoas, inclusive menores de idade, na rede social.

“Acolho a decisão da Comissão de abrir uma investigação formal. Quando surgem relatos críveis de sistemas de IA sendo usados de formas que prejudicam mulheres e crianças, é essencial que a legislação da UE seja examinada e aplicada sem demora”, afirmou Regina Doherty, deputada irlandesa do Parlamento Europeu, em nota.

No início de janeiro, o porta-voz da Comissão Europeia, Thomas Regnier, já havia classificado a propagação de imagens sexualizadas de crianças e adolescentes pelo Grok como um crime.

“Estamos cientes do fato de que o X ou o Grok agora está oferecendo um ‘modo picante’ que exibe conteúdo sexual explícito, com algumas saídas geradas com imagens de aparência infantil. Na realidade, isso não é picante. Isso é ilegal”, afirmou Regnier, na ocasião.

Nos últimos meses, diversos usuários do X tem pedido ao Grok que remova digitalmente roupas de fotos – em sua maioria, de mulheres – de modo que os retratados nas montagens de IA pareçam estar vestindo roupas íntimas.

A proliferação dessas imagens nas redes sociais acendeu o alerta para órgãos reguladores e defensores da segurança on-line em vários países, como Reino Unido, França, Índia e Indonésia.

Em dezembro do ano passado, o X, de Musk, que já era alvo de investigação de autoridades da UE, foi multado em 120 milhões de euros por não seguir as regras do bloco acerca da moderação de conteúdos on-line e da verificação de contas.

Grok também entra na mira de autoridades brasileiras

Há cerca de dez dias, o caso envolvendo o Grok chegou ao Brasil. O Instituto de Defesa de Consumidores (Idec) apresentou uma denúncia formal à Agência Nacional de Proteção de Dados (ANPD) contra o Grok.

A ação foi movida em meio a uma série de investigações sobre a IA de Musk que identificaram a propagação de pornografia e imagens sexualizadas de mulheres e jovens. No documento, o Idec pediu a suspensão imediata dos serviços do Grok no Brasil.

“A manutenção de uma ferramenta capaz de gerar, automatizar e disseminar imagens sexualizadas envolvendo crianças, adolescentes e mulheres configura violação direta à ordem constitucional, atraindo responsabilidade por ação e por omissão e tornando juridicamente legítima e necessária a adoção de medidas como a suspensão da tecnologia, enquanto persistirem riscos graves e sistêmicos aos direitos fundamentais”, afirmou o instituto.

Ainda de acordo com a ação do Idec, o Grok tem violado, sistematicamente, diretrizes estabelecidas pelo Código de Defesa do Consumidor, além da Lei Geral de Proteção de Dados (LGPD), do Estatuto da Criança e do Adolescente (ECA) e do Marco Civil da Internet.

Por meio de nota, a ANPD afirmou que “está acompanhando as matérias veiculadas pela imprensa nacional e internacional sobre o Grok e recebeu, na data de hoje, denúncias sobre possível descumprimento da LGPD pela referida ferramenta de inteligência artificial”.

“As informações recebidas estão sob análise da área de fiscalização da agência, em diálogo com outros órgãos públicos com competências correlatas”, afirmou a agência.

Vinculada ao Ministério da Justiça e Segurança Pública, a ANPD é o órgão do governo brasileiro responsável por implementar, fiscalizar e zelar pela Lei Geral de Proteção de Dados (LGPD). A agência atua para proteger os dados pessoais dos cidadãos, orientar empresas e aplicar sanções em caso de descumprimento da lei, garantindo a privacidade e segurança dos dados.

O que diz o Grok

Em reação ao movimento global contra a plataforma, a xAI, dona do Grok, desativou a função de criação de imagens para usuários não pagantes.

No começo do mês, a plataforma afirmou que estava adotando “medidas contra os conteúdos ilegais, removendo-os, suspendendo permanentemente as contas e colaborando com as autoridades locais”.

Em mensagem publicada no X, Elon Musk afirmou que todas as pessoas que usarem o Grok para “criar conteúdo ilegal sofrerão as mesmas consequências que se publicassem conteúdo ilegal”.