Violação de direitos de menores e mulheres leva a pedido de suspensão do Grok

Suspensão do Grok – O Instituto de Defesa de Consumidores (Idec) protocolou nesta segunda-feira (12) um pedido ao governo federal para que seja determinada a suspensão do Grok, ferramenta de inteligência artificial desenvolvida pelo empresário Elon Musk.

Segundo a entidade, o sistema tem sido empregado por usuários da rede social X para criar imagens sexualizadas falsas de mulheres e crianças, sem autorização das vítimas.

LEIA: Google suspende resumos de IA em buscas de saúde após respostas enganosas

“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, disse o Idec.

Na semana passada, o g1 noticiou o relato de uma brasileira que teve uma foto em que aparecia de biquíni adulterada digitalmente. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.

Esse tipo de prática, conhecida como deepfake — técnica que utiliza inteligência artificial para alterar imagens reais — já era conhecida, mas ganhou força no X no mês passado, tornando-se uma espécie de “trend” no Brasil e em outros países.

Instituto cita violações ao ECA e outras leis

O Idec informou que enviou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.

O grupo é composto por representantes do Ministério da Justiça e da Segurança Pública, do Ministério dos Direitos Humanos e da Cidadania, da Secretaria de Comunicação Social da Presidência da República e do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).

De acordo com o instituto, o Grok vem sendo usado para disseminar “imagens sexualizadas não consentidas”, “inclusive de menores de idade”, “sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.”

Na avaliação do Idec, “trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.”

Além do CDC, a entidade afirma que há indícios de descumprimento da Lei Geral de Proteção de Dados (LGPD), do Marco Civil da Internet, do Estatuto da Criança e do Adolescente (ECA) e do recém-aprovado ECA Digital.

O documento também destaca que a atuação do Grok já provocou respostas de autoridades internacionais, incluindo investigações e ordens de remoção de conteúdo por órgãos da União Europeia, do Reino Unido, da França e da Índia.

“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.

(Com informações de G1)
(Foto: Reproduçãoo/Freepik/EyeEm)