Califórnia investiga ferramenta de IA Grok por sexualizar menores

"A xAI parece facilitar a produção em larga escala de deepfakes não consensuais utilizados para assediar mulheres e raparigas online, incluindo através da rede social X", destacou, em comunicado, o procurador-geral democrata Rob Bonta.

Esta investigação soma-se às inúmeras averiguações já em curso em vários países sobre o tema.

O procurador exortou na mesma nota a xAI "a tomar medidas imediatas" para garantir que a produção destas imagens "nunca mais acontece".

"Temos tolerância zero para a criação e distribuição, através da inteligência artificial, de imagens íntimas não consensuais ou de pornografia infantil", acrescentou.

Grok? Comissão Europeia atuará se Musk não agir, alerta von der Leyen

A presidente da Comissão Europeia avisou hoje o empresário norte-americano Elon Musk, dono da rede social X e da funcionalidade de inteligência artificial Grok, que "se não agir, a União Europeia irá fazê-lo". Lusa | 18:58 - 11/01/2026

Nas últimas semanas, cresceu a indignação internacional em torno do Grok e a sua capacidade de modificar imagens, principalmente as publicadas na rede social X, também pertencente a Elon Musk.

Alguns utilizadores aproveitaram-se desta ferramenta para publicar ou responder a mensagens contendo fotos de mulheres, acompanhadas de instruções como "veste-a em biquíni" para receber uma edição hiper-realista ("deepfake", em inglês) em troca.

Desde 09 de janeiro, a funcionalidade de criação de imagens foi desativada para os utilizadores gratuitos do X, que afirma estar a tomar medidas para remover este conteúdo ilegal e suspender as contas envolvidas.

O procurador da Califórnia acusou ainda a xAI de ter divulgado a capacidade de despir pessoas "como uma ferramenta de marketing, o que, previsivelmente, levou à proliferação de conteúdos sexualizados sem o consentimento dos indivíduos envolvidos".

Regulador britânico abre investigação ao Grok por sexualizar imagens

A Autoridade Reguladora das Comunicações do Reino Unido (Ofcom) iniciou uma investigação ao Grok, ferramenta de Inteligência Artificial (IA) da plataforma X que estará a ser utilizada para sexualizar imagens de mulheres e crianças, foi hoje divulgado. Lusa | 13:12 - 12/01/2026

Na semana passada, uma análise conduzida pela organização não-governamental (ONG) AI Forensics a mais de 20.000 imagens geradas pelo Grok revelou que mais de metade retratava indivíduos com pouca roupa, 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.

Também hoje a Malásia se juntou a vários outros países que estão a rever o funcionamento da ferramenta de IA, incluindo a França, o Reino Unido e a Indonésia.

A reguladora de comunicações britânica, Ofcom, abriu uma investigação formal contra a X para determinar se esta cumpriu as obrigações legais no país, na sequência da circulação de imagens sexualizadas, enquanto a França apresentou uma queixa contra o Grok por criar e divulgar "conteúdos de natureza sexista e sexual".

A Indonésia anunciou no sábado uma restrição ao acesso ao 'chatbot' devido à criação de "imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdos que envolvem mulheres e menores".

Leia Também: Departamento de Guerra dos EUA adota chatbot de IA criado por Musk