Justiça da Califórnia investiga Grok por sexualizar imagens

O procurador-geral da Califórnia anunciou a abertura de uma investigação à xAI devido à proliferação "online" de imagens de mulheres e crianças nuas geradas com o Grok, assistente de inteligência artificial (IA) criado pela empresa de Elon Musk.

"A xAI parece facilitar a produção em larga escala de deepfakes não consensuais utilizados para assediar mulheres e raparigas online, incluindo através da rede social X", destacou, em comunicado, o procurador-geral democrata Rob Bonta.

Esta investigação soma-se às inúmeras averiguações já em curso em vários países sobre o tema.

O procurador exortou na mesma nota a xAI "a tomar medidas imediatas" para garantir que a produção destas imagens "nunca mais acontece".

"Temos tolerância zero para a criação e distribuição, através da inteligência artificial, de imagens íntimas não consensuais ou de pornografia infantil", acrescentou.

Nas últimas semanas, cresceu a indignação internacional em torno do Grok e a sua capacidade de modificar imagens, principalmente as publicadas na rede social X, também pertencente a Elon Musk.

Alguns utilizadores aproveitaram-se desta ferramenta para publicar ou responder a mensagens contendo fotos de mulheres, acompanhadas de instruções como "veste-a em biquíni" para receber uma edição hiper-realista ("deepfake", em inglês) em troca.

Desde 09 de janeiro, a funcionalidade de criação de imagens foi desativada para os utilizadores gratuitos do X, que afirma estar a tomar medidas para remover este conteúdo ilegal e suspender as contas envolvidas.

O procurador da Califórnia acusou ainda a xAI de ter divulgado a capacidade de despir pessoas "como uma ferramenta de marketing, o que, previsivelmente, levou à proliferação de conteúdos sexualizados sem o consentimento dos indivíduos envolvidos".

Na semana passada, uma análise conduzida pela organização não-governamental (ONG) AI Forensics a mais de 20.000 imagens geradas pelo Grok revelou que mais de metade retratava indivíduos com pouca roupa, 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.

Também hoje a Malásia se juntou a vários outros países que estão a rever o funcionamento da ferramenta de IA, incluindo a França, o Reino Unido e a Indonésia.

A reguladora de comunicações britânica, Ofcom, abriu uma investigação formal contra a X para determinar se esta cumpriu as obrigações legais no país, na sequência da circulação de imagens sexualizadas, enquanto a França apresentou uma queixa contra o Grok por criar e divulgar "conteúdos de natureza sexista e sexual".

A Indonésia anunciou no sábado uma restrição ao acesso ao "chatbot" devido à criação de "imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdos que envolvem mulheres e menores".