Estalou mais uma polémica relacionada com o uso de Inteligência Artificial. Desta vez no centro da ação está o Grok - a ferramenta da rede social X.

Já segue a Informação da Renascença no WhatsApp? É só clicar aqui

A história é simples: alguns utilizadores começaram a enviar fotografias de crianças para o chatbot. O pedido era para que a IA alterasse estas imagens e gerasse novas: retirando roupas a esses mesmos menores de idade e atribuindo a essas fotografias uma cariz sexual.

"Os motores de Inteligência Artificial há coisas que permitem e há coisas que não permitem. O facto de permitir isso é uma opção editorial, não é um erro e não é um bug. Quem está a operá-lo sabe que está a ser feito assim, tem acesso a todos esses dados e pode bloquear isso de um dia para o outro se quiser", afirma Ricardo Lafuente, presidente da Associação D3 - Defesa dos Direitos Digitais.
Em entrevista à Renascença, afirma, assim, que a rede social dirigida por Elon Musk tem, se quiser, a capacidade de proibir a gerar imagens com cariz sexual a envolver crianças: "Sendo-lhe pedido que crie explicitamente uma imagem com pouca roupa de uma pessoa, é uma ferramenta que pode perfeitamente detetar esse género de pedido, enviar para a pessoa que é visada e até para as autoridades."

Já o especialista em cibersegurança Rui Duro, também contactado pela Renascença, lembra que, para além da deturpação ilegal das imagens geradas, as próprias fotografias que são enviadas para o Grok pelos utilizadores do X podem constituir um crime de acordo com o Regime Geral sobre a Proteção de Dados - extensível também a outras plataformas de IA.

"Ao colocar nestas ferramentas informação que possa ser considerada sensível quem é que responde ao direito ao esquecimento? Depois da informação ser colocada, tenho o direito de ir lá e dizer que tem de ser removida e não pode ser usada no futuro", reforça.

Em consequência do caso, o governo francês fez esta sexta-feira uma denúncia ao Ministério Público. O executivo de Emmanuel Macron acredita que as imagens geradas, sendo sexualmente explícitas, podem constituir uma prática desconforme com a lei.

Em resposta a questões colocadas pelos utilizadores do X sobre este caso, o próprio Grok diz que se tratou de uma falha no sistema e que estão a ser feitas melhorias para evitar a repetição de situações como esta. Algumas publicações foram já apagadas.
Tópicos