Deepfakes: da desinformação até ao abuso online

A equipa de verificação de dados da Euranet Plus, a rede europeia de rádios de que a Renascença faz parte, alerta que a criação e a distribuição de deepfakes — imagens ou vídeos gerados com inteligência artificial (IA) e concebidos para se fazerem passar por uma determinada pessoa — estão a aumentar a nível mundial. Ao mesmo tempo, está em curso uma corrida para combater estes conteúdos prejudiciais, que afetam cidadãos em toda a União Europeia (UE). A consequência mais visível tem sido aumento do assédio e da manipulação psicológica de pessoas para a execução para a divulgação de informações confidenciais, como destacou o Fórum Económico Mundial.

A Euranet Plus sublinha que os deepfakes têm o poder de influenciar a política e as eleições com desinformação que é "cativante", ou seja, que é chamativa e que prende a atenção de quem consulta, nomeadamente, as redes sociais.

Novas tendências

Na União Europeia, o que mais preocupa os especialistas é o uso de deepfakes de carácter sexual e que estão a alimentar a violência de género online, e onde, normalmente, os alvos são do sexo feminino, vítimas de assédio, ataques à reputação e extorsão. No entanto, qualquer pessoa pode ser alvo, sejam celebridades ou simples cidadãos sem qualquer exposição pública ou mediática. Este relatório da Euranet sublinha, ainda, se tem "observado um aumento de casos entre menores e nas escolas, conforme relatado em Espanha, Bélgica e outros países".

Por sua vez, tal como referido pelas Nações Unidas e num relatório de 2023 da plataforma SecurityHero, especializada em roubo de identidade, conclui que "98% de todos os vídeos deepfake online são criados com imagens pornográficas não consensuais, frequentemente referidas como 'nudes deepfakes' ou imagens de nudez falsas".

Também têm sido amplamente relatados em toda a UE, incluindo na Bulgária, esquemas fraudulentos e casos de usurpação de identidade a envolver políticos e figuras públicas, com o objetivo de induzir os utilizadores a enviar dinheiro ou a partilhar dados sensíveis.

Os deepfakes circulam amplamente nas redes sociais e em aplicações de mensagens como o Facebook, o WhatsApp e o Telegram. A equipa de verificação de dados da Euranet Plus afirma, ainda, que rerramentas de Inteligência Artificial e chatbots como o Grok, da rede social X, têm permitido a criação e partilha em massa de conteúdo explícito, afetando, por vezes, centenas de milhões de utilizadores.

Tema pouco legislado

A ONU referiu, em fevereiro, que a grande maioria do conteúdo deepfake consiste em imagens de carácter sexual. No entanto, "menos de metade de todos os países possui leis que abordam o abuso online" e muito menos leis que abordem especificamente o conteúdo gerado por IA.

"Casos de grande visibilidade desencadearam protestos e uma ampla cobertura mediática na União Europeia, com uma preocupação crescente em relação à segurança infantil, ao abuso online e à erosão da confiança no conteúdo digital. Um desses casos envolveu a atriz alemã Collien Fernandes, que disse à imprensa que o seu ex-marido, o apresentador de televisão e produtor Christian Ulmen, se tinha feito passar por ela online e partilhado deepfakes dela. Isso não só levou a ministra da Justiça da Alemanha, Stefanie Hubig, a propor uma nova lei para criminalizar os deepfakes, como também a Áustria. Também primeira-ministra italiana, Giorgia Meloni, foi vítima de deepfakes, o que a levou a intentar uma ação judicial ", descreve a Euranet, que lembra que "de acordo com um documento de orientação elaborado pelo grupo de reflexão GlobalSec, este caso estabeleceu um precedente ao demonstrar que as leis existentes, tais como as relativas aos direitos de autor, aos direitos da personalidade e à proteção da imagem, podem ser utilizadas para combater o assédio através de deepfakes, embora sejam necessárias leis atualizadas para prevenir e mitigar os danos causados por esta tecnologia de forma mais eficaz".

Reação jurídica

É neste quadro que muitos países estão a apressar-se e a atualizar as leis para estes crimes. Embora a UE já disponha da sua lei de inteligência artificial, que oferece alguma proteção, o bloco comunitário está a estudar um eventual agravamento das leis, em resposta ao número crescente de casos de abuso através da IA.

Já este ano, os legisladores da UE concordaram em incluir uma proibição de práticas de IA relacionadas com a geração de conteúdo sexual e íntimo não consensual. No entanto, a ONU observa que as leis por si só não são suficientes. Leis reforçadas precisam de ser acompanhadas por uma aplicação capaz, de forma a serem eficazes e para que as plataformas sejam responsabilizadas. Além disso, a ONU apela ao apoio psicológico para as vítimas e à educação pública para prevenir estes crimes.

Mas o que é a Inteligência Artificial?

A IA, em termos simples, é uma tecnologia concebida para realizar tarefas e que imita a inteligência humana através da utilização de algoritmos e de conjuntos de dados. Por sua vez, a IA generativa é um subconjunto da Inteligência Artificial que utiliza aprendizagem profunda, recorrendo a modelos linguísticos complexos e de grande dimensão e a enormes conjuntos de dados, não só para realizar uma tarefa, mas também para criar conteúdo original complexo. É o caso de conhecidas ferramentas como o ChatGPT, o Bard, o GitHub Copilot e o AlphaCode e que, de acordo com a OCDE, são utilizadas por milhões de pessoas todos os dias.

Quais são os riscos?

O Observatório Europeu dos Meios de Comunicação Digitais referiu, no seu relatório de janeiro, que se verificou um aumento acentuado da desinformação gerada por IA. "A IA esteve na origem de 16% dos artigos de verificação de factos publicados na Europa em dezembro – um recorde para a região). A criação de imagens falsas tornou-se cada vez mais sofisticada, tornando mais difícil distinguir o que é falso da realidade. Isto significa que as pessoas correm um risco maior de serem enganadas pela desinformação", sublinha a equipa de fact checking da Euranet Plus.

Como se proteger

De acordo com a Euranet, existem passos simples que o leitor de notícias ou o utilizador de redes sociais pode seguir para se proteger e para não ser enganado. Primeiro, é preciso confiar no seu instinto. Por exemplo, se uma imagem ou vídeo parecer bom demais para ser verdade, ou simplesmente parecer estranho – fora de contexto, impossível –, há uma boa hipótese de as suas dúvidas estarem certas. Depois, existem pesquisas simples que qualquer pessoa pode fazer – seja no Google ou na sua pesquisa reversa de imagens – para ter uma ideia melhor se o que viu pode ser notícia falsa.

Além disso, o utilizador de redes sociais e o leitor de notícias deve fazer perguntas. A informação repete-se noutro local? As imagens ou vídeos apresentados estão disponíveis sob diferentes ângulos ou perspetivas? Já foi desmentida por fontes credíveis de verificação de factos ou pela comunicação social? Se quiser aprofundar a investigação, existem extensões de navegador que pode instalar — como o Hiya para áudio e o plug-in InVID para vídeo — que o podem ajudar a determinar se o que está a ver foi gerado por IA.