Inteligência artificial. “As deepfakes controlam-se, por exemplo, através do chamado chat control"

Como controlar os conteúdos ofensivos que circulam na internet com recurso à inteligência artificial? Como proteger as democracias e o Estado de direito nesta rede, cada vez maior, de fake news? Em entrevista à Renascença, o eurodeputado Paulo Cunha admite que “o recurso à inteligência artificial poderá pôr em causa modelos de governação de carácter democrático, como são aqueles prevalecentes ao nível da União Europeia, mas também o próprio Estado de direito. Ou seja, pode haver questões de soberania que são afetadas pelo recurso à inteligência artificial”.

E pelo meio deste imenso, e novo, vocabulário do mundo digital há uma outra fonte de preocupação resumida numa palavra: Deepfake - Ficheiros de vídeo, imagem ou voz manipulados usando Inteligência Artificial, com o intuito de fazer com que o conteúdo falso pareça autêntico. Todos já vimos e, por vezes, até achamos graça…, mas só quando não nos afeta. O problema destas falsas realidades é esse mesmo. Se é a minha imagem, a minha voz, e apareço com a minha roupa, era suposto que fosse realmente eu. Mas não, posso não ser. E tudo se complica ainda mais quando as novas ameaças digitais afetam diretamente as crianças, ou as populações mais vulneráveis.

Como explica Paulo Cunha, uma das fórmulas para combater este tipo de conteúdos é o chat control. “Significa uma coisa muito simples: é a necessidade de se vigiar, de se monitorizar as comunicações, para termos a certeza de que não há conteúdos ofensivos e que ponham em causa direitos, nomeadamente em relação às crianças. Há, infelizmente, a circular muitos conteúdos de cariz sexual, outros de violência, e que expõem populações mais frágeis, nomeadamente as crianças”.

O Parlamento Europeu vota em março a adesão ao primeiro tratado internacional sobre inteligência artificial. Que tratado é esse e o que está em causa?

Bom, antes de mais o que está em causa é o tratado do Conselho da Europa. O que está em discussão na União Europeia é a adesão a esse tratado. Ou seja, se for aprovado em plenário, o que vai acontecer é que os 27 países da União Europeia vão aderir, através da União, a um tratado que foi elaborado no Conselho da Europa.

Como disse bem, já outros países aderiram...incluindo os Estados Unidos e o Reino Unido. É um tratado vinculativo, é o primeiro tratado de âmbito multilateral com carácter vinculativo e traz um conjunto de obrigações a respeitar pelos Estados signatários, e por todos que venham a aderir.

O objetivo é que cada vez mais países adiram a esse tratado porque quanto maior for o número de países aderentes, maior será o grau universal de vinculação.

Quando a União Europeia aderir, o que é que isto nos vai trazer?

Bom, o tema do próprio tratado reporta-se à inteligência artificial, mas também refere os direitos fundamentais à democracia e ao Estado-direito. Ou seja, o grande objetivo do tratado é compaginar a evolução da inteligência artificial com a sua afetação do ponto de vista pessoal...a questão das chamadas "deepfakes", que são conteúdos que são ofensivos para as pessoas e que circulam na internet com recurso a mecanismos de inteligência artificial, mas também a proteção de democracias e do Estado-direito.

E porquê? Porque o recurso à inteligência artificial poderá pôr em causa modelos de governação de carácter democrático, como são aqueles prevalecentes ao nível da União Europeia, mas também o próprio Estado de direito. Ou seja, pode haver questões de soberania que são afetadas pelo recurso à inteligência artificial.

De que forma é que se vai atuar nesse combate tanto às "deepfakes", como para garantir os processos democráticos?

As "deepfakes" controlam-se, por exemplo, através do chamado "chat control", que é um tema que já tem sido objeto de intervenção, até a nível nacional. O governo português está já com esse dossier em mãos.

O "chat control" significa uma coisa muito simples: é a necessidade de se vigiar, de se monitorizar as comunicações, para termos a certeza de que não há conteúdos ofensivos e que ponham em causa direitos, nomeadamente em relação às crianças. Há, infelizmente, a circular muitos conteúdos de cariz sexual, outros de violência, e que expõem populações mais frágeis, nomeadamente as crianças.

E é preciso um processo de monitorização...a criação, nomeadamente, de algoritmos e outras ferramentas que permitam detetar esses conteúdos e filtrá-los. Ou seja, o grande objetivo é que esses conteúdos fiquem banidos, que esses conteúdos não possam circular.

Ao mesmo tempo, e para garantir a integridade dos processos democráticos, haverá um processo semelhante em relação às mentiras que circulam constantemente, nomeadamente nas redes sociais?

A grande ferramenta para combater a mentira não é tecnológica. É a educação, é o empoderamento das pessoas, a capacitação dos cidadãos para questionarem as informações que lhes chegam, seja pela televisão, por um telefone ou por recurso a outras plataformas.

Só com cidadãos empoderados e bem informados é que poderemos combater eficazmente essa circunstância.

Ou seja, não será fácil de combater porque as pessoas não se interessam muito por isso...consomem, bebem a informação que lhes chega, e não se preocupam muitas vezes em saber de onde é que vem essa "informação"...

Isso é um problema clássico. Se a pessoa não quiser ser protegida é muito difícil protegê-la e os Estados têm essa dificuldade.

Mas não há nenhuma forma, eventualmente através dos algoritmos de que me falou para as informações de conteúdo sexual? Não haverá nenhuma forma de se fazer esse combate, também por essa via?

Há uma forma de mitigar o processo e de minorar as consequências, mas nunca de evitar. Porque há a chamada "darknet", a zona escura. Há a indicação de que cerca de 60% da atividade tecnológica acontece nessa zona sombria, nessa zona não regulada, nessa zona onde não se consegue aceder.

Nós temos de ter a noção de que estamos a falar de uma realidade que não é física, não é palpável, não é mensurável. E, portanto, torna-se mais difícil, para o regulador e para o legislador, intervir eficazmente.

O grande desafio no futuro próximo é que os Estados tenham mecanismos que consigam garantir uma maior responsabilidade dos operadores (de telecomunicações), em relação a estas matérias.

Estava aqui a pensar nesse combate à mentira, às fake news, etc - de que me estava a falar - e, ao mesmo tempo, que os Estados Unidos já são signatários deste tratado. A verdade é que vemos, por vezes, o próprio presidente dos Estados Unidos a avançar notícias falsas...

Deixe-me dizer, antes de mais, que há uma grande diferença entre os Estados Unidos e Donald Trump. Felizmente são situações diferentes. Uma realidade é a população americana, e é a governação americana que vai muito além da circunstância temporal que vivemos há cerca de um ano, e que esperemos termine daqui a três, de uma liderança americana que é muito disruptiva em relação àquilo que é o padrão de liderança americana no passado.

Quero também dizer-lhe que esta convenção não é uma panaceia, não tem lá as soluções que nós desejávamos tipo "chave na mão".

Esta convenção sinaliza um princípio de responsabilização dos Estados signatários. O que resulta dela é uma obrigação para cada um dos signatários, no caso a União Europeia, os americanos, o Reino Unido...e outros que nós desejámos que venham a aderir. Aliás a adesão da União Europeia poderá ter com efeito muito relevante: servir de mecanismo indutor para a adesão de outros países a esta convenção. Quanto mais países aderirem, maior será a sua eficácia por uma razão simples: os países que não aderiram não estão vinculados a estes objetivos. E hoje aquilo que se faz do ponto de vista tecnológico, quanto mais global, mais eficaz é. A Europa não pode ser uma ilha tecnológica, nem os Estados Unidos. Se o Brasil, Argentina, Índia, Paquistão, China aderirem...se outros países não aderirem, o que vai acontecer é o mesmo que acontece, por exemplo, nas questões ambientais. Teremos um conjunto de países a proteger e o conjunto de países a desrespeitar. E isso parece uma lógica de compensação. É um caminho que se tem de fazer.

Esse caminho, pelo que me está a dizer, permitirá apertar o cerco. Quer às "deepfakes", quer a outras situações do género...

Sim, isso mesmo. Permita-me também dizer que ajudará a responsabilizar mais os operadores (de telecomunicações). Se aqueles que operam na União Europeia tiverem de cumprir um conjunto de regras a nível europeu, isso pode induzi-los a que o façam também noutras latitudes, noutros países.

É um contexto de oportunidade para que nós possamos induzir esses operadores a terem uma atitude distinta e que essa diferença de atitude possa significar uma maior proteção dos cidadãos.

Acha avisado os líderes europeus continuarem a fazer os grandes anúncios pelas redes sociais? Que o façam, por exemplo, através da rede social X, em vez de se dirigirem diretamente aos meios de comunicação tradicionais?

Eu percebo o âmbito da sua questão e a preocupação que lhe está subjacente, mas é inevitável.

Não é inevitável que os políticos não se sujeitem ao escrutínio dos jornalistas...

Seguramente que sim. Eu queria dizer é que nós não conseguimos parar o vento com as mãos, por muito força que tenhamos.

Mas a pergunta que eu lhe queria fazer é esta: sugere aos líderes políticos, neste caso líderes políticos europeus, que façam menos os grandes anúncios através das redes sociais e mais presencialmente, através de meios de comunicação social tradicionais?

Eu acho que nós o devemos continuar a fazer das várias formas possíveis. O que eu queria dizer-lhe - e esse é o âmbito da minha intervenção inicial - é que o facto de existir uma rede social X, ou a Truth, que Donald Trump instituiu, ou outra qualquer, isso não impede que nós continuemos a usar os meios convencionais para chegarmos às populações.

O que eu acho que faz todo sentido é que todas as plataformas sejam usadas com esse propósito. E se o fizermos, se não houver uma opção pelas plataformas tecnológicas em deterimento das plataformas ou dos métodos convencionais - como disse bem - que é o recurso à comunicação social e aos jornalistas...

É que os jornalistas também têm uma vantagem nessa matéria, entre muitas outras, como é óbvio: questionam aquilo que está a ser anunciado. Isso permite uma maior filtragem à comunicação do próprio político. Numa declaração que é feita aos jornalistas, o que é mais comum é que os jornalistas possam retorquir, colocar questões laterais. Isso permitirá um esclarecimento mais enxuto da comunidade em relação àquilo que está a ser comunicado.

Este conteúdo é feito no âmbito da parceria Renascença/Euranet Plus – Rede Europeia de Rádios. Veja todos os conteúdos Renascença/Euranet Plus