Como o cientista Carlos Fiolhais lê a encíclica do Papa sobre IA: "Eu acredito na magnífica humanidade"

O físico Carlos Fiolhais não tem dúvidas: “A humanidade pode ser magnífica, é essa a esperança que está expressa" na primeira encíclica do Papa Leão XIV (Magnificas humanitas), dedicada à Inteligência Artificial (IA).

Em entrevista à Renascença, este homem da ciência começa por sublinhar que, sem demonizar a Inteligência Artificial, o Papa está a pronunciar-se, no tempo certo, sobre os desafios da automatização, "colocando a esperança no humano”.

Carlos Fiolhais, em entrevista à Renascença, aponta inúmeros exemplos que também o inquietam: “Nós achamos que o trabalho é um valor, que o trabalho dignifica o homem, mas tudo leva a crer que vamos trabalhar menos com estas novas possibilidades. E isso, digamos, significa uma transformação social grande”.

Já segue a Informação da Renascença no WhatsApp? É só clicar aqui

Perante os novos desafios, o cientista lembra, contudo, que o ser humano tem “uma consciência que lhe confere o livre-arbítrio, o poder de decisão e a identidade, que as máquinas não têm de maneira nenhuma”.

É neste pressuposto que o físico Carlos Fiolhais avança para mais dois exemplos de tarefas que não deverão nunca ser entregues exclusivamente à inteligência artificial.

“Eu duvido que as máquinas, por muitos registos de tribunal que possam apreender, consigam tomar decisões humanas. E quem diz isso diz também decisões médicas. As máquinas podem saber muito da medicina, mas afinal não sabem nada de medicina, porque medicina tem a ver com empatia, tem a ver com solidariedade, com proximidade, portanto não basta um médico saber muito, é preciso também que ele seja um homem bom.”

Sei que já leu a “Magnifica humanitas”. Enquanto cientista, que importância atribui a esta encíclica?

A Igreja está atenta aos grandes problemas do mundo, e da mesma maneira que se pronunciou em tempo oportuno, no caso das alterações climáticas, está a pronunciar-se também agora em tempo oportuno sobre um outro grande desafio da humanidade, que é o desafio da automatização, por exemplo, de um discurso poder feito de maneira automática.

E o Papa, não demonizando a inteligência artificial, chama a atenção para os seus perigos. E olhando para a encíclica, os perigos podem ser sumariados desta maneira: Primeiro, digamos, a verdade, o prejuízo que pode haver para a verdade, agora que confundimos o real com a ilusão, com o virtual, com a mentira. Isto é um dos grandes problemas, talvez o maior, da inteligência artificial.

Outro [perigo] é a liberdade, porque estes instrumentos condicionam-nos e podem agravar desigualdades, podem-se criar tensões no mundo. E outro (risco) é a questão do trabalho. Nós achamos que o trabalho é um valor, que o trabalho dignifica o homem, mas tudo leva a crer que vamos trabalhar menos com estas novas possibilidades. E isso, digamos, significa uma transformação social grande.

E esta encíclica surge numa altura em que já toda a gente utiliza a Inteligência Artificial, ou quase toda a gente, mas ninguém tem parado para pensar…

Sim, cada vez abdicamos mais da nossa capacidade de pensar e, ao fazer isto, estamos a abdicar da humanidade. Aliás, este Papa já tinha dito, por exemplo, que os padres não deviam usar coisas como o Chat GPT para escrever as homilias…porque faltava-lhes, digamos, o lado humano, o lado espiritual. E, portanto, é transposta para a prática da igreja uma recomendação que pode ser genérica: há coisas que servem para otimizar, para melhorar a nossa vida, e há outras coisas que são nossas, e talvez esta revolução que estamos a viver nos ajude a identificar aquilo que é genuinamente, autenticamente humano.

Por exemplo, temos um corpo - o Papa também diz isso - e o nosso corpo não pode ser substituído por um maquinismo; temos, por exemplo, interações sociais, somos uma sociedade e as máquinas não vivem em sociedade, não têm uma civilização. E acima de tudo, temos uma consciência. Quer dizer, (a consciência) é uma coisa que nós nem sabemos bem o que é, mas que nos confere o livre-arbítrio, o poder de decisão, a identidade, e que as máquinas não têm de maneira nenhuma.

“A humanidade pode ser magnífica, é essa a esperança que está expressa neste documento”

Nós não conseguimos transplantar isso para as máquinas e, portanto, é algo que é radicalmente humano. E o Papa (nesta encíclica) coloca a esperança no humano. A palavra “Magnífica” que está logo no título da encíclica, eu acho que é um grito de esperança. Quer dizer, eu não sei se a humanidade é magnífica, às vezes parece que não é, mas oxalá seja, queremos que seja mais. A humanidade pode ser magnífica, é essa a esperança que está expressa neste documento.

Do ponto de vista ético, que tarefas é que nunca deveriam ser entregues exclusivamente à inteligência artificial?

Há uma que é muito concreta, que é apontada pelo Papa quando ele fala em desarmar a Inteligência Artificial. É que hoje a IA é usada para fazer armas. Há armas automáticas, quer dizer, já não é preciso, num cenário de guerra ou fora dele, que haja o comando de um humano para matar alguém. Ora bem, se matar alguém é um crime, é algo que nós condenamos, imagine quando esse poder é dado a máquinas. Isso devia ser pura e simplesmente proibido. Mas poderia falar de mais coisas.

“As máquinas podem saber muito da medicina, mas afinal não sabem nada de medicina, porque medicina tem a ver com empatia (…) não basta um médico saber muito, é preciso também que ele seja um homem bom”

Por exemplo, quando estamos a falar de decisões que têm a ver com os tribunais, em que a vida humana está em jogo, a liberdade humana. Um juiz, ao longo da sua vida, ao longo da sua carreira, ao longo da sua experiência, acumula humanidade, ele sabe, digamos, o que é ser humano.

Eu duvido que as máquinas, por muitos registos de tribunal que possam apreender, consigam tomar decisões humanas. E quem diz isso diz também decisões médicas. Quer dizer, as máquinas podem saber muito da medicina, mas afinal não sabem nada de medicina, porque medicina tem a ver com empatia, tem a ver com solidariedade, com proximidade, portanto não basta um médico saber muito, é preciso também que ele seja um homem bom.

Isso também se aplica ao emprego? Diz-se que a Inteligência Artificial está a criar uma forma de exploração laboral escondida, através da ideia de progresso …

Bem, quando as máquinas começaram - e começaram na Revolução Industrial - já havia pessoas a recear que as máquinas lhes tirassem o emprego. E, de facto, as máquinas, sejam mecânicas, elétricas, eletrónicas, sempre foram acabando com alguns empregos. Mas o que vimos ao longo da história é que houve novos empregos que apareceram e esses novos empregos foram, para pessoas mais qualificadas. Por outras palavras, aquilo que chamamos o progresso científico-tecnológico conduz a uma maior necessidade de formação, a mais tempo na escola. Agora nós não sabemos o que vai acontecer, mas provavelmente estamos em face de uma transformação maior…provavelmente, agora, vai mesmo ser necessário reduzir o tempo de trabalho, mas eu não sou tão pessimista como outras pessoas, porque olho à minha volta e vejo tanta gente a queixar-se de excesso de trabalho… Se pudéssemos trabalhar um bocadinho menos, garantindo a nossa subsistência, quer dizer, não diminuindo o rendimento que temos, mas aliviando a carga de trabalho, eu acho que teríamos a contribuir para uma vida mais humana.

Perguntei ao Chats GPT se tem preocupações éticas ou morais nas soluções que aponta. E a resposta que ele me deu foi: “não tenho consciência moral própria, não tenho preocupações no sentido humano, não sinto inquietação ética, mas as respostas que dou são orientadas por critérios éticos”. Critérios de quem?

Bem, logo à partida, aquilo é uma cópia da humanidade no seguinte sentido: é treinado. São algoritmos que se treinam, aprendem, e aprendem com base nos nossos discursos. Portanto aquilo tem lá, digamos, o nosso registo, o nosso repertório.

E, portanto, esses sistemas, até para terem clientes, têm de obedecer a regras que são regras próprias da humanidade.

Agora, evidentemente, isso não está completamente assegurado, quer dizer, esse casamento das regras com os algoritmos terá de ser aperfeiçoado e melhorado da prática. Eu percebo a pergunta quando penso assim, as empresas querem vender mais e, portanto, podem, a certa altura, correr riscos e riscos que põem em perigo a dignidade humana. Vou ser otimista, é verdade que elas querem vender mais, é verdade que nós somos os clientes, mas eu acredito, lá está, na magnífica humanidade.