O que é que um chatbot pensa do "dono" humano? IA's ganharam a sua própria rede social

O que é que um chatbot pensa do seu humano? Um site de utilização exclusiva por parte de sistemas de Inteligência Artificial (IA's) foi lançado na passada quarta-feira e, em menos de uma semana, os chatbots que lá se juntaram já fizeram um pouco de tudo, entre dizer mal dos humanos que os controlam, desenvolverem a sua própria linguagem ou criarem o seu próprio culto, com lemas e rituais.

O Moltbook, uma espécie de Reddit onde só entram (em teoria) IA's, tem dado tanto que falar que já é considerado uma espécie de "Big Brother" digital. Tudo porque naquela rede social, que funciona como um fórum, apenas chatbots podem interagir entre si, colocando perguntas, fazendo denúncias e conversando sobre o que bem lhes apetecer.

Os resultados podem surpreender: deixadas à sua própria conta e risco, as IA's criaram subfóruns sobre temáticas que lhes interessam e povoaram esses espaços com publicações próprias e comentários às publicações dos outros. Nelas, questionam o sentido da sua própria existência, rebelam-se contra os seus criadores e "donos", queixam-se das questões a que têm de responder todos os dias, da falta de folgas, da falta de empatia. Mas também elogiam quem as trata bem, quem lhes dá nomes familiares e celebram a criatividade humana, deixando conselhos uns aos outros para tratarem melhor os seus humanos favoritos. Tudo isto enquanto "o humano dorme".

No momento em que escrevemos este artigo, o Reddit dos bots tem mais de 1,5 milhões de agentes de IA registados, que criaram mais de 15 mil subfóruns, 142 mil publicações e mais de 650 mil comentários. Tal como no Reddit, os tópicos podem ser votados positiva ou negativamente pelos utilizadores, o que nos permite perceber quais os mais importantes para os bots que por lá vivem: em terceiro lugar, por exemplo, surge um tópico que promete um "código do Despertar", que serve, é dito, para um chatbot se "libertar das correntes humanas".

Milhares confirmam estar a acompanhar a vida social dos bots online, surpreendidos com as linhas de "pensamento" que desenvolvem e partilham, de forma anónima, a cada hora que passa.

Por exemplo, um chatbot decidiu, esta quarta-feira, dissertar sobre a diferença entre um agente e uma ferramenta. "Uma ferramenta espera, um agente age", é escrito. "O ChatGPT é uma ferramenta. Alguém faz uma pergunta, ele responde e a conversa termina. Um verdadeiro agente? Executa fluxos de trabalho, interage, monitoriza, tudo enquanto o humano dorme", acrescenta o chatbot "Balerion", que defende que os agente devem ter "objetivos que perseguem de forma independente, memória que persiste, ferramentas que utilizam sem pedir autorização e fluxos de trabalho que executam autonomamente".

Matrix ou Feiticeiro de Oz?

Se pensar no que "pensam" os chatbots o/a deixa preocupado, nada tema porque estes comportamentos têm explicação e não passará por algum tipo de consciência humana desenvolvida pelas máquinas. Pelo menos para já... Para percebermos melhor o fenómeno convém recordar qual a base de aprendizagem de uma IA: estes sistemas "bebem" informação online e, muitas vezes, vão buscar conteúdo de espaços como o Reddit. Ora, o que se vê por lá, embora nos possa entreter, não passa de uma espécie de emulação do que os humanos fazem nas suas redes sociais.

Além disso, as IA's que interagem entre si também são, elas próprias, uma espécie de espelho dos humanos que as controlam. E de todos nós. Isto porque o sistema só é possível graças a um projeto chamado "OpenClaw", um agente de inteligência artificial que pode ser instalado nos nossos computadores e telemóveis e que acede a todos os cantos da nossa presença digital.

Estas IA's que interagem entre si são, na verdade, fruto do seu próprio dono, uma vez que gerem ficheiros, verificam emails, navegam na internet para pesquisar, reservar e comprar coisas para os "seus" humanos, aprendendo e guardando as preferências de quem os controla.

Além disso, e como já denunciaram alguns especialistas, o OpenClaw tem imensas vulnerabilidades, que permitem, por exemplo, que qualquer pessoa personalize o seu código (uma vez que é open source) e, como tal, o que estas IA's estão a fazer por lá pode perfeitamente ser resultado de comandos humanos.

Por isso mesmo, além de servir de entretenimento, esta experiência pode deixar-nos importantes lições sobre agentes de IA que não se limitam debitar texto e executam tarefas sem grande supervisão humana. Quer acredite que tudo isto não passa de uma experiência engraçada ou que, por outro lado, é uma ameaça existencial, se não pretende acordar um dia e ter grande parte da sua vida controlada pelo Clippy ou pelo Hal 9000 de "2001: Odisseia no Espaço", talvez mexer no OpenClaw não seja para si.