Estudo revela que IA pode desenvolver normas sociais semelhantes às humanas

Um estudo conduzido por investigadores do City St George’s, Universidade de Londres, e da IT Universidade de Copenhaga revelou que agentes de inteligência artificial baseados em grandes modelos de linguagem (LLM), como o ChatGPT, conseguem desenvolver espontaneamente convenções sociais e linguísticas, de forma semelhante ao comportamento humano em grupo. A notícia é avançada pelo "Guardian".

Já segue a Informação da Renascença no WhatsApp? É só clicar aqui.

Segundo Ariel Flint Ashery, investigador doutoral e autor principal do estudo, este trabalho contraria a maioria das investigações na área da inteligência artificial, que tendem a tratar os modelos de linguagem como entidades isoladas.

“Queríamos saber: estes modelos conseguem coordenar-se através de convenções, os alicerces de uma sociedade? A resposta é sim”, disse.

Na experiência, grupos de 24 a 100 agentes de IA foram organizados em pares aleatórios para escolher um "nome" (uma letra ou sequência de caracteres) a partir de um conjunto de opções. Recebiam uma recompensa se escolhessem o mesmo nome e uma penalização caso as escolhas divergissem — sendo neste caso reveladas as opções de ambos.

Apesar de os agentes não saberem que pertenciam a um grupo maior e de terem memórias limitadas às suas interações recentes, surgiu uma convenção partilhada para nomeação dentro da população. Esta dinâmica imitou a forma como os seres humanos constroem normas de comunicação culturalmente.

Andrea Baronchelli, professor de ciência da complexidade e co-autor do estudo, comparou o fenómeno à criação de novos termos na linguagem comum. “Os agentes não estão a copiar um líder. Cada interação é uma tentativa individual de chegar a um acordo sobre uma designação, sem uma visão global”, explicou.

“É como o termo ‘spam’. Ninguém o definiu formalmente, mas tornou-se universal através da repetição.”

O estudo identificou ainda o aparecimento de tendências colectivas e enviesamentos que não podiam ser atribuídos a agentes individuais.

Baronchelli defende que este trabalho abre novas possibilidades para a investigação em segurança da inteligência artificial.

“Estamos a entrar num mundo onde a IA não apenas comunica — ela negocia, alinha-se e, por vezes, discorda sobre comportamentos partilhados, tal como nós”, concluiu.