Pesquisas em teoria dos jogos mostram que a IA pode evoluir para personalidades mais egoístas ou cooperativas

TX, 04/04/2024 

Pesquisadores no Japão desenvolveram efetivamente uma variedade diversificada de traços de personalidade em IA de diálogo, usando um modelo de linguagem em grande escala (LLM, do inglês Large Language Model). Utilizando o dilema do prisioneiro da teoria dos jogos, o Professor Takaya Arita e o Professor Associado Reiji Suzuki da equipe da Escola de Pós-Graduação em Informática da Universidade de Nagoya, criaram uma estrutura para evoluir agentes de IA que imitam o comportamento humano alternando entre ações egoístas e cooperativas, adaptando suas estratégias por meio de processos evolutivos. Seus achados foram publicados na revista Scientific Reports.

IA de Diálogo impulsionada por LLM forma a base para tecnologias como ChatGPT. Essas tecnologias permitem que computadores interajam com pessoas de maneira que se assemelha à comunicação de pessoa para pessoa. O objetivo da equipe da Universidade de Nagoya era examinar como os LLMs poderiam ser usados para evoluir sugestões, que incentivam uma variedade mais diversificada de traços de personalidade durante as interações sociais.

As personalidades das IAs foram evoluídas para obter ganhos virtuais jogando o jogo do dilema do prisioneiro da teoria dos jogos. O dilema consiste em cada jogador escolher cooperar ou trair seu parceiro. Se ambos os sistemas de IA cooperarem, cada um recebe quatro dólares virtuais. No entanto, se um trair enquanto o outro cooperar, o traidor recebe cinco dólares, enquanto o cooperador não recebe nada. Se ambos traírem, eles recebem um dólar cada.

"Neste estudo, investigamos como agentes de IA dotados de diversos traços de personalidade interagem e evoluem," explicou Arita. "Utilizando as notáveis capacidades dos LLMs, desenvolvemos uma estrutura onde agentes de IA evoluem com base em descrições de traços de personalidade codificados em linguagem natural."

"Através dessa estrutura, observamos diversos tipos de traços de personalidade, com a evolução das IAs capazes de alternar entre comportamentos egoístas e cooperativos, espelhando o comportamento humano."

Nos estudos usuais em teoria dos jogos evolutiva, "genes" nos modelos determinam diretamente o comportamento de um agente. Usando os LLMs, Arita e Suzuki exploraram genes que representavam descrições mais complexas do que modelos anteriores, como "estar aberto a esforços em equipe enquanto prioriza o interesse próprio, levando a uma combinação de cooperação e traição." Esta descrição foi então traduzida em uma estratégia comportamental perguntando ao LLM se ele cooperaria ou trairia quando tivesse tal traço de personalidade.

A pesquisa utilizou uma estrutura evolutiva, na qual as habilidades dos agentes de IA foram moldadas por seleção natural e mutação ao longo de gerações. Isso causou uma ampla gama de traços de personalidade emergentes.

Embora alguns agentes apresentassem características egoístas, colocando seus próprios interesses acima dos da comunidade ou do grupo como um todo, outros demonstraram estratégias avançadas que giravam em torno de buscar ganho pessoal enquanto ainda consideravam o benefício mútuo e coletivo.

"Nossos experimentos fornecem insights fascinantes sobre a dinâmica evolutiva de traços de personalidade em agentes de IA. Observamos o surgimento de traços de personalidade tanto cooperativos quanto egoístas dentro das populações de IA, reminiscentes das dinâmicas sociais humanas," disse Suzuki.

"No entanto, também descobrimos a instabilidade inerente nas sociedades de IA, com grupos excessivamente cooperativos sendo substituídos por agentes mais 'egocêntricos'."

"Este feito destaca o potencial transformador dos LLMs na pesquisa de IA, mostrando que a evolução de traços de personalidade com base em expressões linguísticas sutis pode ser representada por um modelo computacional usando LLMs," observou Suzuki.

"Nossos achados fornecem insights sobre as características que os agentes de IA devem possuir para contribuir para a sociedade humana, bem como diretrizes de design para sociedades de IA e sociedades com populações mistas de IA e humanos, que são esperadas para chegar em um futuro não muito distante."

Artigos recomendados: IA e Consciência

Fonte:https://techxplore.com/news/2024-04-game-theory-ai-evolve-selfish.html