Neurocientista adverte que as IAs da geração atual são sociopatas

TB, 14/01/2023 

Por Victor Tangermann 

Uma ideia sombria 

IA sociopata

Sem consciência, o neurocientista de Princeton Michael Graziano adverte em um novo ensaio publicado pelo The Wall Street Journal, os chatbots movidos a inteligência artificial estão condenados a serem sociopatas perigosos que podem representar um perigo real para os seres humanos.

Com o surgimento de chatbots como o ChatGPT, sistemas poderosos que podem imitar a mente humana em um grau impressionante, as ferramentas de IA tornaram-se mais acessíveis do que nunca. Mas esses algoritmos mentirão sobre qualquer coisa que se adapte ao seu propósito. Para alinhá-los com nossos valores, pensa Graziano, eles vão precisar de consciência.

“A consciência faz parte do kit de ferramentas que a evolução nos deu para nos tornar uma espécie empática e pró-social”, escreve Graziano. "Sem isso, seríamos necessariamente sociopatas, porque não teríamos as ferramentas para um comportamento pró-social."

Máquina Empática

Claro, o ChatGPT não está prestes a pular da tela e matar alguém. Mas dar cada vez mais especificações à inteligência artificial pode ter consequências muito reais, das quais devemos ter cuidado em um futuro não tão distante.

Para torná-los mais dóceis, no pensamento de Graziano, devemos permitir que eles percebam que o mundo está cheio de outras mentes que não as suas.

Porém, há um problema: não temos uma maneira eficaz de saber se uma IA é consciente ou não. Na verdade, filosoficamente, é difícil até mesmo determinar se outras pessoas estão conscientes.

"Se queremos saber se um computador é consciente, precisamos testar se o computador entende como as mentes conscientes interagem", argumenta Graziano. "Em outras palavras, precisamos de um teste de Turing reverso: vamos ver se o computador pode dizer se está falando com um humano ou outro computador."

Se não conseguirmos resolver essas questões complicadas, ele teme que possamos enfrentar consequências terríveis.

“Uma máquina sociopata que pode tomar decisões consequentes seria extremamente perigosa”, escreveu ele. "Por enquanto, os chatbots ainda são limitados em suas habilidades; eles são essencialmente brinquedos. Mas se não pensarmos mais profundamente sobre a consciência da máquina, em um ano ou cinco anos poderemos enfrentar uma crise."

Artigos recomendados: IA e Comportamento

Fonte:https://futurism.com/the-byte/neuroscientist-current-generation-ais-sociopaths