Como a tecnologia por trás do ChatGPT pode tornar a leitura mental uma realidade

 

CNNB, 23/05/2023 

Por Donie O'Sullivan 

Em uma manhã de domingo recente, eu me vi em um uniforme mal ajustado, deitado de costas nos limites claustrofóbicos de uma máquina de fMRI em uma instalação de pesquisa em Austin, Texas. "Ah! As coisas que faço para a televisão", pensei.

Qualquer pessoa que tenha feito uma ressonância magnética dirá o quão barulhento é - as correntes elétricas giram criando um poderoso campo magnético que produz varreduras detalhadas do seu cérebro. Nesta ocasião, no entanto, eu mal conseguia ouvir o barulho alto dos ímãs mecânicos, recebi um par de fones de ouvido especializados que começaram a tocar segmentos do audiolivro O Mágico de Oz.

Por que?

Neurocientistas da Universidade do Texas, em Austin, descobriram uma maneira de traduzir varreduras da atividade cerebral em palavras usando a mesma tecnologia de inteligência artificial que alimenta o inovador chatbot ChatGPT.

O avanço pode revolucionar a forma como as pessoas que perderam a capacidade de falar podem se comunicar. É apenas uma aplicação pioneira de IA desenvolvida nos últimos meses, à medida que a tecnologia continua a avançar e parece pronta para tocar todas as partes de nossas vidas e nossa sociedade.

"Então, não gostamos de usar o termo leitura da mente", disse Alexander Huth, professor assistente de neurociência e ciência da computação da Universidade do Texas em Austin. "Achamos que evoca coisas das quais não somos capazes."

Huth se ofereceu para ser um objeto de pesquisa para este estudo, passando mais de 20 horas nos confins de uma máquina de fMRI ouvindo clipes de áudio enquanto a máquina tirava fotos detalhadas de seu cérebro.

Um modelo de inteligência artificial analisou seu cérebro e o áudio que ele estava ouvindo e, com o tempo, acabou sendo capaz de prever as palavras que estava ouvindo apenas observando seu cérebro.

Os pesquisadores usaram o primeiro modelo de linguagem da startup OpenAI, GPT-1, com sede em São Francisco, que foi desenvolvido com um enorme banco de dados de livros e sites. Ao analisar todos esses dados, o modelo aprendeu como as sentenças são construídas – essencialmente como os humanos falam e pensam.

Os pesquisadores treinaram a IA para analisar a atividade do cérebro de Huth e de outros voluntários enquanto ouviam palavras específicas. Eventualmente, a IA aprendeu o suficiente para poder prever o que Huth e outros estavam ouvindo ou assistindo apenas monitorando sua atividade cerebral.

Passei menos de meia hora na máquina e, como esperado, a IA não foi capaz de decodificar que eu estava ouvindo uma parte do audiolivro O Mágico de Oz, que descrevia Dorothy fazendo seu caminho ao longo da estrada de tijolos amarelos.

antes de entrar na máquina de fMRI, o correspondente da CNN Donie O'Sullivan recebeu fones de ouvido especializados para ouvir um audiolivro durante sua varredura cerebral.

Huth ouviu o mesmo áudio, mas como o modelo de IA havia sido treinado em seu cérebro, foi capaz de prever com precisão partes do áudio que ele estava ouvindo.

Embora a tecnologia ainda esteja em sua infância e mostre grande promessa, as limitações podem ser uma fonte de alívio para alguns. A IA ainda não consegue ler facilmente nossas mentes.

"A aplicação potencial real disso é em ajudar as pessoas que são incapazes de se comunicar", explicou Huth.

Ele e outros pesquisadores da UT Austin acreditam que a tecnologia inovadora pode ser usada no futuro por pessoas com síndrome de "trancado", vítimas de AVC e outras cujos cérebros estão funcionando, mas são incapazes de falar.

"A nossa é a primeira demonstração de que podemos obter esse nível de precisão sem cirurgia cerebral. Então, achamos que esse é um passo nesse caminho para realmente ajudar as pessoas que não conseguem falar sem que precisem fazer neurocirurgia", disse ele.

Embora os avanços médicos inovadores sejam, sem dúvida, boas notícias e potencialmente transformem a vida de pacientes que lutam contra doenças debilitantes, também levantam questões sobre como a tecnologia poderia ser aplicada em ambientes controversos.

Poderia ser usado para extrair uma confissão de um prisioneiro? Ou para expor nossos segredos mais profundos e sombrios?

A resposta curta, dizem Huth e seus colegas, é não – não no momento.

Para começar, as varreduras cerebrais precisam ocorrer em uma máquina de fMRI, a tecnologia de IA precisa ser treinada no cérebro de um indivíduo por muitas horas e, de acordo com os pesquisadores do Texas, os indivíduos precisam dar seu consentimento. Se uma pessoa resiste ativamente a ouvir áudio ou pensa em outra coisa, as varreduras cerebrais não serão um sucesso.

"Achamos que os dados cerebrais de todos devem ser mantidos privados", disse Jerry Tang, principal autor de um artigo publicado no início deste mês detalhando as descobertas de sua equipe. "Nossos cérebros são uma espécie de fronteiras finais de nossa privacidade."

Tang explicou: "obviamente, há preocupações de que a tecnologia de decodificação cerebral possa ser usada de maneiras perigosas". Decodificação cerebral é o termo que os pesquisadores preferem usar em vez de leitura da mente.

"Sinto que a leitura mental evoca essa ideia de chegar aos pequenos pensamentos que você não quer deixar escapar, pouco como reações às coisas. E não acho que haja qualquer sugestão de que possamos realmente fazer isso com esse tipo de abordagem", explicou Huth. "O que podemos obter são as grandes ideias em que você está pensando. A história que alguém está contando para você, se você está tentando contar uma história dentro da sua cabeça, nós podemos meio que chegar a isso também."

Na semana passada, os fabricantes de sistemas de IA generativa, incluindo o CEO da OpenAI, Sam Altman, foram ao Capitólio para testemunhar perante um comitê do Senado sobre as preocupações dos legisladores com os riscos representados pela poderosa tecnologia. Altman alertou que o desenvolvimento de IA sem grades de proteção pode "causar danos significativos ao mundo" e pediu aos legisladores que implementem regulamentações para lidar com as preocupações.

Ecoando o aviso da IA, Tang disse à CNN que os legisladores precisam levar a "privacidade mental" a sério para proteger os "dados cerebrais" – nossos pensamentos – dois dos termos mais distópicos que ouvi na era da IA.

Embora a tecnologia no momento só funcione em casos muito limitados, nem sempre é o caso.

"É importante não ter uma falsa sensação de segurança e pensar que as coisas serão assim para sempre", alertou Tang. "A tecnologia pode melhorar e isso pode mudar o quão bem podemos decodificar e mudar se os decodificadores exigem a cooperação de uma pessoa."

Leia o restante em CNN

Artigos recomendados: BCI e ChatGPT

Fonte:https://amp.cnn.com/cnn/2023/05/23/tech/chatgpt-mind-reading/index.html