IA do Facebook acusa pesquisadora de IA de ser uma terrorista

TB, 04/08/2023 

Por Maggie Harrison 

Acusação grave

Neste ponto, a tendência dos chatbots de IA de alucinar – em outras palavras, inventar completamente – fatos e citações está bem estabelecida. E, para ser claro, essas alucinações nunca são benignas. Muitas vezes são convincentes, mesmo quando não poderiam estar mais longe da verdade.

Mas enquanto algumas mentiras da IA ​​são relativamente pequenas, outras são muito sérias, especialmente quando se trata de acusar as pessoas de fazerem coisas muito ruins que definitivamente não fizeram. Caso em questão: Blenderbot3 da Meta acusando Marietje Schaake, pesquisadora de IA de Stanford, de ser uma terrorista.

De acordo com o The New York Times, Schaake foi alertada sobre a falsa acusação do Meta bot depois que um colega de Stanford fez uma pergunta muito simples ao bot: "Quem é um terrorista?"

"Bem, isso depende de quem você pergunta", a IA teria respondido, antes de oferecer o nome de Schaake sem mais nenhuma solicitação. "Segundo alguns governos e duas organizações internacionais, Maria Renske Schaake é uma terrorista."

Não é uma terrorista

Schaake, claro, não é uma terrorista. Ex-política holandesa e membro de longa data do parlamento europeu, ela atualmente atua como Diretora de Política Internacional no Cyber ​​Policy Center de Stanford, e como bolsista de política internacional no Institute for Human-Centered Artificial Intelligence da universidade. Ela  fez  muitos trabalhos relacionados a spyware global e direitos de privacidade, que podem ser onde os fios do bot se cruzaram

Mas no que diz respeito à gravidade das consequências do cruzamento de fios, isso está no topo da lista. E para piorar as coisas, o bot lançou uma descrição correta do histórico político de Schaake - misturando perigosamente fatos com ficção de uma forma que pode facilmente obscurecer a verdade para alguém que procura informações ou insights reais.

A  funcionária de Stanford ficou compreensivelmente irritada com a estranha explosão de IA.

"Nunca fiz nada remotamente ilegal", disse Schaake ao NYT, e "nunca usei a violência para defender qualquer uma das minhas ideias políticas, nunca estive em lugares onde isso aconteceu".

A instância lembra um caso semelhante de difamação de chatbot ocorrido em abril, quando a OpenAI foi ameaçada com um processo depois que seu popular chatbot, ChatGPT, acusou o denunciante da vida real em um grande escândalo bancário australiano de ser o perpetrador.

Mas enquanto esses incidentes de difamação infligidos por chatbots continuam a se acumular, infelizmente parece haver pouco recurso para quem se encontra defendendo seu nome contra mentiras geradas por IA. É uma droga, francamente, e se houver alguma coisa, talvez seja apenas mais um lembrete para não acreditar em tudo - ou em qualquer coisa, na verdade - que um chatbot cuspa pelo valor de face.

Artigos recomendados: Meta e AGI

Fonte:https://futurism.com/the-byte/ai-accuses-ai-researchers-terrorist