VB, 25/02/2024
Por Gary Grossman
A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.
Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.
Atualmente, as pessoas podem interagir com chatbots que refletem os pontos de vista de figuras que vão de Marcus Aurelius a Martin Luther King Jr., usando o aplicativo "Hello History", ou de George Washington e Albert Einstein através do "Text with History". Esses aplicativos afirmam ajudar as pessoas a entender melhor eventos históricos ou "apenas se divertir conversando com seus personagens históricos favoritos".
Da mesma forma, uma exposição de Vincent van Gogh no Musée d'Orsay, em Paris, inclui uma versão digital do artista e oferece aos espectadores a oportunidade de interagir com sua persona. Os visitantes podem fazer perguntas e o chatbot Vincent responde com base em um conjunto de dados de treinamento com mais de 800 de suas cartas. A Forbes discute outros exemplos, incluindo uma experiência interativa em um museu da Segunda Guerra Mundial que permite aos visitantes conversar com versões de IA de veteranos militares.
O preocupante aumento dos deepfakes
É claro que esta tecnologia também pode ser usada para clonar tanto figuras públicas históricas quanto atuais, com outras intenções em mente, e de formas que levantam preocupações éticas. Estou me referindo aqui aos deepfakes que estão cada vez mais se proliferando, tornando difícil separar o real do falso e a verdade da mentira, como observado no exemplo do clone do Biden.
A tecnologia de deepfake usa a IA para criar ou manipular imagens estáticas, vídeos e conteúdo de áudio, tornando possível trocar rostos de forma convincente, sintetizar fala, fabricar ou alterar ações em vídeos. Esta tecnologia mistura e edita dados de imagens e vídeos reais para produzir criações que parecem e soam realistas, e que são cada vez mais difíceis de distinguir de conteúdo autêntico.
Embora haja usos educacionais e de entretenimento legítimos para essas tecnologias, elas estão sendo cada vez mais usadas para fins menos sanguinários. Preocupações surgem sobre o potencial de deepfakes gerados por IA, que impersonam figuras conhecidas para manipular a opinião pública e potencialmente alterar eleições.
O surgimento dos deepfakes políticos
Apenas neste mês, houve histórias sobre o uso de IA para tais propósitos. Imran Khan, ex-primeiro-ministro do Paquistão, efetivamente fez campanha na prisão através de discursos criados com IA para clonar sua voz. Isso foi eficaz, já que o partido de Khan se saiu surpreendentemente bem em uma eleição recente.
Como escrito no The New York Times: "'Eu tinha total confiança de que todos vocês sairiam para votar. Vocês cumpriram minha fé em vocês, e sua participação maciça surpreendeu a todos,' disse a voz suave, ligeiramente robótica, no vídeo de um minuto, que usava imagens históricas e filmagens de Khan e trazia um aviso sobre suas origens de IA."
Este não foi o único exemplo recente. Um partido político na Indonésia criou um vídeo deepfake gerado por IA do ex-presidente Suharto, que faleceu em 2008. No vídeo, o falso Suharto encoraja as pessoas a votarem em um ex-general do exército que fazia parte de seu regime apoiado pelos militares. Como relatado pela CNN, este vídeo, lançado apenas semanas antes da eleição, tinha o objetivo de influenciar os eleitores. E funcionou, recebendo 5 milhões de visualizações. O ex-general acabou vencendo a eleição.
Táticas semelhantes estão sendo usadas na Índia. A Al Jazeera relatou que um ícone do cinema e da política, M. Karunanidhi, apareceu recentemente diante de uma plateia ao vivo em uma grande tela projetada. Karunanidhi deu um discurso no qual estava "efusivo em seus elogios à liderança habilidosa de M.K. Stalin, seu filho e o líder atual do estado." Karunanidhi morreu em 2018, mas esta foi a terceira vez nos últimos seis meses que ele "apareceu" via IA para tais eventos públicos.
Agora está claro que a era dos deepfakes alimentados por IA na política, que foi temida há vários anos, chegou totalmente.
Imaginando o surgimento de candidatos políticos "artificiais"
Técnicas como as usadas na tecnologia de deepfake produzem representações digitais altamente realistas e interativas de personagens fictícios ou da vida real. Esses desenvolvimentos tornam tecnicamente possível simular conversas com figuras históricas ou criar personas digitais realistas com base em seus registros públicos, discursos e escritos.
Uma possível nova aplicação é que alguém (ou algum grupo) apresentará uma persona digital criada por IA para um cargo público. Especificamente, um chatbot suportado por imagens, áudio e vídeo criados por IA. "Absurdo", você diz? Claro. Ridículo? Bastante possivelmente. Plausível? Completamente. Afinal, eles já servem como terapeutas, namorados e namoradas.
Há várias barreiras para essa ideia, não menos importante das quais é que um candidato legítimo ao Congresso ou mesmo a um conselho municipal local deve ser uma pessoa real. Como tal, um chatbot não pode se registrar como candidato, nem pode se registrar para votar.
No entanto, e se uma campanha escrita conduzisse a um chatbot de persona digital recebendo mais votos do que qualquer candidato na cédula? Isso parece implausível, mas é possível. Como isso é puramente hipotético, podemos imaginar um cenário imaginário.
Vai querer leite?
Para fins de discussão, suponha que "Milkbot" seja um candidato de voto por inscrição em uma futura eleição para prefeito de São Francisco. Milkbot usa um modelo de linguagem grande de código aberto (LLM) que é treinado nos escritos, discursos, vídeos e postagens sociais de Harvey Milk, o falecido ex-membro da Junta de Supervisores de São Francisco. O conjunto de dados pode ser ainda mais aumentado com conteúdo daqueles que tinham ou têm pontos de vista similares.
Milkbot pode fazer discursos que seus promotores ajudam a moldar, criar vídeo e áudio gerado por IA e postar em várias plataformas sociais. Milkbot também é capaz de "responder" perguntas para o público assim como Vincent van Gogh, e à medida que sua popularidade cresce, responder perguntas da imprensa. Devido à novidade, ou porque nenhum candidato real captura a imaginação pública na eleição, o ímpeto cresce para o esforço eleitoral para prefeito de Milkbot.
O bot então recebe mais votos através da campanha de voto por inscrição do que qualquer candidato na cédula. É possível que o voto seja simbólico, equivalente a "nenhum dos anteriores", mas pode ser que o resultado seja o que o público eleitoral desejava. O que acontece então?
Provavelmente, o resultado seria simplesmente considerado inadmissível pelas autoridades eleitorais, e o candidato humano com o maior número de votos seria nomeado o vencedor. No entanto, este resultado também poderia levar a uma redefinição legal do que constitui um candidato ou vencedor de uma disputa política. Certamente haveria questões sobre representação, responsabilidade e o potencial de manipulação ou uso indevido de IA nos processos políticos. Claro, questões comparáveis já existem no mundo real.
As personas digitais serão uma forma de comentário social ou político?
Se nada mais, a possibilidade de usar uma persona digital em uma campanha simbólica poderia parecer uma forma de comentário social ou político. Esses bots poderiam destacar questões como insatisfação com as opções políticas atuais, desejo por reformas, exploração de conceitos futuristas de governança e provocar discussões sobre o papel da tecnologia na sociedade, a natureza da democracia e como os humanos devem interagir com a IA.
Esta possibilidade abrirá mais um debate ético. Por exemplo, uma persona digital "candidata" de voto por inscrição seria uma abominação ou, se reunisse apoio, isso seria uma democracia de design onde o candidato pode promover políticas e traços específicos?
Imagine uma persona digital sendo proposta para um cargo ainda mais alto, potencialmente em nível federal. Quando a revolução robótica chegar aos políticos, podemos esperar que as máquinas sejam treinadas para a integridade.
Artigos recomendados: DPF e Utopia
Fonte:https://venturebeat.com/ai/from-deepfakes-to-digital-candidates-ais-political-play/
Nenhum comentário:
Postar um comentário