ZMSC, 17/06/2025
Por Nir Eisikovits
Avatares de pessoas mortas com IA estão ministrando cursos e testemunhando em tribunais. Mesmo com as melhores intenções, a prática emergente de "reanimações" com IA é um atoleiro ético.
Christopher Pelkey foi morto a tiros em um incidente de fúria no trânsito em 2021. No dia 8 de maio de 2025, durante a audiência de sentença de seu assassino, uma reconstrução em vídeo com IA de Pelkey fez uma declaração de impacto da vítima. O juiz do caso relatou ter ficado profundamente comovido com a apresentação e aplicou a pena máxima por homicídio culposo.
Como parte das comemorações dos 77 anos de independência de Israel, no dia 30 de abril de 2025, as autoridades haviam planejado realizar um concerto com quatro cantores israelenses icônicos. Todos os quatro já estavam mortos há anos. A ideia era trazê-los de volta usando som e vídeo gerados por IA. Os artistas falecidos deveriam cantar ao lado de Yardena Arazi, uma artista famosa e ainda viva. No final, Arazi desistiu de participar, citando o clima político, e o evento acabou não acontecendo.
Em abril, a BBC criou uma versão deepfake da famosa escritora de mistérios Agatha Christie para ministrar um “curso magistral de escrita”. A falsa Agatha daria aulas para aspirantes a autores de romances policiais e os “inspiraria” em sua “jornada de escrita”.
O uso de inteligência artificial para “reanimar” os mortos para diferentes propósitos está ganhando força rapidamente. Nos últimos anos, temos estudado as implicações morais da IA no Centro de Ética Aplicada da Universidade de Massachusetts, em Boston, e consideramos essas reanimações por IA moralmente problemáticas.
Antes de abordar os desafios éticos que essa tecnologia levanta, é importante distinguir as reanimações por IA, ou deepfakes, dos chamados griefbots. Griefbots são chatbots treinados com grandes quantidades de dados deixados pelos falecidos — postagens em redes sociais, mensagens de texto, e-mails, vídeos. Esses chatbots imitam a forma como a pessoa se comunicava em vida e têm como objetivo tornar a vida dos entes queridos mais fácil. Os deepfakes que estamos discutindo aqui têm outras finalidades; são usados para promover causas legais, políticas e educacionais.
Dilemas morais
O primeiro dilema moral que essa tecnologia levanta diz respeito ao consentimento: Será que os falecidos teriam concordado em fazer o que suas imagens estão fazendo? Será que os cantores israelenses mortos gostariam de cantar em uma cerimônia de independência organizada pelo atual governo do país? Será que Pelkey, a vítima da fúria no trânsito, se sentiria confortável com o roteiro que sua família escreveu para o avatar recitar? O que Christie pensaria sobre sua sósia de IA ensinando aquela aula?
As respostas a essas perguntas só podem ser deduzidas circunstancialmente — a partir da análise do tipo de coisas que os falecidos faziam e das opiniões que expressavam quando estavam vivos. E é possível perguntar: essas respostas realmente importam? Se os responsáveis legais pelos espólios concordam com as reanimações, a questão não estaria resolvida? Afinal, esses curadores são os representantes legais dos falecidos.
Mas, deixando de lado a questão do consentimento, permanece uma pergunta ainda mais fundamental:
O que essas reanimações fazem com o legado e a reputação dos mortos? A reputação deles não depende, em certa medida, justamente da escassez de aparições, do fato de que os mortos não podem mais aparecer? Morrer pode ter um efeito positivo sobre a reputação de pessoas famosas; foi bom para John F. Kennedy e também para o primeiro-ministro israelense Yitzhak Rabin.
O líder ateniense Péricles, do século V a.C., entendia bem isso. Em seu famoso Discurso Fúnebre, proferido ao final do primeiro ano da Guerra do Peloponeso, ele afirma que uma morte nobre pode elevar a reputação de uma pessoa e apagar suas pequenas falhas. Isso porque os mortos estão fora de alcance e seu mistério cresce após a morte. “Mesmo a virtude extrema dificilmente lhe dará uma reputação igual à dos mortos”, ele insiste.
As reanimações por IA desvalorizam a “moeda” dos mortos ao forçá-los a continuar aparecendo? Elas banalizam e desestabilizam a reputação deles ao fazê-los comentar sobre eventos que aconteceram muito tempo depois de sua morte?
Além disso, essas representações por IA podem ser uma ferramenta poderosa para influenciar públicos com finalidades políticas ou legais. Trazer de volta um cantor morto e popular para legitimar um evento político, ou reanimar uma vítima falecida para oferecer um testemunho, são atos claramente destinados a influenciar o julgamento da audiência.
Uma coisa é citar Churchill ou Roosevelt em um discurso político, ou até tentar imitar o jeito deles falar. Outra coisa completamente diferente é ter “eles” falando ao seu lado. O potencial de explorar a nostalgia é amplificado ao extremo por essa tecnologia. Imagine, por exemplo, o que os soviéticos — que literalmente adoravam o corpo morto de Lênin — fariam com um deepfake de seu antigo ícone.
Boas intenções
Pode-se argumentar que, justamente por essas reanimações serem tão envolventes, elas podem ser usadas para fins virtuosos. Imagine um Martin Luther King Jr. reanimado, falando à nossa nação atualmente polarizada e dividida, pedindo moderação e unidade. Não seria maravilhoso? Ou um Mordechai Anielewicz reanimado, comandante da revolta do Gueto de Varsóvia, discursando no julgamento de um negacionista do Holocausto como David Irving?
Mas será que sabemos o que MLK pensaria sobre as divisões políticas atuais? Sabemos o que Anielewicz acharia sobre restrições a discursos perniciosos? O fato de King ter lutado bravamente pelos direitos civis significa que devemos invocar seu fantasma digital para comentar o impacto do populismo? Por ter lutado sem medo contra os nazistas, devemos trazer à tona a sombra digital de um herói do passado para comentar sobre liberdade de expressão na era digital?
Mesmo que os projetos políticos que esses avatares de IA servissem fossem coerentes com as opiniões que os falecidos tinham, o problema da manipulação — do uso do poder psicológico dos deepfakes para apelar às emoções — ainda permaneceria.
Mas, e quanto a recrutar uma IA da Agatha Christie para dar aula de escrita? Deepfakes podem, de fato, ter usos positivos em ambientes educacionais. A imagem de Christie poderia deixar os alunos mais entusiasmados com a escrita. Um falso Aristóteles poderia aumentar as chances de os estudantes se engajarem com sua austera Ética a Nicômaco. Um Einstein virtual poderia ajudar aqueles que querem estudar física a entender melhor a relatividade geral.
Mas produzir esses fakes envolve uma grande responsabilidade. Afinal, dado o quanto eles podem ser envolventes, existe o risco de que as interações com essas representações sejam tudo o que os alunos prestem atenção, em vez de servirem como um portal para aprofundar o conhecimento sobre o assunto.
Viver nos vivos
Num poema escrito em memória de W.B. Yeats, W.H. Auden nos diz que, após a morte do poeta, Yeats “se tornou seus admiradores”. Sua memória agora estava “espalhada por centenas de cidades” e sua obra sujeita a infinitas interpretações: “as palavras de um homem morto são modificadas nas entranhas dos vivos.”
Os mortos vivem de muitas formas, nas maneiras pelas quais reinterpretamos suas palavras e obras. Auden fez isso com Yeats, e estamos fazendo isso com Auden agora. É assim que as pessoas mantêm contato com aqueles que se foram. No fim das contas, acreditamos que usar o poder tecnológico para trazê-los de volta de forma concreta os desrespeita e, talvez ainda mais importante, é um ato de desrespeito a nós mesmos — à nossa capacidade de abstrair, pensar e imaginar.
Artigos recomendados: DPF e Avatar
Nenhum comentário:
Postar um comentário