 |
| O apresentador Chris Anderson e Tom Graham falam na SESSÃO 1 no TED2023 |
Forbes, 20/04/2023
Por Rob Salkowitz
Quando Tom Graham, cofundador e CEO da startup de vídeo AI Metaphysic, transformou gradualmente a imagem de vídeo de seu rosto na do diretor do TED, Chris Anderson, em tempo real, enquanto Anderson o entrevistava ao vivo no palco no início desta semana no evento TED2023 em Vancouver, você podia ouvir os suspiros enchendo a sala. A audiência do TED, que você não pode realmente caracterizar como uma multidão de camponeses luditas com forcados, ficou tão alarmada com as implicações dessa tecnologia quanto impressionada com o virtuosismo técnico do aplicativo.
A empresa de Graham está comercializando a tecnologia deepfake de vídeo por trás da sensação viral “Deep Tom Cruise” como uma solução VFX para a indústria do entretenimento. Faz parte de uma onda de novas ferramentas sendo desenvolvidas usando IA generativa para criar imagens fotorrealistas e vídeos com movimentos bons o suficiente para imitar a performance ao vivo e combinar perfeitamente com a fotografia real. A tecnologia estreou no "America's Got Talent" e Graham disse que verá sua primeira exposição em larga escala em um longa-metragem para rejuvenescer Tom Hanks e Robin Wright no próximo projeto de Robert Zemeckis, Here.
Essa aplicação específica de IA para rejuvenescer e criar performances digitais convincentes fica no fim relativamente benigno do continuum de usos de deepfakes, apesar da interrupção que provavelmente causará na indústria de efeitos especiais. Outros cenários mais sinistros, como a criação de desinformação política vividamente realista ou pornografia não consensual, são normalmente as primeiras coisas em que as pessoas pensam quando as veem. Isso é abrir a caixa de Pandora? perguntou Anderson.
“Não estamos tornando nossa tecnologia aberta, então não temos o problema de as pessoas usá-la sem supervisão”, disse Graham em uma entrevista após seu TED Talk. “Nossos clientes precisam assinar uma garantia muito longa de que têm os direitos sobre as imagens que usamos para treiná-lo. Mas, a longo prazo, quando o custo disso cai para zero e você tem um bilhão de pessoas fazendo isso, você definitivamente precisa de um sistema distribuído onde as pessoas possuam e controlem seus dados.”
Para ajudar a forçar a lei de PI a lidar com essas questões, Graham, que trabalhou como advogado antes de entrar na indústria de tecnologia, entrou com um pedido de direitos autorais de um avatar de IA que ele mesmo criou usando a tecnologia de sua empresa, junto com um breve explicação de como a criação se encaixa nos critérios de proteção de direitos autorais. O escritório de direitos autorais ainda não emitiu uma decisão.
O status legal obscuro dos deepfakes não é o único problema que causa preocupação. A tecnologia demonstrada por Graham no TED é capaz de eliminar a distinção entre real e digital na percepção humana. Não há mais vale misterioso; apenas uma paisagem misteriosa que se estende em todas as direções.
Graham argumentou que confundir as linhas entre imagens reais e sintéticas tem alguns benefícios terapêuticos, pois os usuários seriam capazes de se envolver em conversas com versões geradas por computador de seus eus mais jovens ou entes queridos falecidos como uma forma de lidar com a dor. “A mente integra as coisas e as torna mais realistas. Uma chamada de Zoom é um substituto ruim para a vida real, mas se você pode fazer desse Zoom algo bem mais próximo da vida real [por meio de imagens imersivas e hiper-realistas geradas por IA], você pode transformar isso na vida real em sua mente. A memória que você formar fará com que pareça real".
A maioria dos membros da audiência do TED com quem falei descobriu que esse suposto benefício era quase tão perturbador quanto as desvantagens óbvias. Graham disse que a resposta é amplamente geracional e que os jovens que navegam constantemente na mídia e na cultura digital não priorizam a distinção entre experiências reais e digitais. “Muitos deles passam grande parte de suas vidas em videogames, e esses lugares são mais reais para eles do que o mundo físico.”
Outro aspecto controverso da apresentação de Graham para a multidão extremamente social do TED foi sua postura sobre a inevitabilidade de deepfakes se tornarem parte do ecossistema de informações. “Está acontecendo e está acontecendo rapidamente”, disse ele no palco, parecendo sugerir que simplesmente precisamos acomodar a inovação pela inovação, independentemente de escrúpulos legais, éticos e filosóficos.
Graham pareceu perplexo com essa interpretação quando a discutimos mais tarde. “Meu padrão é que, se não houver nada que possamos fazer para impedi-lo, teremos absolutamente que regulá-lo. Essa ideia de que 'bem, vai acontecer de qualquer maneira, então não devemos fazer nada' parece uma resposta exclusivamente americana”, disse Graham, que é australiano.
“No coração da Internet está a Seção 230”, continuou ele. “Isso é projetado para impedir que as pessoas abusem desenfreadamente do material protegido por direitos autorais de outras pessoas por meio da proliferação de redes sociais e do conteúdo gerado pelo usuário postado nele. Nesse paradigma, talvez fosse melhor se você pudesse ver qualquer coisa, a qualquer hora, em qualquer lugar e não houvesse moderação. Certamente há pessoas que podem argumentar a favor disso, mas definitivamente não é melhor para a sociedade. Sou muito pró-regulamentação, no cerne de quem eu sou. Eu sou uma pessoa de instituições.”
Embora Graham possa aceitar a regulamentação, não está claro se nossas instituições são ágeis, responsivas ou competentes o suficiente para lidar com o que está por vir, pois esse tipo de imagem de IA fica melhor, mais rápida e mais barata a cada momento. Mesmo que sejam, a disrupção nos negócios, na cultura e na sociedade provavelmente será mais profunda do que podemos imaginar atualmente. Vários palestrantes posteriormente no programa TED, incluindo o cientista cognitivo Gary Marcus e o pesquisador Eliezer Yudkowsky, defenderam iniciativas internacionais imediatas para bloquear as aplicações mais preocupantes de IA, incluindo deepfakes, até que possamos obter mais clareza e transparência nos sistemas.
Enquanto isso, Graham disse que a demanda pelos recursos da Metaphysic está crescendo em Hollywood, e a empresa, fundada em 2021, espera crescer para quase 200 funcionários em todo o mundo até o final do ano.
Artigos recomendados: DPF e IA
Nenhum comentário:
Postar um comentário