Humanos não distinguem bem deepfake de voz com a fala humana

CT, 03/08/2023 

Por Fidel Farato 

A chegada da Inteligência Artificial (IA) generativa acelerou e melhorou os resultados de muitas ferramentas de criação, como as usadas na geração de áudios falsos. O problema é que, aparentemente, as pessoas têm pouca capacidade em distinguir o que é um deepfake de voz e uma fala humana verdadeira, segundo estudo publicado na revista científica PLoS ONE.

No experimento, os pesquisadores do University College London (UCL), na Inglaterra, testaram a capacidade de 529 pessoas em identificar o que era uma voz real e o que era um deepfake sonoro. Em mais de um quarto dos casos (27%), os voluntários se confundiram entre o que era real e inventado pelo algoritmo da IA. Os áudios estavam em inglês ou em mandarim.

Cientistas implantam em cobaias memórias falsas usando deepfakes

TB, 25/07/2023 

Por Victor Tangermann

Murphy mnemônico

Os pesquisadores descobriram que podem criar memórias falsas mostrando aos indivíduos clipes deepfaked de remakes de filmes que nunca foram realmente produzidos.

Conforme detalhado em um artigo recente publicado na revista PLOS One, clipes deepfaked de filmes inventados foram convincentes o suficiente para induzir os participantes a acreditar que eram reais. Alguns chegaram a classificar os filmes falsos, que incluíam supostos remakes de filmes reais como Will Smith estrelando um "The Matrix" reboot, como sendo melhores que os originais.

Reality Show tortura psicologicamente seus participantes mostrando-lhes deepfakes de seus parceiros os traindo

TB, 24/07/2023 

Por Maggie Harrison 

Estamos no inferno

Apenas quando você pensa que o reality show não pode se rebaixar mais, ele o faz novamente. Para resumir: em mais uma obra tenebrosa feita pelo homem, um reality show da Netflix chamado "Falso Amor", que se traduz em "Deep Fake Love", divide cinco casais da vida real em duas casas diferentes, adiciona um monte de solteiros sensuais à mistura e, em seguida, submete os indivíduos à experiência de assistir seu parceiro traí-los em vídeos que podem ou não ser deepfake.

Golpista experiente em IA usa vídeo deepfake para roubar US$ 40.000 via WhatsApp

BI, 17/07/2023 

Por Sourabh Jain

A inteligência artificial (IA) tornou-se popular desde o lançamento do ChatGPT, com a conscientização sobre as habilidades da IA ​​crescendo a cada dia. Embora a IA tenha seu quinhão de benefícios, ela também foi usada para alguns usos assustadores.

Em um incidente bizarro, um golpista do WhatsApp usou vídeo de IA deepfake para roubar ₹ 40.000 de PS Radhakrishnan, um funcionário público aposentado de 73 anos de Kozhikode, Kerala.

Guru do Fórum Econômico Mundial diz que: "estamos aprendendo a usar a IA, e ela está aprendendo a nos usar"

Sociable, 08/07/2023 

'Enquanto estamos aprendendo a usar IA, ela está aprendendo a nos usar': Yuval Harari para UN AI for Good Summit

O historiador Yuval Noah Harari disse ao AI for Good Global Summit da ONU que “enquanto estamos aprendendo a usar a IA, ela está aprendendo a nos usar” e que devemos desacelerar sua implantação, não o desenvolvimento.

Falando na quinta-feira na sessão da Cúpula Global AI for Good da União Internacional de Telecomunicações (UIT), das Nações Unidas sobre “Guardrails necessários para uma IA segura e responsável”, Harari opinou que a IA deve continuar a ser desenvolvida, mas que não deve ser implantada sem verificações e regulamentos de segurança.

Esta campanha de IA usa uma garota deepfake para alertar sobre roubo de identidade

LBB, 05/07/2023 

A campanha de adam&eveBERLIN e DDB Germany para a Deutsche Telekom lança luz sobre os riscos crescentes associados ao uso indevido de dados e inteligência artificial

Em um filme de herói, a IA é dramaticamente usada para chamar a atenção para os riscos de si mesma - IA. Além das oportunidades de digitalização, a Telekom quer apontar a urgência do tratamento responsável de dados pessoais no mundo digital.

Comercial da Volkswagen usa deepfake para reunir Elis Regina e Maria Rita

TT, 04/07/2023 

Por Carolina Zannata 

Campanha de 70 anos da Volkswagen traz a canção "Como nossos pais", de Belchior, interpretada por Elis Regina, e "recria" a cantora usando inteligência artificial; entenda a tecnologia

Elis Regina "voltou à vida" no comercial da nova Kombi 2023. Na campanha que começou a ser veiculada a partir de hoje (4), Elis aparece no volante de um modelo antigo do automóvel, cantando a música "Como nossos pais", de Belchior. Ao lado da cantora, que faleceu em 1982, o comercial mostra sua filha Maria Rita, que também performa a canção, mas do interior da ID.Buzz, versão mais recente e elétrica da Kombi. O comercial foi criado usando inteligência artificial (IA), em uma tecnologia deep fake que usa uma grande base de dados para "recriar" a artista.

Empresa de deepfake de voz levanta US$ 19 milhões para lançar ferramenta que combate sua própria tecnologia

BU, 22/06/2023 

Por William McCurdy 

Como os riscos apresentados pela fraude de IA generativa podem estar crescendo em todo o mundo, a ElevenLabs revelou uma nova ferramenta que permitirá aos usuários fazer upload de qualquer amostra de áudio, para identificar se contém áudio gerado com a IA da empresa.

A ElevenLabs é uma startup sediada nos Estados Unidos que oferece uma plataforma de síntese de fala, que editores e criadores possam usar para criar conteúdo de áudio sintético. Por exemplo, a tecnologia pode ler um artigo de jornal online ou um livro com uma voz razoavelmente humana.

Clones de IA feitos a partir de dados do usuário representam riscos estranhos

YN!, 04/06/2023 

Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?

Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.

IA preparada para redublar filmes estrangeiros por meio de tecnologia deepfake

FS, 22/05/2023 

Por Dan Cooper 

Uma perspectiva empolgante está no horizonte para os fãs do cinema mundial, mas questões éticas de IA também estão sendo levantadas.

A empresa britânica Flawless ganhou destaque durante o lançamento de Fall do ano passado, um thriller ambientado no topo de uma torre precária que no qual duas alpinistas sortudas se encontram presas no topo. O filme em si foi um passeio divertido e emocionante e uma sequência já foi lançada desde que chegou à Netflix e fez um verdadeiro sucesso.

Golpe 'deepfake' na China levanta preocupações de fraude alimentada por IA

IE, 23/05/2023 

Por Ameya Paleja 

Os cidadãos estão preocupados se as regras aplicadas são suficientes para os proteger.

Um golpe recentemente relatado na China que usou tecnologia 'deep fake' levantou preocupações sobre o uso de inteligência artificial (IA) na realização de atividades fraudulentas no país. A discussão no site de mídia social Weibo sobre a explosão no número de varreduras alimentadas por IA ganhou mais de 120 milhões de visualizações em um dia, informou a Reuters.

Ao longo dos anos, o termo "deep fakes" tem sido associado principalmente a celebridades, mas à medida que a tecnologia de IA se torna mais popular, também despertou temores de afetar o plebeu. Recentemente, um conselheiro das Nações Unidas alertou contra o uso destrutivo da tecnologia e instou as nações a trazerem regulamentações para proteger o público.

Ressuscitando os Beatles com deepfake: a IA está aqui, ali e em todos os lugares

IE, 22/05/2023 

Por Sejal Sharma 

Várias faixas de IA feitas para soar como se fossem cantadas pelos Beatles estão explodindo no YouTube.

A inteligência artificial (IA) está sendo usada para recriar e reimaginar músicas cantadas pelos Beatles, que até hoje continua sendo a banda mais famosa do mundo.

Esta é uma ótima notícia para os fãs que não ouviram uma nova música da banda desde que ela foi dissolvida em 1970, mesmo que os artistas continuassem lançando singles depois disso.

Tom Hanks diz que seu deepfake de IA poderia aparecer em filmes após sua morte

YN!, 18/05/2023 

Por Caroline Thayer 

O peso-pesado de Hollywood Tom Hanks está pesando no uso de inteligência artificial nos filmes, especialmente à medida que envelhece e seu nome e aparência ainda são cobiçados.

O ator de "Um Homem Chamado Otto" deu sua opinião sobre a IA – observando que seu uso na indústria não é novidade e "sempre foi" muito usado.

"A primeira vez que fizemos um filme que tinha uma enorme quantidade de nossos próprios dados contidos em um computador, literalmente como parecíamos, foi um filme chamado 'The Polar Express'", disse Hanks no "The Adam Buxton Podcast" sobre seu filme de animação de 2004.

A próxima grande novidade pode ser GIFs gerados por IA

TD, 22/04/2023 

Por Ruben Circelli 

Por meio da nova tecnologia da Nvidia, os GIFs gerados por IA podem ser a próxima grande novidade a dominar a Internet.

A Nvidia publicou recentemente um artigo intitulado “High-Resolution Video Synthesis with Latent Diffusion Models” baseado em experimentos feitos no Toronto AI Lab da Nvidia, onde eles estão usando Stable Diffusion para tentar construir uma ferramenta que pode criar arte em movimento a partir de um prompt de texto. Basicamente, a ideia é que você digite uma frase e a veja transformada em uma obra de arte em movimento, ou seja, um GIF.

Quase 60% dos músicos já estão usando IA em suas produções, sugere estudo

YE!,  21/04/2023 

Por Ben Rogerson 

Nos próximos anos, os primeiros meses de 2023 podem ser lembrados como o período em que a música gerada por IA passou de uma novidade divertida a um terrível destruidor cultural.

Nos últimos meses, testemunhamos David Guetta empregando um Eminem 'deepfake', um produtor fazendo-se soar como Kanye West, uma faixa criada por fac-símiles de Drake e Eminem sendo retirada de serviços de streaming e até mesmo um 'novo' Oasis imaginado álbum com vocais de 'Liam Gallagher' com voz de IA. Que hora de estar vivo.

Dois cantores israelenses icônicos foram ressuscitados via IA (deepfake) para um dueto. Nem todo mundo está feliz com isso.

Forward, 20/04/2023 

Por Jackie Hajdenberg

A música apresenta Ofra Haza, conhecida como a Madonna de Israel, e Zohar Agrov, uma popular cantora de Mizrahi que também foi um estuprador condenado.

(JTA) — Duas cantoras israelenses populares — uma, tida como a “Madonna do Oriente”; o outro, o “rei” da música Mizrahi, bem como um estuprador condenado – se uniram em uma nova música em homenagem ao 75º aniversário de seu país.

A reviravolta: Ofra Haza e Zohar Argov estão mortos há décadas.

Uma demonstração convincente de deepfake sacode o público do TED

O apresentador Chris Anderson e Tom Graham falam na SESSÃO 1 no TED2023

Forbes, 20/04/2023 

Por Rob Salkowitz 

Quando Tom Graham, cofundador e CEO da startup de vídeo AI Metaphysic, transformou gradualmente a imagem de vídeo de seu rosto na do diretor do TED, Chris Anderson, em tempo real, enquanto Anderson o entrevistava ao vivo no palco no início desta semana no evento TED2023 em Vancouver, você podia ouvir os suspiros enchendo a sala. A audiência do TED, que você não pode realmente caracterizar como uma multidão de camponeses luditas com forcados, ficou tão alarmada com as implicações dessa tecnologia quanto impressionada com o virtuosismo técnico do aplicativo.

Mãe diz que estranhos usaram IA para fingir sequestro de sua filha – deepfake

TB, 15/04/2023 - Com Futurism 

Por Victor Tangermann 

Telefonema Horrível

Uma mãe diz que criminosos usaram IA para clonar a voz de sua filha de 15 anos para fingir um sequestro e tentar obter um resgate – um incidente chocante que mostra o quão longe a tecnologia chegou e como ela pode ser facilmente abusada.

Tudo começou quando a mãe, Jennifer DeStefano, recebeu uma ligação de um número misterioso.

Joe Rogan faz alerta sobre inteligência Artificial após ver uma versão deepfake do seu podcast 100% feita com IA

YF!, 14/04/2023 

Por Bethan Moorcraft

O controverso podcaster Joe Rogan emitiu um alerta sobre inteligência artificial depois que uma versão falsa – mas muito realista – de seu popular podcast 'The Joe Rogan Experience' foi publicada online.

O episódio fictício – gerado com a ajuda do chatbot de IA ChatGPT – foi publicado no YouTube em 4 de abril.

Ele retrata uma conversa entre Joe Rogan e Sam Altman, CEO da OpenAI, com um aviso de que “as ideias e opiniões expressas no podcast não refletem suas opiniões reais”.

Mulher criada com inteligência artificial vende seus nudes para usuários do Reddit

RPP, 13/04/2023 

Ela não existe: ela foi criada por uma inteligência artificial e é uma sensação no Reddit .

Uma mulher criada por inteligência artificial tem sido protagonista de um caso muito curioso nos fóruns do Reddit.

Claudia foi criada pelo (software) Stabble Diffusion, uma ferramenta de IA muito popular na internet, e com um único post ela causou uma avalanche de comentários de homens dispostos a pagar por mais fotos.