Deepfakes estão roubando a cena no 'America's Got Talent'. Em breve eles vão roubar muito mais também?

Fortune, 06/09/2022 

Por Jeremy Kahan 

A Metaphysic chamou a atenção de Simon Cowell com um deepfake ao vivo da celebridade. Os fraudadores também estão prestando atenção.

Deepfakes estão ficando assustadoramente bons. Se houvesse alguma dúvida sobre isso, o America's Got Talent desta temporada deveria servir como um alerta. Uma startup chamada Metaphysic conseguiu avançar para a rodada final do concurso de talentos, que vai ao ar na próxima semana, produzindo deepfakes notáveis ​​de Simon Cowell e dos outros juízes do concurso em tempo real. Os jurados ficaram impressionados ao ver artistas que têm apenas a mais vaga semelhança com eles – um rosto e formato de corpo um pouco semelhantes – de repente se transformarem em seus doppelgangers digitais, bem diante de seus olhos.

O que é a tecnologia deepfake e como ela funciona?

IE, 17/11/2022 

Por Maia Mulko 

E existe alguma maneira eficaz de detectá-lo?

• Em teoria, a tecnologia deepfake pode fazer parecer que alguém está dizendo ou fazendo alguma coisa, e é por isso que é tão controversa.

• Celebridades e figuras políticas são as mais "deepfaked" – com tudo o que isso implica.

• A tecnologia é legal, mas alguns usos são proibidos por regulamentos relativamente novos.

Todos nós já ouvimos falar de deepfakes.

Deepfakes não vão embora: identidade digital à prova de futuro – Deepfake reforça a Identidade Digital

VB, 10/09/2022 

Deepfakes não são novidade, mas essa tecnologia baseada em IA surgiu como uma ameaça generalizada na disseminação de desinformação e aumento da fraude de identidade. A pandemia piorou a situação ao criar as condições ideais para que os maus atores aproveitem os pontos cegos das organizações e dos consumidores, exacerbando ainda mais a fraude e o roubo de identidade. A fraude decorrente de deepfakes aumentou durante a pandemia e apresenta desafios significativos para instituições financeiras e fintechs que precisam autenticar e verificar identidades com precisão.

Deefakes: tecnologia arriscada, mas intrigante para empresas

TGT, 27/07/2022 

Por Esther Ajao 

As empresas podem gerar conjuntos de dados sintéticos com a tecnologia. É útil na transmissão e para publicidade. No entanto, sua privacidade e implicações políticas podem ser perigosas.

Um anúncio online recente do Daily Voice, um site de notícias da Internet com sede em Connecticut, fazia uma oferta  de emprego visando locutores. O anúncio parecia normal, mas somente até um ponto específico: "Usaremos tecnologia de captura de imagem de vídeo e com sua imagem geraremos videoclipes para criar conteúdo continuamente no futuro".

O que o site de notícias estava prometendo usar é uma variante da tecnologia de IA conhecida como Deepfakes. Deepfakes são um tipo de IA que combina aprendizado profundo com dados ou mídia falsas ou sintéticas – informações visuais ou outras que são fabricadas, não produzidas por eventos do mundo real – para gerar conteúdo.

Deepfakes de IA estão por toda parte e os reguladores estão trabalhando em como responder

BU, 03/03/2023 

Por Joel R McConvey 

A questão da identidade digital está prestes a ficar muito mais complicada e muito mais importante, à medida que o mundo começa a contar com a proliferação de deepfakes. Internacionalmente, os governos estão alertando sobre os riscos que acompanham a inteligência artificial (IA) generativa, que pode combinar ferramentas como biometria facial, síntese de voz e modelos de linguagem para criar avatares realistas. Conforme relatado na Fast Company, no New York Times e em outros lugares, da geopolítica à pornografia, o potencial de desinformação, disrrupção e uso indevido é um problema sério.

O mundo da publicidade deepfake está chegando nesta década

TX, 10/11/2022 

Por UTS

A publicidade manipulada está se tornando um fenômeno cada vez mais prevalente no marketing. Técnicas como deepfakes aproveitam a inteligência artificial e o aprendizado de máquina para gerar réplicas sintéticas convincentes e realistas que são quase impossíveis de serem detectadas pelos consumidores.

O mundo da publicidade deepfake está chegando.

Nova pesquisa da Swinburne University of Technology revela como os deepfakes provavelmente serão usados ​​por empresas e profissionais de marketing em "Preparing for an Era of Deepfakes and AI-Generated Ads: A Framework for Understanding Responses to Manipulated Advertising" publicado no Journal of Advertising.

Estamos entrando na era da tecnologia de voz antiética: IA e deepfake vocal

SI, 13/09/2022 

Por Sue Poremba 

Em 2019, o Google lançou um banco de dados sintético de fala com um objetivo muito específico: interromper deepfakes de áudio. 

“Atores maliciosos podem sintetizar a fala para tentar enganar os sistemas de autenticação de voz”, relatou o blog da Google News Initiative na época. “Talvez igualmente preocupante, a conscientização pública de 'deep fakes' (áudio ou videoclipes gerados por modelos de deep learning) pode ser explorada para manipular a confiança na mídia.”

Cientistas implantam em cobaias memórias falsas usando deepfakes

TB, 25/07/2023 

Por Victor Tangermann

Murphy mnemônico

Os pesquisadores descobriram que podem criar memórias falsas mostrando aos indivíduos clipes deepfaked de remakes de filmes que nunca foram realmente produzidos.

Conforme detalhado em um artigo recente publicado na revista PLOS One, clipes deepfaked de filmes inventados foram convincentes o suficiente para induzir os participantes a acreditar que eram reais. Alguns chegaram a classificar os filmes falsos, que incluíam supostos remakes de filmes reais como Will Smith estrelando um "The Matrix" reboot, como sendo melhores que os originais.

Deepfakes de âncoras de notícias com propaganda pró-China espalhados pela web

VOA, 08/02/2023 

WASHINGTON — Os "apresentadores de notícias" parecem incrivelmente reais, mas são deepfakes gerados por IA em vídeos de propaganda inéditos que um relatório de pesquisa publicado na terça-feira atribuiu a atores alinhados ao estado chinês.

Deepfakes de voz em alta; a biometria pode ajudar: deepfake reforça o estado de vigilância

BU, 01/02/2023 

Por Alessandro Mascellino

Um novo tipo de deepfake está se espalhando, baseado em gravações de voz. Os algoritmos biométricos de voz continuam a melhorar e os agentes de ameaças os estão usando para fraudes, roubo de identidade e outras atividades ilícitas.

Um artigo recente da Vice mostrou que vários membros da plataforma de mídia social 4chan usaram o software beta da ElevenLabs para gerar vozes que soam como notáveis, incluindo Joe Rogan, Ben Shapiro e Emma Watson, utilizando falas racistas ou comentários abusivos.

PsyOps – o governo dos EUA planeja usar deepfakes para propaganda

IE, 07/03/2023 

Por Loukia Papadopoulos 

Especialistas estão chamando os planos de "perigosos".

O governo dos EUA poderá em breve realizar campanhas de propaganda e fraude na Internet usando vídeos deepfake, de acordo com um relatório do The Intercept publicado na segunda-feira. 

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Deepfakes expõem vulnerabilidades em certas tecnologias de reconhecimento facial

PSUUD, 11/08/2022 

Por Jessica Hallman

Os dispositivos móveis usam a tecnologia de reconhecimento facial para ajudar os usuários a desbloquear seus telefones de forma rápida e segura, fazer uma transação financeira ou acessar registros médicos. Mas as tecnologias de reconhecimento facial que empregam um método específico de detecção de usuários são altamente vulneráveis ​​a ataques baseados em deepfake que podem levar a preocupações significativas de segurança para usuários e aplicativos, de acordo com uma nova pesquisa envolvendo o Penn State College of Information Sciences and Technology

Empresa de biometria facial diz que rostos sintéticos podem resolver problemas de preconceito algorítmico

BU, 25/09/2023 

Por Masha Borak 

Rostos sintéticos podem resolver preconceitos algorítmicos e dilemas éticos de dados: IDVerse

Durante anos, muitos dos sistemas de IA utilizados para reconhecimento facial e verificação de identidade tiveram problemas de preconceito racial e de gênero. Os sistemas demonstraram taxas mais elevadas de erros de identificação para pessoas com pele mais escura e, por vezes, contribuíram para detenções injustas. A principal razão por trás disso são os dados nos quais os modelos de IA foram treinados, que incluem desproporcionalmente rostos brancos e masculinos.

Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA

BU, 19/11/2024 

Por Abigail Opiah 

Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

A Microsoft apresenta o VASA-1, um framework de IA que faz retratos humanos falar e cantar

VB, 18/04/2024 

Por Shubham Sharma 

A Microsoft deu um grande salto no campo da geração de conteúdo impulsionada por IA. Apenas algumas horas atrás, o braço de pesquisa da empresa liderada por Satya Nadella apresentou o VASA-1, um framework de IA que pode converter retratos humanos em vídeos falados e cantados.

O projeto marca uma mudança significativa no que foi alcançado na geração de conteúdo gerado por IA, pois trabalha com entrada mínima. Tudo o que precisa é de um retrato estático e um arquivo de áudio com discurso, e o modelo o trará à vida, completo com sincronização labial e expressões relacionadas e movimentos de cabeça.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Reality Show tortura psicologicamente seus participantes mostrando-lhes deepfakes de seus parceiros os traindo

TB, 24/07/2023 

Por Maggie Harrison 

Estamos no inferno

Apenas quando você pensa que o reality show não pode se rebaixar mais, ele o faz novamente. Para resumir: em mais uma obra tenebrosa feita pelo homem, um reality show da Netflix chamado "Falso Amor", que se traduz em "Deep Fake Love", divide cinco casais da vida real em duas casas diferentes, adiciona um monte de solteiros sensuais à mistura e, em seguida, submete os indivíduos à experiência de assistir seu parceiro traí-los em vídeos que podem ou não ser deepfake.

Uma demonstração convincente de deepfake sacode o público do TED

O apresentador Chris Anderson e Tom Graham falam na SESSÃO 1 no TED2023

Forbes, 20/04/2023 

Por Rob Salkowitz 

Quando Tom Graham, cofundador e CEO da startup de vídeo AI Metaphysic, transformou gradualmente a imagem de vídeo de seu rosto na do diretor do TED, Chris Anderson, em tempo real, enquanto Anderson o entrevistava ao vivo no palco no início desta semana no evento TED2023 em Vancouver, você podia ouvir os suspiros enchendo a sala. A audiência do TED, que você não pode realmente caracterizar como uma multidão de camponeses luditas com forcados, ficou tão alarmada com as implicações dessa tecnologia quanto impressionada com o virtuosismo técnico do aplicativo.

Humanos não distinguem bem deepfake de voz com a fala humana

CT, 03/08/2023 

Por Fidel Farato 

A chegada da Inteligência Artificial (IA) generativa acelerou e melhorou os resultados de muitas ferramentas de criação, como as usadas na geração de áudios falsos. O problema é que, aparentemente, as pessoas têm pouca capacidade em distinguir o que é um deepfake de voz e uma fala humana verdadeira, segundo estudo publicado na revista científica PLoS ONE.

No experimento, os pesquisadores do University College London (UCL), na Inglaterra, testaram a capacidade de 529 pessoas em identificar o que era uma voz real e o que era um deepfake sonoro. Em mais de um quarto dos casos (27%), os voluntários se confundiram entre o que era real e inventado pelo algoritmo da IA. Os áudios estavam em inglês ou em mandarim.