SI, 13/09/2022
Por Sue Poremba
Em 2019, o Google lançou um banco de dados sintético de fala com um objetivo muito específico: interromper deepfakes de áudio.
“Atores maliciosos podem sintetizar a fala para tentar enganar os sistemas de autenticação de voz”, relatou o blog da Google News Initiative na época. “Talvez igualmente preocupante, a conscientização pública de 'deep fakes' (áudio ou videoclipes gerados por modelos de deep learning) pode ser explorada para manipular a confiança na mídia.”
 |
| Imagem meramente ilustrativa |
EDT, 31/01/2023
Por Mariella Moon
É por isso que não podemos ter coisas boas.
Há alguns dias, a startup de IA de fala ElevenLabs lançou uma versão beta de sua plataforma que oferece aos usuários o poder de criar vozes sintéticas totalmente novas para áudio de conversão de texto em fala ou para clonar a voz de alguém. Bem, a internet levou apenas alguns dias para começar a usar o último para fins vis. A empresa revelou no Twitter que está vendo um "número crescente de casos de uso indevido de clonagem de voz" e que está pensando em uma maneira de resolver o problema "implementando proteções adicionais".
BU, 01/02/2023
Um novo tipo de deepfake está se espalhando, baseado em gravações de voz. Os algoritmos biométricos de voz continuam a melhorar e os agentes de ameaças os estão usando para fraudes, roubo de identidade e outras atividades ilícitas.
Um artigo recente da Vice mostrou que vários membros da plataforma de mídia social 4chan usaram o software beta da ElevenLabs para gerar vozes que soam como notáveis, incluindo Joe Rogan, Ben Shapiro e Emma Watson, utilizando falas racistas ou comentários abusivos.
CT, 03/08/2023
Por Fidel Farato
A chegada da Inteligência Artificial (IA) generativa acelerou e melhorou os resultados de muitas ferramentas de criação, como as usadas na geração de áudios falsos. O problema é que, aparentemente, as pessoas têm pouca capacidade em distinguir o que é um deepfake de voz e uma fala humana verdadeira, segundo estudo publicado na revista científica PLoS ONE.
No experimento, os pesquisadores do University College London (UCL), na Inglaterra, testaram a capacidade de 529 pessoas em identificar o que era uma voz real e o que era um deepfake sonoro. Em mais de um quarto dos casos (27%), os voluntários se confundiram entre o que era real e inventado pelo algoritmo da IA. Os áudios estavam em inglês ou em mandarim.
GH, 16/08/2023
A IA Generativa (GAI) tornou-se um catalisador para a mudança, introduzindo novas formas de fazer negócios, gerenciar dados, reunir insights e reunir conteúdo.
Como uma tecnologia inteligente e altamente capaz, tornou-se uma ferramenta poderosa na caixa de ferramentas de negócios, fornecendo análise, suporte e funcionalidade rápidas.
Lamentavelmente, o imenso potencial do GAI está sendo explorado por cibercriminosos, que o aproveitaram para fins maliciosos, como criar deep fakes convincentes e perpetrar fraudes de voz irritantemente realistas.
TB, 26/03/2023 - Com Futurism
Por Frank Landymore
Clone Con
Já havia muitos relatos de pessoas perdendo dinheiro para golpistas que clonavam as vozes de seus parentes. Agora, aparentemente, tornou-se uma questão prevalente – e séria – já que os reguladores federais sentem a necessidade de intervir.
Na segunda-feira, a Federal Trade Commission (FTC) dos EUA publicou um alerta ao consumidor sobre golpes emergentes de clonagem de voz, alertando as pessoas de que seu amigo ou parente desesperado do outro lado da linha pedindo dinheiro pode na verdade ser um simulacro de IA de sua voz manejada por um golpista.
VB, 10/09/2022
Deepfakes não são novidade, mas essa tecnologia baseada em IA surgiu como uma ameaça generalizada na disseminação de desinformação e aumento da fraude de identidade. A pandemia piorou a situação ao criar as condições ideais para que os maus atores aproveitem os pontos cegos das organizações e dos consumidores, exacerbando ainda mais a fraude e o roubo de identidade. A fraude decorrente de deepfakes aumentou durante a pandemia e apresenta desafios significativos para instituições financeiras e fintechs que precisam autenticar e verificar identidades com precisão.
BU, 24/02/2023
Por Larisa Redins
Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.
Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs, uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.
TGT, 27/07/2022
Por Esther Ajao
As empresas podem gerar conjuntos de dados sintéticos com a tecnologia. É útil na transmissão e para publicidade. No entanto, sua privacidade e implicações políticas podem ser perigosas.
Um anúncio online recente do Daily Voice, um site de notícias da Internet com sede em Connecticut, fazia uma oferta de emprego visando locutores. O anúncio parecia normal, mas somente até um ponto específico: "Usaremos tecnologia de captura de imagem de vídeo e com sua imagem geraremos videoclipes para criar conteúdo continuamente no futuro".
O que o site de notícias estava prometendo usar é uma variante da tecnologia de IA conhecida como Deepfakes. Deepfakes são um tipo de IA que combina aprendizado profundo com dados ou mídia falsas ou sintéticas – informações visuais ou outras que são fabricadas, não produzidas por eventos do mundo real – para gerar conteúdo.
IBB, 01/11/2022
Joshua Ribera retorna dos mortos para enviar uma mensagem crucial sobre as consequências abomináveis do crime com faca
Joshua Ribera, também conhecido como Depzman, retorna dos mortos em um videoclipe emocionante de deepfake encomendado pela The Joshua Ribera Foundation, a instituição de caridade que combate o crime com faca em seu nome. Criada pela McCann London em parceria com a SBTV, a campanha foi apoiada por Jamal Edwards, que foi parte integrante da concepção criativa antes de sua morte no início deste ano. A SBTV lançou com sucesso uma nova geração de estrelas como Stormzy, J Hus e Ed Sheeran; Depzman foi previsto para ser igualmente bem-sucedido.
TB, 06/03/2023
Por Frank Landymore
"Fomos destroçados. Estávamos convencidos de que estávamos conversando com Brandon".
Resgate
Golpistas impiedosos que estão sempre procurando o próximo grande golpe podem tê-lo encontrado: usar IA para imitar entes queridos das vítimas pelo telefone.
Decrypt, 23/08/2023
Quer saber como você soaria falando outro idioma – sem sotaque? Descubra com o novo gerador de fala do ElevenLab.
A corrida armamentista da IA continua a acelerar, com novas fronteiras na clonagem de voz surgindo quase diariamente. O desenvolvimento mais recente vem da startup ElevenLabs, com sede em São Francisco, que acaba de anunciar que seu novo modelo de IA agora pode imitar vozes falando fluentemente em 30 idiomas diferentes – uma expansão dramática dos oito originais que eram suportados anteriormente.
CS, 08/02/2023
"Deixe-me apresentá-lo a... Emin-AI-em"
Talvez incapaz de conseguir uma colaboração adequada com Eminem por conta própria, David Guetta resolveu o problema com as próprias mãos com a ajuda da IA. Em um show recente, o DJ/produtor superstar mostrou exatamente o que a tecnologia pode fazer ao tocar um trecho de uma nova música com vocais deepfake soando estranhamente como o rapper de Detroit.
BU, 25/10/2024
Por Anthony Kimery
O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.
O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.
No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.
DPN, 14/08/2022
Por John Aldred
Esta é provavelmente a maneira mais prática e menos assustadora que eu vi a tecnologia deepfake sendo usada desde que foi criada inicialmente. Embora tenha tido algumas vitrines muito impressionantes, particularmente como uma alternativa às versões mal feitas em CGI de atores que parecem anos mais jovens do que são ou até mesmo os trazendo de volta dos mortos, esse aplicativo é um pouco menos drástico e um pouco mais transparente.
No que está sendo chamado de “vubbing”, a tecnologia deepfake está sendo usada para gerar novos quadros (cenas) quando como as linhas (parágrafos) são alteradas no post ou certas coisas (como palavrões) são cortadas completamente para apaziguar os censores (a MPAA, neste caso). Com a tecnologia deepfake tendo um custo muito abaixo do orçamento de refilmagens, faz muito sentido, mas que a tecnologia tenha chegado tão rápido também é muito impressionante.
PSUUD, 11/08/2022
Por Jessica Hallman
Os dispositivos móveis usam a tecnologia de reconhecimento facial para ajudar os usuários a desbloquear seus telefones de forma rápida e segura, fazer uma transação financeira ou acessar registros médicos. Mas as tecnologias de reconhecimento facial que empregam um método específico de detecção de usuários são altamente vulneráveis a ataques baseados em deepfake que podem levar a preocupações significativas de segurança para usuários e aplicativos, de acordo com uma nova pesquisa envolvendo o Penn State College of Information Sciences and Technology
NME, 03/10/2022
Por Ellie Robinson
Foi relatado na semana passada que Willis continuaria “atuando” através de um avatar digital
Bruce Willis negou relatos de que ele licenciou o uso de sua imagem para uma empresa de deepfake, depois de anunciar formalmente sua aposentadoria no início do ano.
Na semana passada, o Daily Mail informou que Willis vendeu sua imagem para a Deepcake – uma empresa russa especializada em otimização de conteúdo com inteligência artificial – pouco antes de saber de seu diagnóstico de afasia. A condição do ator foi tornada pública em março, quando um comunicado confirmando foi compartilhado juntamente com a notícia de que Willis se aposentaria da indústria cinematográfica após 44 anos.
TX, 30/03/2024
A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.
Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.
"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.
CTPH, 23/01/2024
Por Tristan Greene
Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.
Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.
As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.
GM, 11/10/2022
Por Kyle Barr
O Podcast.ai gerou uma gravação de áudio falsa usando vozes artificiais e transcrições de modelos de linguagem com base nos antigos discursos públicos e palestras de Rogan e Jobs.
É “Spooky Season”, então faz sentido que estaríamos vendo, ou pelo menos ouvindo, alguns famosos da tecnologia voltando dos mortos. Steve Jobs muitas vezes sentimos que ainda tem os dois pés fora da cova pela frequência com que o empresário de tecnologia é trazido (a vida) em conversas por pessoas dentro e fora da empresa que ele co-fundou. No entanto, um podcast recém-lançado hospedado por uma versão falsa de Joe Rogan tenta trazer a voz de Jobs de volta com… resultados interessantes.
