Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

OpenAI revela ferramenta de clonagem de voz

TX, 30/03/2024 

A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Grupos anti-armamento civil enviam ao Congresso apelos por controle de armas gerados por IA (deepfake) de pessoas falecidas

BTB, 19/02/2024 

Por Awr Hawkins 

Como parte de uma campanha lançada pelo March for Our Lives e Change the Ref, os legisladores estão recebendo apelos pelo controle de armas através das vozes geradas por IA de pessoas mortas em tiroteios.

A CNN relatou que uma das vozes geradas por IA é a de Joaquin Oliver, um estudante morto no tiroteio na escola secundária de Parkland em 14 de fevereiro de 2018.

Quando uma ligação é feita usando a voz gerada por IA destinada a representar Oliver, os legisladores ouvem:

IA usada para ressuscitar ditador morto para influenciar eleições

TB, 13/02/2024 

Por Maggie Harrison 

Do além

Um partido político indonésio usou IA generativa para "ressuscitar" uma das figuras políticas mais violentas da história do país em uma mensagem de endosso bizarra e falsa, informa a CNN – o uso mais recente e possivelmente mais estranho da IA generativa no mundo da política, das eleições e da informação.

A figura retratada no deepfake – compartilhada pela primeira vez no X-antigo-Twitter em 6 de janeiro –é o ex-ditador indonésio Suharto, cujo regime de Nova Ordem, apoiado pelos EUA, estima-se que tenha matado entre 500.000 a um milhão de indonésios. O regime brutal de Suharto durou mais de três décadas, até que a agitação em massa o levou a renunciar formalmente em 1998. Ele morreu em 2008.

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo

CTPH, 05/02/2024 

Por Tristan Greene

A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

Os espectadores de pornografia na UE podem ter que provar a sua idade

BBC, 20/12/2023 

Três dos maiores sites pornográficos do mundo foram informados de que os seus usuários na União Europeia poderão ter de utilizar tecnologia de verificação de idade.

Pornhub, Xvideos e Stripchat enfrentam regulamentações mais rígidas porque foram avaliados como tendo pelo menos 45 milhões de usuários mensais nos países da UE.

As regras da UE significam que as empresas desta dimensão têm de tomar medidas adicionais para proteger as crianças.

Deepfake: tecnologia de clonagem de voz surge na guerra civil no Sudão

BBC, 05/10/2023 

Por Jack Goodman 

Uma campanha que utiliza inteligência artificial para se passar por Omar al-Bashir, o antigo líder do Sudão, recebeu centenas de milhares de visualizações no TikTok, aumentando a confusão online num país dilacerado pela guerra civil.

Uma conta anônima tem postado o que diz serem “gravações vazadas” do ex-presidente desde o final de agosto. O canal postou dezenas de clipes – mas a voz é falsa.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Nova tendência deepfake: áudio erótico de IA para criar experiência de namoro e intimidade

TX, 31/08/2023 

Por Jodi McAlister e Athena Bellas 

Como o áudio erótico cria a fantasia íntima de uma experiência de namorado, sem precisar de um namorado

A última década viu  um aumento generalizado na popularidade dos meios de comunicação de áudio. Os podcasts começaram a surgir durante a década de 2000, auxiliados primeiro por tecnologias como o iPod e o lançamento de aplicativos de podcast dedicados, e depois pela publicação do enormemente popular podcast serializado de crimes reais Serial em 2014.

Os audiolivros também ressurgiram, estimulados por novas tecnologias que permitiram que fossem baixados para dispositivos. Eles são agora um dos setores de crescimento mais rápido da indústria editorial.

Uma startup de IA agora pode gerar fala usando sua voz em 30 idiomas

Decrypt, 23/08/2023 

Por José Antonio Lanz 

Quer saber como você soaria falando outro idioma – sem sotaque? Descubra com o novo gerador de fala do ElevenLab.

A corrida armamentista da IA ​​continua a acelerar, com novas fronteiras na clonagem de voz surgindo quase diariamente. O desenvolvimento mais recente vem da startup ElevenLabs, com sede em São Francisco, que acaba de anunciar que seu novo modelo de IA agora pode imitar vozes falando fluentemente em 30 idiomas diferentes – uma expansão dramática dos oito originais que eram suportados anteriormente.

Apenas uma gravação de voz de 1 minuto é necessário para clonar sua voz

GH, 16/08/2023 

A IA Generativa (GAI) tornou-se um catalisador para a mudança, introduzindo novas formas de fazer negócios, gerenciar dados, reunir insights e reunir conteúdo. 

Como uma tecnologia inteligente e altamente capaz, tornou-se uma ferramenta poderosa na caixa de ferramentas de negócios, fornecendo análise, suporte e funcionalidade rápidas.

Lamentavelmente, o imenso potencial do GAI está sendo explorado por cibercriminosos, que o aproveitaram para fins maliciosos, como criar deep fakes convincentes e perpetrar fraudes de voz irritantemente realistas. 

Google e Universal Music querem supostamente monetizar músicos de IA deepfake

TB, 09/08/2023 

Por Frank Landymore 

Mudando de tom

Em abril, a Universal Music Group - uma das maiores gravadoras do mundo - exigiu a retirada de uma música que usava vocais clonados de voz de seus artistas Drake e The Weeknd.

Agora, aparentemente mudando de tom, o Financial Times relata que a UMG iniciou negociações com o Google, sobre como juntos eles poderiam licenciar melodias e vozes de artistas para uso em músicas geradas por IA, com a Warner Music também dizendo estar nas negociações.

Humanos não distinguem bem deepfake de voz com a fala humana

CT, 03/08/2023 

Por Fidel Farato 

A chegada da Inteligência Artificial (IA) generativa acelerou e melhorou os resultados de muitas ferramentas de criação, como as usadas na geração de áudios falsos. O problema é que, aparentemente, as pessoas têm pouca capacidade em distinguir o que é um deepfake de voz e uma fala humana verdadeira, segundo estudo publicado na revista científica PLoS ONE.

No experimento, os pesquisadores do University College London (UCL), na Inglaterra, testaram a capacidade de 529 pessoas em identificar o que era uma voz real e o que era um deepfake sonoro. Em mais de um quarto dos casos (27%), os voluntários se confundiram entre o que era real e inventado pelo algoritmo da IA. Os áudios estavam em inglês ou em mandarim.

Empresa de deepfake de voz levanta US$ 19 milhões para lançar ferramenta que combate sua própria tecnologia

BU, 22/06/2023 

Por William McCurdy 

Como os riscos apresentados pela fraude de IA generativa podem estar crescendo em todo o mundo, a ElevenLabs revelou uma nova ferramenta que permitirá aos usuários fazer upload de qualquer amostra de áudio, para identificar se contém áudio gerado com a IA da empresa.

A ElevenLabs é uma startup sediada nos Estados Unidos que oferece uma plataforma de síntese de fala, que editores e criadores possam usar para criar conteúdo de áudio sintético. Por exemplo, a tecnologia pode ler um artigo de jornal online ou um livro com uma voz razoavelmente humana.

Clones de IA feitos a partir de dados do usuário representam riscos estranhos

YN!, 04/06/2023 

Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?

Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.

Golpe 'deepfake' na China levanta preocupações de fraude alimentada por IA

IE, 23/05/2023 

Por Ameya Paleja 

Os cidadãos estão preocupados se as regras aplicadas são suficientes para os proteger.

Um golpe recentemente relatado na China que usou tecnologia 'deep fake' levantou preocupações sobre o uso de inteligência artificial (IA) na realização de atividades fraudulentas no país. A discussão no site de mídia social Weibo sobre a explosão no número de varreduras alimentadas por IA ganhou mais de 120 milhões de visualizações em um dia, informou a Reuters.

Ao longo dos anos, o termo "deep fakes" tem sido associado principalmente a celebridades, mas à medida que a tecnologia de IA se torna mais popular, também despertou temores de afetar o plebeu. Recentemente, um conselheiro das Nações Unidas alertou contra o uso destrutivo da tecnologia e instou as nações a trazerem regulamentações para proteger o público.

Tom Hanks diz que seu deepfake de IA poderia aparecer em filmes após sua morte

YN!, 18/05/2023 

Por Caroline Thayer 

O peso-pesado de Hollywood Tom Hanks está pesando no uso de inteligência artificial nos filmes, especialmente à medida que envelhece e seu nome e aparência ainda são cobiçados.

O ator de "Um Homem Chamado Otto" deu sua opinião sobre a IA – observando que seu uso na indústria não é novidade e "sempre foi" muito usado.

"A primeira vez que fizemos um filme que tinha uma enorme quantidade de nossos próprios dados contidos em um computador, literalmente como parecíamos, foi um filme chamado 'The Polar Express'", disse Hanks no "The Adam Buxton Podcast" sobre seu filme de animação de 2004.

Quase 60% dos músicos já estão usando IA em suas produções, sugere estudo

YE!,  21/04/2023 

Por Ben Rogerson 

Nos próximos anos, os primeiros meses de 2023 podem ser lembrados como o período em que a música gerada por IA passou de uma novidade divertida a um terrível destruidor cultural.

Nos últimos meses, testemunhamos David Guetta empregando um Eminem 'deepfake', um produtor fazendo-se soar como Kanye West, uma faixa criada por fac-símiles de Drake e Eminem sendo retirada de serviços de streaming e até mesmo um 'novo' Oasis imaginado álbum com vocais de 'Liam Gallagher' com voz de IA. Que hora de estar vivo.