Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA

BU, 19/11/2024 

Por Abigail Opiah 

Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

OpenAI revela ferramenta de clonagem de voz

TX, 30/03/2024 

A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Grupos anti-armamento civil enviam ao Congresso apelos por controle de armas gerados por IA (deepfake) de pessoas falecidas

BTB, 19/02/2024 

Por Awr Hawkins 

Como parte de uma campanha lançada pelo March for Our Lives e Change the Ref, os legisladores estão recebendo apelos pelo controle de armas através das vozes geradas por IA de pessoas mortas em tiroteios.

A CNN relatou que uma das vozes geradas por IA é a de Joaquin Oliver, um estudante morto no tiroteio na escola secundária de Parkland em 14 de fevereiro de 2018.

Quando uma ligação é feita usando a voz gerada por IA destinada a representar Oliver, os legisladores ouvem:

IA usada para ressuscitar ditador morto para influenciar eleições

TB, 13/02/2024 

Por Maggie Harrison 

Do além

Um partido político indonésio usou IA generativa para "ressuscitar" uma das figuras políticas mais violentas da história do país em uma mensagem de endosso bizarra e falsa, informa a CNN – o uso mais recente e possivelmente mais estranho da IA generativa no mundo da política, das eleições e da informação.

A figura retratada no deepfake – compartilhada pela primeira vez no X-antigo-Twitter em 6 de janeiro –é o ex-ditador indonésio Suharto, cujo regime de Nova Ordem, apoiado pelos EUA, estima-se que tenha matado entre 500.000 a um milhão de indonésios. O regime brutal de Suharto durou mais de três décadas, até que a agitação em massa o levou a renunciar formalmente em 1998. Ele morreu em 2008.

Ex-PM paquistanês preso usa vídeo de deepfake para reivindicar vitória nas eleições do Paquistão'

SKN, 09/02/2024 

A União Europeia, o Reino Unido e os Estados Unidos todos lançaram dúvidas sobre a integridade da votação. O Secretário de Relações Exteriores, Lorde Cameron, disse que havia "preocupações sérias" sobre a "imparcialidade e falta de inclusão" da votação.

O ex-primeiro-ministro do Paquistão, Imran Khan, preso, reivindicou a vitória de seus apoiadores nas eleições gerais do país – por meio de um vídeo gerado usando inteligência artificial (IA).

O vídeo do ex-astro do críquete foi postado nas redes sociais na sexta-feira, apenas algumas horas depois de seu rival Nawaz Sharif também reivindicar a vitória, apesar da contagem de votos continuar.

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo

CTPH, 05/02/2024 

Por Tristan Greene

A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

Serviços de nudez deepfake de IA dispararam em popularidade: pesquisa

CTPH, 10/12/2023 

Por Amaka Nwaaokocha 

A empresa de análise de mídia social Graphika observou um aumento acentuado nas ofertas de serviços NCII sintéticos.

A empresa de análise de mídia social Graphika afirmou que o uso de “despir IA” está aumentando.

Essa prática envolve a utilização de ferramentas generativas de inteligência artificial (IA) ajustadas com precisão para eliminar roupas das imagens fornecidas pelos usuários.

Deepfake: tecnologia de clonagem de voz surge na guerra civil no Sudão

BBC, 05/10/2023 

Por Jack Goodman 

Uma campanha que utiliza inteligência artificial para se passar por Omar al-Bashir, o antigo líder do Sudão, recebeu centenas de milhares de visualizações no TikTok, aumentando a confusão online num país dilacerado pela guerra civil.

Uma conta anônima tem postado o que diz serem “gravações vazadas” do ex-presidente desde o final de agosto. O canal postou dezenas de clipes – mas a voz é falsa.

O nascimento de influenciadores deepfake de IA na China que transmitem live 24 horas por dia

CP, 19/09/2023 

Por Aamir Sheikh 

Livestreamers gerados por IA revolucionam o cenário do comércio eletrônico na China

Na vida noturna, onde o comércio eletrônico nunca dorme, os Livestreamers gerados por IA, muitas vezes referidos como “deepfakes de influenciadores chineses”, emergiram como as novas estrelas da arena do marketing digital da China. Estes avatares realistas, indistinguíveis dos seus homólogos humanos, apregoam incansavelmente produtos em plataformas populares como Taobao e JD, transformando a dinâmica das compras online. Com o surgimento desta tecnologia inovadora, as marcas agora podem ter seus representantes de vendas virtuais trabalhando 24 horas por dia, 7 dias por semana, por uma fração do custo de influenciadores reais.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Canção deepfake do cantor Drake gerada por IA selecionada para o Grammy

TB, 06/09/2023 

Por Victor Tangermann

"No que diz respeito ao lado criativo, é absolutamente elegível porque foi escrita por um ser humano". 

Prêmios de IA

Uma canção altamente controversa gerada por IA com os vocais clonados de Aubrey “Drake” Graham, e Abel Makkonen “the Weeknd” Tesfaye, foi oficialmente submetida ao Grammy Awards para consideração, relata o New  York Times.

Um icônico artista de CGI afirma que em breve haverá um filme totalmente gerado por IA

TB, 02/09/2023 

Por Sharon Adarlo 

Deepfake

Com atores e escritores em greve e protestando contra a inteligência artificial como uma ameaça existencial aos seus meios de subsistência, um pioneiro do CGI que trabalhou em filmes icônicos como "O Exterminador do Futuro 2: O Dia do Julgamento" de James Cameron, prevê que no futuro haverá um filme totalmente baseado em IA que vai enganar todo mundo, de acordo com uma nova entrevista ao Metro.

Steve Williams, um grande nome na história dos efeitos visuais, comparou o cenário hipotético à famosa peça de rádio de Orson Welles, “A Guerra dos Mundos”, que enganou algumas pessoas fazendo-as pensar que uma invasão alienígena estava realmente em andamento.

Nova tendência deepfake: áudio erótico de IA para criar experiência de namoro e intimidade

TX, 31/08/2023 

Por Jodi McAlister e Athena Bellas 

Como o áudio erótico cria a fantasia íntima de uma experiência de namorado, sem precisar de um namorado

A última década viu  um aumento generalizado na popularidade dos meios de comunicação de áudio. Os podcasts começaram a surgir durante a década de 2000, auxiliados primeiro por tecnologias como o iPod e o lançamento de aplicativos de podcast dedicados, e depois pela publicação do enormemente popular podcast serializado de crimes reais Serial em 2014.

Os audiolivros também ressurgiram, estimulados por novas tecnologias que permitiram que fossem baixados para dispositivos. Eles são agora um dos setores de crescimento mais rápido da indústria editorial.

Uma startup de IA agora pode gerar fala usando sua voz em 30 idiomas

Decrypt, 23/08/2023 

Por José Antonio Lanz 

Quer saber como você soaria falando outro idioma – sem sotaque? Descubra com o novo gerador de fala do ElevenLab.

A corrida armamentista da IA ​​continua a acelerar, com novas fronteiras na clonagem de voz surgindo quase diariamente. O desenvolvimento mais recente vem da startup ElevenLabs, com sede em São Francisco, que acaba de anunciar que seu novo modelo de IA agora pode imitar vozes falando fluentemente em 30 idiomas diferentes – uma expansão dramática dos oito originais que eram suportados anteriormente.

Apenas uma gravação de voz de 1 minuto é necessário para clonar sua voz

GH, 16/08/2023 

A IA Generativa (GAI) tornou-se um catalisador para a mudança, introduzindo novas formas de fazer negócios, gerenciar dados, reunir insights e reunir conteúdo. 

Como uma tecnologia inteligente e altamente capaz, tornou-se uma ferramenta poderosa na caixa de ferramentas de negócios, fornecendo análise, suporte e funcionalidade rápidas.

Lamentavelmente, o imenso potencial do GAI está sendo explorado por cibercriminosos, que o aproveitaram para fins maliciosos, como criar deep fakes convincentes e perpetrar fraudes de voz irritantemente realistas. 

Google e Universal Music querem supostamente monetizar músicos de IA deepfake

TB, 09/08/2023 

Por Frank Landymore 

Mudando de tom

Em abril, a Universal Music Group - uma das maiores gravadoras do mundo - exigiu a retirada de uma música que usava vocais clonados de voz de seus artistas Drake e The Weeknd.

Agora, aparentemente mudando de tom, o Financial Times relata que a UMG iniciou negociações com o Google, sobre como juntos eles poderiam licenciar melodias e vozes de artistas para uso em músicas geradas por IA, com a Warner Music também dizendo estar nas negociações.