OpenAI revela ferramenta de clonagem de voz

TX, 30/03/2024 

A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Grupos anti-armamento civil enviam ao Congresso apelos por controle de armas gerados por IA (deepfake) de pessoas falecidas

BTB, 19/02/2024 

Por Awr Hawkins 

Como parte de uma campanha lançada pelo March for Our Lives e Change the Ref, os legisladores estão recebendo apelos pelo controle de armas através das vozes geradas por IA de pessoas mortas em tiroteios.

A CNN relatou que uma das vozes geradas por IA é a de Joaquin Oliver, um estudante morto no tiroteio na escola secundária de Parkland em 14 de fevereiro de 2018.

Quando uma ligação é feita usando a voz gerada por IA destinada a representar Oliver, os legisladores ouvem:

IA usada para ressuscitar ditador morto para influenciar eleições

TB, 13/02/2024 

Por Maggie Harrison 

Do além

Um partido político indonésio usou IA generativa para "ressuscitar" uma das figuras políticas mais violentas da história do país em uma mensagem de endosso bizarra e falsa, informa a CNN – o uso mais recente e possivelmente mais estranho da IA generativa no mundo da política, das eleições e da informação.

A figura retratada no deepfake – compartilhada pela primeira vez no X-antigo-Twitter em 6 de janeiro –é o ex-ditador indonésio Suharto, cujo regime de Nova Ordem, apoiado pelos EUA, estima-se que tenha matado entre 500.000 a um milhão de indonésios. O regime brutal de Suharto durou mais de três décadas, até que a agitação em massa o levou a renunciar formalmente em 1998. Ele morreu em 2008.

Ex-PM paquistanês preso usa vídeo de deepfake para reivindicar vitória nas eleições do Paquistão'

SKN, 09/02/2024 

A União Europeia, o Reino Unido e os Estados Unidos todos lançaram dúvidas sobre a integridade da votação. O Secretário de Relações Exteriores, Lorde Cameron, disse que havia "preocupações sérias" sobre a "imparcialidade e falta de inclusão" da votação.

O ex-primeiro-ministro do Paquistão, Imran Khan, preso, reivindicou a vitória de seus apoiadores nas eleições gerais do país – por meio de um vídeo gerado usando inteligência artificial (IA).

O vídeo do ex-astro do críquete foi postado nas redes sociais na sexta-feira, apenas algumas horas depois de seu rival Nawaz Sharif também reivindicar a vitória, apesar da contagem de votos continuar.

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo

CTPH, 05/02/2024 

Por Tristan Greene

A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

Os espectadores de pornografia na UE podem ter que provar a sua idade

BBC, 20/12/2023 

Três dos maiores sites pornográficos do mundo foram informados de que os seus usuários na União Europeia poderão ter de utilizar tecnologia de verificação de idade.

Pornhub, Xvideos e Stripchat enfrentam regulamentações mais rígidas porque foram avaliados como tendo pelo menos 45 milhões de usuários mensais nos países da UE.

As regras da UE significam que as empresas desta dimensão têm de tomar medidas adicionais para proteger as crianças.

Serviços de nudez deepfake de IA dispararam em popularidade: pesquisa

CTPH, 10/12/2023 

Por Amaka Nwaaokocha 

A empresa de análise de mídia social Graphika observou um aumento acentuado nas ofertas de serviços NCII sintéticos.

A empresa de análise de mídia social Graphika afirmou que o uso de “despir IA” está aumentando.

Essa prática envolve a utilização de ferramentas generativas de inteligência artificial (IA) ajustadas com precisão para eliminar roupas das imagens fornecidas pelos usuários.

Deepfake: tecnologia de clonagem de voz surge na guerra civil no Sudão

BBC, 05/10/2023 

Por Jack Goodman 

Uma campanha que utiliza inteligência artificial para se passar por Omar al-Bashir, o antigo líder do Sudão, recebeu centenas de milhares de visualizações no TikTok, aumentando a confusão online num país dilacerado pela guerra civil.

Uma conta anônima tem postado o que diz serem “gravações vazadas” do ex-presidente desde o final de agosto. O canal postou dezenas de clipes – mas a voz é falsa.

O Reino Unido aprova uma nova lei com medidas de vigilância e censura online abrangentes

RTN, 20/09/2023 

Por Dan Frieth 

O Reino Unido aprovou sua controversa lei de censura online conhecida como Online Safety Bill. O projeto de lei, um dos mais amplos ataques à privacidade e à liberdade de expressão numa democracia ocidental, tornou-se lei.

O projeto de lei visa proteger os usuários da Internet, especialmente os jovens, dos ataques de conteúdo online malicioso. Mas o projeto vai além de forçar as plataformas a remover conteúdo ilegal.

Apela aos gigantes das redes sociais para que atuem como guardiães, protegendo os usuários contra mensagens mal intencionadas, cyberbullying e material explícito.

O nascimento de influenciadores deepfake de IA na China que transmitem live 24 horas por dia

CP, 19/09/2023 

Por Aamir Sheikh 

Livestreamers gerados por IA revolucionam o cenário do comércio eletrônico na China

Na vida noturna, onde o comércio eletrônico nunca dorme, os Livestreamers gerados por IA, muitas vezes referidos como “deepfakes de influenciadores chineses”, emergiram como as novas estrelas da arena do marketing digital da China. Estes avatares realistas, indistinguíveis dos seus homólogos humanos, apregoam incansavelmente produtos em plataformas populares como Taobao e JD, transformando a dinâmica das compras online. Com o surgimento desta tecnologia inovadora, as marcas agora podem ter seus representantes de vendas virtuais trabalhando 24 horas por dia, 7 dias por semana, por uma fração do custo de influenciadores reais.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Canção deepfake do cantor Drake gerada por IA selecionada para o Grammy

TB, 06/09/2023 

Por Victor Tangermann

"No que diz respeito ao lado criativo, é absolutamente elegível porque foi escrita por um ser humano". 

Prêmios de IA

Uma canção altamente controversa gerada por IA com os vocais clonados de Aubrey “Drake” Graham, e Abel Makkonen “the Weeknd” Tesfaye, foi oficialmente submetida ao Grammy Awards para consideração, relata o New  York Times.

Um icônico artista de CGI afirma que em breve haverá um filme totalmente gerado por IA

TB, 02/09/2023 

Por Sharon Adarlo 

Deepfake

Com atores e escritores em greve e protestando contra a inteligência artificial como uma ameaça existencial aos seus meios de subsistência, um pioneiro do CGI que trabalhou em filmes icônicos como "O Exterminador do Futuro 2: O Dia do Julgamento" de James Cameron, prevê que no futuro haverá um filme totalmente baseado em IA que vai enganar todo mundo, de acordo com uma nova entrevista ao Metro.

Steve Williams, um grande nome na história dos efeitos visuais, comparou o cenário hipotético à famosa peça de rádio de Orson Welles, “A Guerra dos Mundos”, que enganou algumas pessoas fazendo-as pensar que uma invasão alienígena estava realmente em andamento.

Nova tendência deepfake: áudio erótico de IA para criar experiência de namoro e intimidade

TX, 31/08/2023 

Por Jodi McAlister e Athena Bellas 

Como o áudio erótico cria a fantasia íntima de uma experiência de namorado, sem precisar de um namorado

A última década viu  um aumento generalizado na popularidade dos meios de comunicação de áudio. Os podcasts começaram a surgir durante a década de 2000, auxiliados primeiro por tecnologias como o iPod e o lançamento de aplicativos de podcast dedicados, e depois pela publicação do enormemente popular podcast serializado de crimes reais Serial em 2014.

Os audiolivros também ressurgiram, estimulados por novas tecnologias que permitiram que fossem baixados para dispositivos. Eles são agora um dos setores de crescimento mais rápido da indústria editorial.

Deepfakes estão sendo usados ​​para contornar sistemas de reconhecimento facial

HR, 26/08/2023 

Por Habiba Rashid 

Ataques de injeção de câmera: a nova ameaça à segurança do reconhecimento facial.

Os ataques de injeção de câmeras surgiram em meio à crescente dependência da segurança de reconhecimento facial. Stuart Wells, diretor de tecnologia da Jumio, uma empresa líder em autenticação biométrica, alerta sobre o perigo crescente representado pelos ataques de injeção de câmeras, e oferece insights sobre como as organizações podem se defender contra essa forma sofisticada de fraude de identidade.

Uma startup de IA agora pode gerar fala usando sua voz em 30 idiomas

Decrypt, 23/08/2023 

Por José Antonio Lanz 

Quer saber como você soaria falando outro idioma – sem sotaque? Descubra com o novo gerador de fala do ElevenLab.

A corrida armamentista da IA ​​continua a acelerar, com novas fronteiras na clonagem de voz surgindo quase diariamente. O desenvolvimento mais recente vem da startup ElevenLabs, com sede em São Francisco, que acaba de anunciar que seu novo modelo de IA agora pode imitar vozes falando fluentemente em 30 idiomas diferentes – uma expansão dramática dos oito originais que eram suportados anteriormente.

Apenas uma gravação de voz de 1 minuto é necessário para clonar sua voz

GH, 16/08/2023 

A IA Generativa (GAI) tornou-se um catalisador para a mudança, introduzindo novas formas de fazer negócios, gerenciar dados, reunir insights e reunir conteúdo. 

Como uma tecnologia inteligente e altamente capaz, tornou-se uma ferramenta poderosa na caixa de ferramentas de negócios, fornecendo análise, suporte e funcionalidade rápidas.

Lamentavelmente, o imenso potencial do GAI está sendo explorado por cibercriminosos, que o aproveitaram para fins maliciosos, como criar deep fakes convincentes e perpetrar fraudes de voz irritantemente realistas. 

Google e Universal Music querem supostamente monetizar músicos de IA deepfake

TB, 09/08/2023 

Por Frank Landymore 

Mudando de tom

Em abril, a Universal Music Group - uma das maiores gravadoras do mundo - exigiu a retirada de uma música que usava vocais clonados de voz de seus artistas Drake e The Weeknd.

Agora, aparentemente mudando de tom, o Financial Times relata que a UMG iniciou negociações com o Google, sobre como juntos eles poderiam licenciar melodias e vozes de artistas para uso em músicas geradas por IA, com a Warner Music também dizendo estar nas negociações.