IA 'reanimou' uma vítima de assassinato para que ela falasse no tribunal

ZMSC, 17/06/2025

Por Nir Eisikovits 

Avatares de pessoas mortas com IA estão ministrando cursos e testemunhando em tribunais. Mesmo com as melhores intenções, a prática emergente de "reanimações" com IA é um atoleiro ético.

Christopher Pelkey foi morto a tiros em um incidente de fúria no trânsito em 2021. No dia 8 de maio de 2025, durante a audiência de sentença de seu assassino, uma reconstrução em vídeo com IA de Pelkey fez uma declaração de impacto da vítima. O juiz do caso relatou ter ficado profundamente comovido com a apresentação e aplicou a pena máxima por homicídio culposo.

Como parte das comemorações dos 77 anos de independência de Israel, no dia 30 de abril de 2025, as autoridades haviam planejado realizar um concerto com quatro cantores israelenses icônicos. Todos os quatro já estavam mortos há anos. A ideia era trazê-los de volta usando som e vídeo gerados por IA. Os artistas falecidos deveriam cantar ao lado de Yardena Arazi, uma artista famosa e ainda viva. No final, Arazi desistiu de participar, citando o clima político, e o evento acabou não acontecendo.

IA comportamental é nossa melhor esperança para combater ameaças de engenharia social

VB, 04/02/2025

Enquanto líderes empresariais e especialistas discutem e debatem sobre o ciclo de hype da IA, cibercriminosos têm estado ocupados lançando ataques devastadores impulsionados por inteligência artificial. Ataques de engenharia social gerados por IA — incluindo phishing e comprometimento de e-mails corporativos — aumentaram drasticamente, com ferramentas de código aberto como ChatGPT (e suas contrapartes maliciosas, GhostGPT, FraudGPT e WormGPT) oferecendo a fraudadores sem experiência técnica um novo campo de atuação para criar ataques. Eles estão desenvolvendo ataques sofisticados e incrivelmente convincentes em larga escala, visando o vetor de segurança mais vulnerável de qualquer empresa: os humanos, em todos os níveis da organização.

A CIA está silenciosamente usando IA para criar versões simuladas de líderes mundiais.

TB, 21/01/2025

Por Noor Al-Sibai

Família Espiã  

A Agência Central de Inteligência (CIA) está intensificando seus esforços no campo da inteligência artificial (IA) — incluindo uma aplicação surpreendente da tecnologia de chatbots.  

Segundo o The New York Times, a CIA está desenvolvendo uma plataforma que permite que analistas "conversem" com líderes estrangeiros, buscando prever como esses líderes poderiam reagir em determinadas situações.  

Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA

BU, 19/11/2024 

Por Abigail Opiah 

Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

OpenAI revela ferramenta de clonagem de voz

TX, 30/03/2024 

A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Grupos anti-armamento civil enviam ao Congresso apelos por controle de armas gerados por IA (deepfake) de pessoas falecidas

BTB, 19/02/2024 

Por Awr Hawkins 

Como parte de uma campanha lançada pelo March for Our Lives e Change the Ref, os legisladores estão recebendo apelos pelo controle de armas através das vozes geradas por IA de pessoas mortas em tiroteios.

A CNN relatou que uma das vozes geradas por IA é a de Joaquin Oliver, um estudante morto no tiroteio na escola secundária de Parkland em 14 de fevereiro de 2018.

Quando uma ligação é feita usando a voz gerada por IA destinada a representar Oliver, os legisladores ouvem:

IA usada para ressuscitar ditador morto para influenciar eleições

TB, 13/02/2024 

Por Maggie Harrison 

Do além

Um partido político indonésio usou IA generativa para "ressuscitar" uma das figuras políticas mais violentas da história do país em uma mensagem de endosso bizarra e falsa, informa a CNN – o uso mais recente e possivelmente mais estranho da IA generativa no mundo da política, das eleições e da informação.

A figura retratada no deepfake – compartilhada pela primeira vez no X-antigo-Twitter em 6 de janeiro –é o ex-ditador indonésio Suharto, cujo regime de Nova Ordem, apoiado pelos EUA, estima-se que tenha matado entre 500.000 a um milhão de indonésios. O regime brutal de Suharto durou mais de três décadas, até que a agitação em massa o levou a renunciar formalmente em 1998. Ele morreu em 2008.

Ex-PM paquistanês preso usa vídeo de deepfake para reivindicar vitória nas eleições do Paquistão'

SKN, 09/02/2024 

A União Europeia, o Reino Unido e os Estados Unidos todos lançaram dúvidas sobre a integridade da votação. O Secretário de Relações Exteriores, Lorde Cameron, disse que havia "preocupações sérias" sobre a "imparcialidade e falta de inclusão" da votação.

O ex-primeiro-ministro do Paquistão, Imran Khan, preso, reivindicou a vitória de seus apoiadores nas eleições gerais do país – por meio de um vídeo gerado usando inteligência artificial (IA).

O vídeo do ex-astro do críquete foi postado nas redes sociais na sexta-feira, apenas algumas horas depois de seu rival Nawaz Sharif também reivindicar a vitória, apesar da contagem de votos continuar.

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo

CTPH, 05/02/2024 

Por Tristan Greene

A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

Serviços de nudez deepfake de IA dispararam em popularidade: pesquisa

CTPH, 10/12/2023 

Por Amaka Nwaaokocha 

A empresa de análise de mídia social Graphika observou um aumento acentuado nas ofertas de serviços NCII sintéticos.

A empresa de análise de mídia social Graphika afirmou que o uso de “despir IA” está aumentando.

Essa prática envolve a utilização de ferramentas generativas de inteligência artificial (IA) ajustadas com precisão para eliminar roupas das imagens fornecidas pelos usuários.

Deepfake: tecnologia de clonagem de voz surge na guerra civil no Sudão

BBC, 05/10/2023 

Por Jack Goodman 

Uma campanha que utiliza inteligência artificial para se passar por Omar al-Bashir, o antigo líder do Sudão, recebeu centenas de milhares de visualizações no TikTok, aumentando a confusão online num país dilacerado pela guerra civil.

Uma conta anônima tem postado o que diz serem “gravações vazadas” do ex-presidente desde o final de agosto. O canal postou dezenas de clipes – mas a voz é falsa.

O nascimento de influenciadores deepfake de IA na China que transmitem live 24 horas por dia

CP, 19/09/2023 

Por Aamir Sheikh 

Livestreamers gerados por IA revolucionam o cenário do comércio eletrônico na China

Na vida noturna, onde o comércio eletrônico nunca dorme, os Livestreamers gerados por IA, muitas vezes referidos como “deepfakes de influenciadores chineses”, emergiram como as novas estrelas da arena do marketing digital da China. Estes avatares realistas, indistinguíveis dos seus homólogos humanos, apregoam incansavelmente produtos em plataformas populares como Taobao e JD, transformando a dinâmica das compras online. Com o surgimento desta tecnologia inovadora, as marcas agora podem ter seus representantes de vendas virtuais trabalhando 24 horas por dia, 7 dias por semana, por uma fração do custo de influenciadores reais.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Canção deepfake do cantor Drake gerada por IA selecionada para o Grammy

TB, 06/09/2023 

Por Victor Tangermann

"No que diz respeito ao lado criativo, é absolutamente elegível porque foi escrita por um ser humano". 

Prêmios de IA

Uma canção altamente controversa gerada por IA com os vocais clonados de Aubrey “Drake” Graham, e Abel Makkonen “the Weeknd” Tesfaye, foi oficialmente submetida ao Grammy Awards para consideração, relata o New  York Times.

Um icônico artista de CGI afirma que em breve haverá um filme totalmente gerado por IA

TB, 02/09/2023 

Por Sharon Adarlo 

Deepfake

Com atores e escritores em greve e protestando contra a inteligência artificial como uma ameaça existencial aos seus meios de subsistência, um pioneiro do CGI que trabalhou em filmes icônicos como "O Exterminador do Futuro 2: O Dia do Julgamento" de James Cameron, prevê que no futuro haverá um filme totalmente baseado em IA que vai enganar todo mundo, de acordo com uma nova entrevista ao Metro.

Steve Williams, um grande nome na história dos efeitos visuais, comparou o cenário hipotético à famosa peça de rádio de Orson Welles, “A Guerra dos Mundos”, que enganou algumas pessoas fazendo-as pensar que uma invasão alienígena estava realmente em andamento.

Nova tendência deepfake: áudio erótico de IA para criar experiência de namoro e intimidade

TX, 31/08/2023 

Por Jodi McAlister e Athena Bellas 

Como o áudio erótico cria a fantasia íntima de uma experiência de namorado, sem precisar de um namorado

A última década viu  um aumento generalizado na popularidade dos meios de comunicação de áudio. Os podcasts começaram a surgir durante a década de 2000, auxiliados primeiro por tecnologias como o iPod e o lançamento de aplicativos de podcast dedicados, e depois pela publicação do enormemente popular podcast serializado de crimes reais Serial em 2014.

Os audiolivros também ressurgiram, estimulados por novas tecnologias que permitiram que fossem baixados para dispositivos. Eles são agora um dos setores de crescimento mais rápido da indústria editorial.