Mostrando postagens classificadas por data para a consulta deepfakes. Ordenar por relevância Mostrar todas as postagens
Mostrando postagens classificadas por data para a consulta deepfakes. Ordenar por relevância Mostrar todas as postagens

20 de nov. de 2024

Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA




BU, 19/11/2024 



Por Abigail Opiah 



Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

7 de nov. de 2024

Quão próximos estamos de um detector preciso de notícias falsas com IA?




TX, 06/11/2024 



Por Magda Osman 



Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

29 de out. de 2024

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?




BU, 25/10/2024 



Por Anthony Kimery 



O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

22 de out. de 2024

Os chefes do Pentágono Querem Inundar as Redes Sociais com Pessoas Falsas de IA





TB, 19/10/2024 



Por Maggie Harrison 



"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo."

Amigos do Pentágono.

Personas de IA operadas pelo Pentágono podem estar chegando a um fórum da internet perto de você.

Como relatado pelo The Intercept, uma lista de desejos apresentada pelo Comando de Operações Especiais Conjuntas (JSOC) — um grupo furtivo de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD) — revela o interesse da agência em usar IA generativa para criar usuários falsos na internet.

5 de set. de 2024

As novas propostas de lei de IA da Califórnia podem impactar os memes




RTN, 04/09/2024 



Por Didi Rankovic



A legislatura do estado da Califórnia aprovou vários projetos de lei relacionados à "IA", incluindo uma proibição de deepfakes "em torno das eleições".

Os legisladores inseriram esses projetos durante a última semana das sessões atuais do Senado e da Câmara estaduais, e agora cabe ao governador Gavin Newsom (que já pediu por tais leis) assinar ou vetar esses projetos até o final deste mês.

4 de set. de 2024

Coreia do Sul se junta à repressão global ao Telegram, citando deepfakes




CTPH, 03/09/2024 



Por Helen Partz 



A Coreia do Sul se juntou à crescente lista de jurisdições globais que estão lançando investigações contra o Telegram por disseminação de conteúdo ilícito.

As autoridades sul-coreanas estão investigando o Telegram Messenger por supostos crimes envolvendo conteúdo ilícito na plataforma.

A Agência de Polícia Metropolitana de Seul iniciou uma investigação preliminar sobre o Telegram por alegações de "cumplicidade em crimes sexuais com deepfakes", informou a agência de notícias local Yonhap em 3 de setembro.

18 de jun. de 2024

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"




RTN, 18/06/2024 



Por Didi Rankovic 



A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

10 de mai. de 2024

A OpenAI está explorando como criar pornografia gerada por inteligência artificial




TB, 08/05/2024 



Por Jon Christian 



"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

18 de abr. de 2024

A Microsoft apresenta o VASA-1, um framework de IA que faz retratos humanos falar e cantar





VB, 18/04/2024 



Por Shubham Sharma 



A Microsoft deu um grande salto no campo da geração de conteúdo impulsionada por IA. Apenas algumas horas atrás, o braço de pesquisa da empresa liderada por Satya Nadella apresentou o VASA-1, um framework de IA que pode converter retratos humanos em vídeos falados e cantados.

O projeto marca uma mudança significativa no que foi alcançado na geração de conteúdo gerado por IA, pois trabalha com entrada mínima. Tudo o que precisa é de um retrato estático e um arquivo de áudio com discurso, e o modelo o trará à vida, completo com sincronização labial e expressões relacionadas e movimentos de cabeça.

3 de abr. de 2024

Projeto de lei da Califórnia sobre autenticação em redes sociais visa combater a interferência nas eleições




BU, 02/04/2024 



Por Joel R. McConvey 



A Califórnia promulgou o Projeto de Lei do Senado 1228 sobre autenticação de usuários, parte de um pacote legislativo maior projetado para proteger as eleições do estado contra desinformação, informação imprecisa e outros usos potencialmente desestabilizadores da tecnologia. Apresentado pelo Senador Steve Padilla, o projeto de lei exige que grandes plataformas online exijam verificação de identidade digital e rotulagem para usuários com grandes audiências, como "influenciadores", ou aqueles que distribuem grandes quantidades de conteúdo gerado por IA.

30 de mar. de 2024

OpenAI revela ferramenta de clonagem de voz




TX, 30/03/2024 



A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

28 de fev. de 2024

Governo Liberal do Canadá Avança Projeto de Lei de Censura de "Danos Online"




RTN, 27/02/2024 



Por Cindy Harper 



O Ministro da Justiça do Canadá, Arif Virani, avançou com um projeto de lei altamente controverso, chamado Projeto de Lei C-63, propondo uma nova legislação abrangente destinada a abordar o discurso de ódio online.

Obtivemos uma cópia do projeto de lei para você aqui.

O projeto de lei abrange sete tipos de material prejudicial, desde conteúdo que explora sexualmente ou revitimiza crianças e sobreviventes até conteúdo que promove violência e extremismo.

26 de fev. de 2024

Dos deepfakes aos candidatos digitais: o jogo político da IA




VB, 25/02/2024 



Por Gary Grossman 



A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

12 de fev. de 2024

Autoridades da UE começam a elaborar diretrizes de censura para a Big Tech antes das eleições de 2024





RTN, 12/02/2024 



Por Didi Rankovic 



A União Europeia anunciou que começou a elaborar o que chama de "diretrizes para integridade eleitoral" – mas o que os críticos descreverão em linguagem simples como diretrizes de censura que as Big Tech devem seguir.

O processo de elaboração dessas instruções, parte do Ato de Serviços Digitais (DSA), foi iniciado com uma consulta pública que durará até 7 de março, e a UE afirmou que estas serão as primeiras diretrizes sob o DSA.

As mídias sociais e os serviços abrangidos por ele são referidos como Plataformas Online Muito Grandes e Mecanismos de Busca, e são eles que se espera que implementem o que a UE considera "melhores práticas e possíveis medidas para mitigar os riscos sistêmicos", relacionados às eleições.

5 de fev. de 2024

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo




CTPH, 05/02/2024 



Por Tristan Greene



A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

26 de jan. de 2024

Google lança gerador realista de texto para vídeo com IA ‘Lumiere’




CTPH, 25/01/2024 



Por Savannah Fortis 



O conceito mais recente do Google, Lumiere, é um modelo de difusão tempo-espaço que transforma texto e imagens em vídeos realistas gerados por IA com recursos de edição sob demanda.

Pesquisadores do Google divulgaram planos para um novo modelo de difusão espaço-temporal chamado Lumiere, que transformará texto ou uma imagem em um vídeo gerado por IA realista, com capacidades de edição sob demanda.

Lumiere é projetado para retratar "movimento realista, diverso e coerente" através do que chama de sua "arquitetura Space-Time U-Net". Isso gera instantaneamente toda a duração do vídeo em uma única passagem pelo modelo.

24 de jan. de 2024

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'




CTPH, 23/01/2024 



Por Tristan Greene 



Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

16 de jan. de 2024

OpenAI lançará ferramentas antidesinformação para as eleições de 2024




IP, 16/01/2024 



A OpenAI, fabricante do ChatGPT, disse que introduzirá ferramentas para combater a desinformação antes das dezenas de eleições deste ano em países que abrigam metade da população mundial.

O sucesso explosivo do gerador de texto ChatGPT estimulou uma revolução global da inteligência artificial, mas também desencadeou avisos de que tais ferramentas poderiam inundar a Internet com desinformação e influenciar os eleitores.

Com eleições marcadas para este ano em países como Estados Unidos, Índia e Grã-Bretanha, a OpenAI disse na segunda-feira que não permitirá que sua tecnologia – incluindo ChatGPT e o gerador de imagens DALL-E 3 – seja usada para campanhas políticas.

5 de jan. de 2024

Tecnologia de clonagem de voz impulsiona anúncios políticos em 2024 à medida que cresce temores de desinformação




VB, 05/01/2024 



Por Sharon Goldman 



Tecnologia de clonagem de voz para impulsionar anúncios políticos em 2024 à medida que crescem as preocupações com desinformação

As preocupações com a desinformação podem estar aumentando sobre o uso de IA nas eleições de 2024 nos EUA, mas isso não impede que as startups de clonagem de voz de IA entrem no jogo político.

Por exemplo, a Instreamatic, com sede em Boca Raton, Flórida, uma plataforma de anúncios de áudio/vídeo de IA que levantou uma rodada de financiamento da Série A de US$ 6,1 milhões em 2021, diz que está expandindo suas capacidades para o mundo selvagem da publicidade política. A solução permite que as campanhas dos candidatos gerem rapidamente anúncios contextuais em vídeo e áudio altamente direcionados, baseados em IA – apresentando narrações, e não vídeos de talk shows – que se adaptam a eventos ou locais em constante mudança.

3 de jan. de 2024

O crime cibernético alimentado por IA explodirá em 2024: segundo executivo da CrowdStrike




Decrypt, 02/01/2024



Por Jason Nelson 



O executivo de segurança Shawn Henry diz que a capacidade da IA ​​de enganar e desinformar está amadurecendo bem a tempo para as eleições de 2024.

O novo ano traz novas ameaças à segurança cibernética alimentadas por inteligência artificial, disse o diretor de segurança da CrowdStrike, Shawn Henry, à CBS Mornings nesta terça-feira.

Acho que esta é uma grande preocupação para todos”, disse Henry.

Related Posts Plugin for WordPress, Blogger...