Militares dos EUA testam nova ferramenta de IA para combater deepfakes e desinformação

TDP, 03/08/2023 

Por Joe Saballa 

Os militares dos EUA estão testando uma ferramenta de inteligência artificial (IA) para detectar deepfakes e informações enganosas.

Apelidada de Data Robot, espera-se que a tecnologia reforce as capacidades de guerra de informação das forças armadas dos EUA em meio às crescentes campanhas de propaganda dos adversários.

De acordo com o diretor cibernético do Exército dos EUA, coronel Brett Riddle, o objetivo principal da nova ferramenta é fornecer uma “sobreposição” de informações corretas para ajudar os comandantes a tomar melhores decisões no campo de batalha.

Os chefes do Pentágono Querem Inundar as Redes Sociais com Pessoas Falsas de IA

TB, 19/10/2024 

Por Maggie Harrison 

"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo."

Amigos do Pentágono.

Personas de IA operadas pelo Pentágono podem estar chegando a um fórum da internet perto de você.

Como relatado pelo The Intercept, uma lista de desejos apresentada pelo Comando de Operações Especiais Conjuntas (JSOC) — um grupo furtivo de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD) — revela o interesse da agência em usar IA generativa para criar usuários falsos na internet.

As novas propostas de lei de IA da Califórnia podem impactar os memes

RTN, 04/09/2024 

Por Didi Rankovic

A legislatura do estado da Califórnia aprovou vários projetos de lei relacionados à "IA", incluindo uma proibição de deepfakes "em torno das eleições".

Os legisladores inseriram esses projetos durante a última semana das sessões atuais do Senado e da Câmara estaduais, e agora cabe ao governador Gavin Newsom (que já pediu por tais leis) assinar ou vetar esses projetos até o final deste mês.

Empresa de reconhecimento facial sugere que deepfakes reforçam a necessidade da identidade digital

RTT, 06/04/2023 

Por Didi Rankovic 

Outra desculpa para introduzir a identificação digital.

Depois de criar tecnologia – usada ao longo de anos, senão décadas na indústria do entretenimento – para produzir deepfakes – a mesma indústria que agora nos alertar sobre todos os perigos disso – e suas novas soluções para esse problema, o qual alguns deles podem ter ostensivamente criado em primeiro lugar?

Pode haver um público para isso.

Obama propõe “impressões digitais” no conteúdo online para combater a “desinformação”

RTN, 17/06/2023 

Por Christina Maas 

O ex-presidente Barack Obama lançou a ideia de implementar “impressões digitais” para ajudar o público a diferenciar entre conteúdo online genuíno e enganoso. É a mesma ideia pela qual gigantes da tecnologia como Microsoft e Adobe estão fazendo lobby. Na verdade, o presidente da Microsoft acredita que deveria ser ilegal remover essas impressões digitais.

Mergulho profundo: falando francamente no podcast “The Axe Files” apresentado por David Axelrod e apresentado na CNN Audio, Obama investigou o que ele vê como a urgência de empregar soluções tecnológicas para combater deepfakes e informações falsas.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

OpenAI começa a permitir que usuários editem rostos com DALL-E 2: IA que gera imagens a partir de fotos

YF, 19/09/2022 Com TechCrunch 

Por Kyle Wiggers 

Depois de desabilitar inicialmente o recurso, a OpenAI anunciou hoje que os clientes com acesso ao DALL-E 2 podem fazer upload de rostos de pessoas para editá-los usando o sistema de geração de imagens com inteligência artificial. Anteriormente, o OpenAI só permitia que os usuários trabalhassem e compartilhassem rostos fotorrealistas e proibia o upload de qualquer foto que pudesse retratar uma pessoa real, incluindo fotos de celebridades proeminentes e figuras públicas.

A OpenAI afirma que as melhorias em seu sistema de segurança tornaram possível o recurso de edição de rosto "minimizando o potencial de danos" de deepfakes, bem como tentativas de criar conteúdo sexual, político e violento. Em um e-mail para os clientes, a empresa escreveu:

Coreia do Sul se junta à repressão global ao Telegram, citando deepfakes

CTPH, 03/09/2024 

Por Helen Partz 

A Coreia do Sul se juntou à crescente lista de jurisdições globais que estão lançando investigações contra o Telegram por disseminação de conteúdo ilícito.

As autoridades sul-coreanas estão investigando o Telegram Messenger por supostos crimes envolvendo conteúdo ilícito na plataforma.

A Agência de Polícia Metropolitana de Seul iniciou uma investigação preliminar sobre o Telegram por alegações de "cumplicidade em crimes sexuais com deepfakes", informou a agência de notícias local Yonhap em 3 de setembro.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Empresa de deepfake de voz levanta US$ 19 milhões para lançar ferramenta que combate sua própria tecnologia

BU, 22/06/2023 

Por William McCurdy 

Como os riscos apresentados pela fraude de IA generativa podem estar crescendo em todo o mundo, a ElevenLabs revelou uma nova ferramenta que permitirá aos usuários fazer upload de qualquer amostra de áudio, para identificar se contém áudio gerado com a IA da empresa.

A ElevenLabs é uma startup sediada nos Estados Unidos que oferece uma plataforma de síntese de fala, que editores e criadores possam usar para criar conteúdo de áudio sintético. Por exemplo, a tecnologia pode ler um artigo de jornal online ou um livro com uma voz razoavelmente humana.

Google e Universal Music querem supostamente monetizar músicos de IA deepfake

TB, 09/08/2023 

Por Frank Landymore 

Mudando de tom

Em abril, a Universal Music Group - uma das maiores gravadoras do mundo - exigiu a retirada de uma música que usava vocais clonados de voz de seus artistas Drake e The Weeknd.

Agora, aparentemente mudando de tom, o Financial Times relata que a UMG iniciou negociações com o Google, sobre como juntos eles poderiam licenciar melodias e vozes de artistas para uso em músicas geradas por IA, com a Warner Music também dizendo estar nas negociações.

Deepfakes estão sendo usados ​​para contornar sistemas de reconhecimento facial

HR, 26/08/2023 

Por Habiba Rashid 

Ataques de injeção de câmera: a nova ameaça à segurança do reconhecimento facial.

Os ataques de injeção de câmeras surgiram em meio à crescente dependência da segurança de reconhecimento facial. Stuart Wells, diretor de tecnologia da Jumio, uma empresa líder em autenticação biométrica, alerta sobre o perigo crescente representado pelos ataques de injeção de câmeras, e oferece insights sobre como as organizações podem se defender contra essa forma sofisticada de fraude de identidade.

China estabelece regras básicas para conter abuso de deepfake

ZN, 14/12/2022 

Por Elieen Yu 

A partir de 10 de janeiro do próximo ano, a nova lei exige que qualquer pessoa que ofereça tecnologia e serviços de "síntese profunda", incluindo deepfakes e realidade virtual, rotule essas imagens de acordo.

A China estabeleceu regras básicas para evitar que a tecnologia de "síntese profunda", incluindo deepfakes e realidade virtual, seja abusada. Qualquer pessoa que use esses serviços deve rotular as imagens de acordo e abster-se de usar a tecnologia para atividades que violem os regulamentos locais. 

O crime cibernético alimentado por IA explodirá em 2024: segundo executivo da CrowdStrike

Decrypt, 02/01/2024

Por Jason Nelson 

O executivo de segurança Shawn Henry diz que a capacidade da IA ​​de enganar e desinformar está amadurecendo bem a tempo para as eleições de 2024.

O novo ano traz novas ameaças à segurança cibernética alimentadas por inteligência artificial, disse o diretor de segurança da CrowdStrike, Shawn Henry, à CBS Mornings nesta terça-feira.

“Acho que esta é uma grande preocupação para todos”, disse Henry.

Google lança gerador realista de texto para vídeo com IA ‘Lumiere’

CTPH, 25/01/2024 

Por Savannah Fortis 

O conceito mais recente do Google, Lumiere, é um modelo de difusão tempo-espaço que transforma texto e imagens em vídeos realistas gerados por IA com recursos de edição sob demanda.

Pesquisadores do Google divulgaram planos para um novo modelo de difusão espaço-temporal chamado Lumiere, que transformará texto ou uma imagem em um vídeo gerado por IA realista, com capacidades de edição sob demanda.

Lumiere é projetado para retratar "movimento realista, diverso e coerente" através do que chama de sua "arquitetura Space-Time U-Net". Isso gera instantaneamente toda a duração do vídeo em uma única passagem pelo modelo.

Michael Douglas planeja vender sua imagem digital assim que morrer: Deepfake e o Eu Digital

TD, 04/03/2023 

Por Klein Feltro 

Com o assunto de gêmeo digital sendo um assunto quente em Hollywood, a estrela de Homem-Formiga e a Vespa: Quantumania, Michael Douglas, concordou com a ideia a respeito. 

Douglas faz filmes há mais de 50 anos e, por sua vez, testemunhou a mudança da indústria de várias maneiras. Um que surgiu nos últimos anos é o uso de gêmeos digitais dos atores. 

Uma conta falsa de Keanu Reeves está acumulando milhões de visualizações no TikTok: Deepfake

IO, 26/09/2022 

Por Harry Fletcher 

A internet gosta tanto de Keanu Reeves que alguém fingindo ser ele acumulou centenas de milhões de visualizações no TikTok.

Uma conta chamada @unreal_keanu se tornou muito popular por seus vídeos de deepfakes de Reeves, com mais de 440 milhões de visualizações em seus vídeos até agora.

A tecnologia Deepfake é criada por inteligência artificial (IA) e aprendizado profundo (DL) – um método de aprendizado algorítmico usado para treinar computadores – que é usado para fazer uma pessoa parecer autêntica.

OpenAI lançará ferramentas antidesinformação para as eleições de 2024

IP, 16/01/2024 

A OpenAI, fabricante do ChatGPT, disse que introduzirá ferramentas para combater a desinformação antes das dezenas de eleições deste ano em países que abrigam metade da população mundial.

O sucesso explosivo do gerador de texto ChatGPT estimulou uma revolução global da inteligência artificial, mas também desencadeou avisos de que tais ferramentas poderiam inundar a Internet com desinformação e influenciar os eleitores.

Com eleições marcadas para este ano em países como Estados Unidos, Índia e Grã-Bretanha, a OpenAI disse na segunda-feira que não permitirá que sua tecnologia – incluindo ChatGPT e o gerador de imagens DALL-E 3 – seja usada para campanhas políticas.

A interseção de IA e arte: explorando o futuro das exposições de arte geradas por IA

Imagem gerada por DALL-E 2 com base na obra de arte existente "Girl With a Pearl Earring"

IE, 04/05/2023 

Por Tejasri Gururaj 

A IA está impactando tudo, incluindo a arte. Vamos explorar o futuro da arte gerada por IA em exposições, galerias e museus.

À medida que a inteligência artificial (IA) se torna cada vez mais sofisticada, é provável que ela se torne parte de quase todos os aspectos de nossa vida cotidiana. Da educação e finanças à saúde, arte e entretenimento, vemos a IA fazendo contribuições empolgantes para diferentes setores. 

Canal de TV indiano lança âncora de notícias multilíngue de IA

RFI, 08/04/2023 

Por Pratap Chakravarty 

Um grupo de mídia nacional revelou a primeira âncora virtual em tempo integral da Índia, um bot chamado Sana que apresentará atualizações de notícias várias vezes ao dia em vários idiomas.

A âncora alimentada por IA será apresentada no canal de notícias Aaj Tak do India Today Group.

"Ela é brilhante, linda, jovem, incansável", disse a vice-presidente do grupo, Kallie Purie, em um evento de lançamento na semana passada com a presença do primeiro-ministro indiano Narendra Modi.