Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

A mais recente "solução" das Big Tech para o pânico em torno da IA é promover a Identidade Digital

RTN, 09/09/2024 

Por Didi Rankovic 

Um artigo de pesquisa, escrito pela Microsoft, OpenAI e uma série de universidades influentes, propõe o desenvolvimento de "credenciais de personalidade" (PHCs).

É notável pelo fato de que as mesmas empresas que estão desenvolvendo e vendendo modelos de IA potencialmente "enganosos" estão agora propondo uma "solução" bastante drástica: uma forma de identidade digital.

O objetivo seria evitar enganos, identificando as pessoas que criam conteúdo na internet como "reais", em contraste com o conteúdo gerado por IA. E o artigo admite livremente que a privacidade não está incluída.

O mais recente chatbot de IA da China é treinado na ideologia política do presidente Xi Jinping

TX, 24/05/2024 

O mais recente chatbot de inteligência artificial da China foi treinado na doutrina do presidente Xi Jinping, um lembrete claro dos parâmetros ideológicos que os modelos de IA chineses devem seguir.

A academia de ciberespaço da China anunciou, no início desta semana, o chatbot treinado no Pensamento de Xi Jinping, uma doutrina que promove o "socialismo com características chinesas".

O chatbot foi treinado em sete bancos de dados, seis dos quais estavam principalmente relacionados a tecnologias da informação fornecidas pelo órgão de vigilância da internet da China, a Administração do Ciberespaço da China (CAC).

A "teoria da internet morta" faz reivindicações sinistras sobre uma web controlada por IA. A verdade é mais sinistra

TX, 20/05/2024 

Por Jake Renzella 

Se você pesquisar "camarão Jesus" no Facebook, pode encontrar dezenas de imagens de crustáceos geradas por inteligência artificial (IA) mescladas em várias formas com uma imagem estereotipada de Jesus Cristo.

Algumas dessas imagens hiper-realistas receberam mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo aqui?

A "teoria da internet morta" tem uma explicação: o conteúdo gerado por IA e bots superou a internet gerada por humanos. Mas de onde veio essa ideia, e ela tem alguma base na realidade?

Sistemas de IA já estão nos enganando — e isso é um problema, alertam especialistas

IP, 10/05/2024 

Especialistas têm há muito tempo alertado sobre a ameaça representada pela inteligência artificial ficando fora de controle —, mas um novo artigo de pesquisa sugere que isso já está acontecendo.

Os atuais sistemas de IA, projetados para serem honestos, desenvolveram uma habilidade preocupante para a decepção, desde enganar jogadores humanos em jogos online de conquista mundial até contratar humanos para resolver testes de "prove que você não é um robô", argumenta uma equipe de cientistas no jornal Patterns nesta sexta-feira.

Irlanda pede às gigantes da tecnologia que censurem "desinformação" eleitoral

RTN, 08/05/2024 

Por Didi Rankovic 

A Comissão Eleitoral da Irlanda emite um aviso severo às gigantes da tecnologia: cumpram a integridade eleitoral ou enfrentem "consequências reputacionais".

O Chefe Executivo da Comissão Eleitoral da Irlanda, Art O'Leary, está alertando as empresas de tecnologia por trás das principais plataformas de mídia social, para que cumpram o que ele considera suas responsabilidades no processo eleitoral.

A Microsoft apresenta o VASA-1, um framework de IA que faz retratos humanos falar e cantar

VB, 18/04/2024 

Por Shubham Sharma 

A Microsoft deu um grande salto no campo da geração de conteúdo impulsionada por IA. Apenas algumas horas atrás, o braço de pesquisa da empresa liderada por Satya Nadella apresentou o VASA-1, um framework de IA que pode converter retratos humanos em vídeos falados e cantados.

O projeto marca uma mudança significativa no que foi alcançado na geração de conteúdo gerado por IA, pois trabalha com entrada mínima. Tudo o que precisa é de um retrato estático e um arquivo de áudio com discurso, e o modelo o trará à vida, completo com sincronização labial e expressões relacionadas e movimentos de cabeça.

Projeto de lei da Califórnia sobre autenticação em redes sociais visa combater a interferência nas eleições

BU, 02/04/2024 

Por Joel R. McConvey 

A Califórnia promulgou o Projeto de Lei do Senado 1228 sobre autenticação de usuários, parte de um pacote legislativo maior projetado para proteger as eleições do estado contra desinformação, informação imprecisa e outros usos potencialmente desestabilizadores da tecnologia. Apresentado pelo Senador Steve Padilla, o projeto de lei exige que grandes plataformas online exijam verificação de identidade digital e rotulagem para usuários com grandes audiências, como "influenciadores", ou aqueles que distribuem grandes quantidades de conteúdo gerado por IA.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.

Google lança gerador realista de texto para vídeo com IA ‘Lumiere’

CTPH, 25/01/2024 

Por Savannah Fortis 

O conceito mais recente do Google, Lumiere, é um modelo de difusão tempo-espaço que transforma texto e imagens em vídeos realistas gerados por IA com recursos de edição sob demanda.

Pesquisadores do Google divulgaram planos para um novo modelo de difusão espaço-temporal chamado Lumiere, que transformará texto ou uma imagem em um vídeo gerado por IA realista, com capacidades de edição sob demanda.

Lumiere é projetado para retratar "movimento realista, diverso e coerente" através do que chama de sua "arquitetura Space-Time U-Net". Isso gera instantaneamente toda a duração do vídeo em uma única passagem pelo modelo.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

OpenAI lançará ferramentas antidesinformação para as eleições de 2024

IP, 16/01/2024 

A OpenAI, fabricante do ChatGPT, disse que introduzirá ferramentas para combater a desinformação antes das dezenas de eleições deste ano em países que abrigam metade da população mundial.

O sucesso explosivo do gerador de texto ChatGPT estimulou uma revolução global da inteligência artificial, mas também desencadeou avisos de que tais ferramentas poderiam inundar a Internet com desinformação e influenciar os eleitores.

Com eleições marcadas para este ano em países como Estados Unidos, Índia e Grã-Bretanha, a OpenAI disse na segunda-feira que não permitirá que sua tecnologia – incluindo ChatGPT e o gerador de imagens DALL-E 3 – seja usada para campanhas políticas.

Como a IA ameaça as eleições presidenciais dos EUA

PP, 03/01/2024 

Por Oriana Rivas 

Notícias falsas ou matrizes de opinião para gerar discórdia poderão se intensificar este ano com a ajuda da tecnologia. As empresas dos EUA dizem que estão trabalhando em novas ferramentas antes das eleições, mas devemos olhar atentamente para os interesses partidários por trás delas

Há poucos dias, Elon Musk, empresário dono de empresas como Tesla e SpaceX, mencionou os benefícios e malefícios que a inteligência artificial pode gerar na sociedade. De forma detalhada, disse que embora “nunca mais nos faltem bens e serviços, porque a inteligência artificial e a robótica poderão fazer tudo”, também esclareceu como é fácil para estas ferramentas manipular a opinião pública.

A nova ferramenta de IA do Google ‘MusicFX’ compõe música com apenas algumas palavras

VB, 13/12/2023 

Por Michael Nuñez 

O Google fez isso de novo. A gigante de pesquisa anunciou hoje o lançamento do MusicFX, uma nova ferramenta experimental inovadora que permite aos usuários gerar suas próprias músicas usando IA. Esta inovação mais recente usa o MusicLM do Google e a tecnologia de marca d'água da DeepMind, SynthID, para criar uma marca d'água digital exclusiva nas saídas, garantindo a autenticidade e origem das criações.

MusicFX marca um marco significativo no domínio da IA, pois abre novas possibilidades para músicos, produtores e entusiastas experimentarem e criarem música. No entanto, a ferramenta apresenta limitações importantes: ela não gerará músicas para determinadas consultas que mencionem artistas específicos ou incluam vocais, como forma de proteger as vozes e estilos dos artistas originais.

Empresa pioneira em conteúdo de IA lança primeiro canal de notícias de IA 24hs por dia 7 dias por semana

YF!, 26/10/2023 

NewsGPT (www.NewsGPT.AI), pioneira em conteúdo gerado por IA, anunciou hoje o lançamento do NewsGPT.ai, o primeiro canal de notícias 24 horas por dia, 7 dias por semana totalmente orientado por IA do mundo.

Ao contrário das fontes de notícias tradicionais, o NewsGPT oferece uma perspectiva imparcial sobre o que está acontecendo ao redor do mundo. Usando recursos de aprendizado de máquina avançado, aprendizado profundo e algoritmos proprietários, o NewsGPT automatiza todos os aspectos do processo de produção de notícias, incluindo seleção de histórias, pesquisa, geração de conteúdo e entrega por meio de avatares de IA.

Um computador escreveu isso? A indústria do livro luta com a IA

TX, 23/10/2023 

Por Sam Reeves 

Desde livros escritos por computador de baixa qualidade que inundam o mercado até potenciais violações de direitos autorais, a indústria editorial é a mais recente indústria a sentir a ameaça dos rápidos desenvolvimentos na inteligência artificial.

Desde o lançamento, no ano passado, do ChatGPT, um chatbot de IA fácil de usar que pode entregar um ensaio mediante solicitação em segundos, tem havido preocupações crescentes sobre o impacto da IA ​​generativa em vários setores.

O YouTube adicionou recursos de IA para aprimorar e simplificar a criação de vídeos

Decrypt, 21/09/2023 

Por José Antonio Lanz 

O Google revelou novos recursos alimentados por IA para reforçar a criação de vídeos no YouTube, tanto para curtas quanto para clipes longos.

O Google está apostando tudo na inteligência artificial, integrando recursos de IA em todo o seu conjunto de produtos, incluindo Google Docs e Search. A gigante da tecnologia pretende usar IA para aprimorar as experiências do usuário, explorar novas possibilidades criativas e otimizar fluxos de trabalho – e seu alvo mais recente é o YouTube.

O nascimento de influenciadores deepfake de IA na China que transmitem live 24 horas por dia

CP, 19/09/2023 

Por Aamir Sheikh 

Livestreamers gerados por IA revolucionam o cenário do comércio eletrônico na China

Na vida noturna, onde o comércio eletrônico nunca dorme, os Livestreamers gerados por IA, muitas vezes referidos como “deepfakes de influenciadores chineses”, emergiram como as novas estrelas da arena do marketing digital da China. Estes avatares realistas, indistinguíveis dos seus homólogos humanos, apregoam incansavelmente produtos em plataformas populares como Taobao e JD, transformando a dinâmica das compras online. Com o surgimento desta tecnologia inovadora, as marcas agora podem ter seus representantes de vendas virtuais trabalhando 24 horas por dia, 7 dias por semana, por uma fração do custo de influenciadores reais.

Um icônico artista de CGI afirma que em breve haverá um filme totalmente gerado por IA

TB, 02/09/2023 

Por Sharon Adarlo 

Deepfake

Com atores e escritores em greve e protestando contra a inteligência artificial como uma ameaça existencial aos seus meios de subsistência, um pioneiro do CGI que trabalhou em filmes icônicos como "O Exterminador do Futuro 2: O Dia do Julgamento" de James Cameron, prevê que no futuro haverá um filme totalmente baseado em IA que vai enganar todo mundo, de acordo com uma nova entrevista ao Metro.

Steve Williams, um grande nome na história dos efeitos visuais, comparou o cenário hipotético à famosa peça de rádio de Orson Welles, “A Guerra dos Mundos”, que enganou algumas pessoas fazendo-as pensar que uma invasão alienígena estava realmente em andamento.

Órgão de operações especiais dos EUA pagará por ferramenta de vigilância de mídia social para "combater desinformação"

RTN, 31/08/2023 

Por Didi Rankovic 

A Accrete AI anunciou que recebeu um contrato do Comando de Operações Especiais dos EUA (USSOCOM) para implantar sua ferramenta chamada Argus Social, que supostamente fornecerá previsão em tempo real de “ameaças de desinformação das mídias sociais”.

A Accrete – descrita como uma empresa de duplo propósito, cujo site declara que fornece “agentes de IA universalmente configuráveis, confiáveis ​​e precisos para automação de decisões” – anunciou o acordo com o USSOCOM em um comunicado à imprensa.