Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

James Cameron, Que Avisou sobre o Skynet, Junta-se ao Conselho de Empresa de IA

TB, 25/09/2024 

Por Victor Tangermann

O cara por trás do Skynet entrando na IA — o que poderia dar errado?

AI'll Be Back

O cineasta canadense James Cameron, o homem por trás do icônico filme "O Exterminador do Futuro" — no qual uma IA rebelde destrói a maior parte da humanidade — está se juntando à onda da IA.

A empresa de IA generativa Stability AI, a firma por trás do popular gerador de imagens Stable Diffusion, anunciou hoje que Cameron se juntará ao seu conselho de diretores.

Arena do Agente do Windows da Microsoft: Ensinando assistentes de IA a navegar no seu PC

VB, 13/09/2024 

Por Michael Nuñez 

A Microsoft revelou um marco inovador chamado Arena do Agente do Windows (WAA), para testar agentes de inteligência artificial em ambientes realistas do sistema operacional Windows. Esta nova plataforma tem como objetivo acelerar o desenvolvimento de assistentes de IA capazes de realizar tarefas complexas em diversos aplicativos de computador.

Publicado no arXiv.org, a pesquisa aborda desafios críticos na avaliação do desempenho de agentes de IA. "Modelos de linguagem grandes mostram um potencial notável para atuar como agentes de computador, aprimorando a produtividade humana e a acessibilidade ao software em tarefas multimodais que exigem planejamento e raciocínio," escrevem os pesquisadores. "No entanto, medir o desempenho do agente em ambientes realistas continua sendo um desafio."

A versão mais recente do ChatGPT tem um recurso que você vai adorar — e isso é preocupante

TX, 12/09/2024 

Por Rob Brooks 

Se você é um assinante pago do ChatGPT, pode ter notado que o modelo de linguagem de inteligência artificial (IA) recentemente começou a soar mais humano quando você tem interações de áudio com ele.

Isso acontece porque a empresa por trás do modelo de linguagem, a OpenAI, está atualmente realizando um piloto limitado de um novo recurso conhecido como "modo de voz avançado".

A OpenAI diz que esse novo modo "apresenta conversas mais naturais e em tempo real, que captam e respondem com emoção e sinais não verbais". A empresa planeja disponibilizar o modo de voz avançado para todos os assinantes pagos do ChatGPT nos próximos meses.

A mais recente "solução" das Big Tech para o pânico em torno da IA é promover a Identidade Digital

RTN, 09/09/2024 

Por Didi Rankovic 

Um artigo de pesquisa, escrito pela Microsoft, OpenAI e uma série de universidades influentes, propõe o desenvolvimento de "credenciais de personalidade" (PHCs).

É notável pelo fato de que as mesmas empresas que estão desenvolvendo e vendendo modelos de IA potencialmente "enganosos" estão agora propondo uma "solução" bastante drástica: uma forma de identidade digital.

O objetivo seria evitar enganos, identificando as pessoas que criam conteúdo na internet como "reais", em contraste com o conteúdo gerado por IA. E o artigo admite livremente que a privacidade não está incluída.

A análise de voz por IA fornece aos trabalhadores das linhas de prevenção ao suicídio um painel emocional

NA, 01/05/2024 

Por Paul McClure 

Um modelo de IA rastreia com precisão emoções como medo e preocupação nas vozes dos atendentes de linhas de crise, de acordo com uma nova pesquisa. O desenvolvedor do modelo espera que ele possa fornecer assistência em tempo real aos operadores de telefone enquanto trabalham para prevenir suicídios.

A triagem dos operadores das linhas de crise ou suicídio quanto ao seu nível atual de risco de suicídio é crucial para detectar e prevenir o suicídio.

Projeto de lei da Califórnia sobre autenticação em redes sociais visa combater a interferência nas eleições

BU, 02/04/2024 

Por Joel R. McConvey 

A Califórnia promulgou o Projeto de Lei do Senado 1228 sobre autenticação de usuários, parte de um pacote legislativo maior projetado para proteger as eleições do estado contra desinformação, informação imprecisa e outros usos potencialmente desestabilizadores da tecnologia. Apresentado pelo Senador Steve Padilla, o projeto de lei exige que grandes plataformas online exijam verificação de identidade digital e rotulagem para usuários com grandes audiências, como "influenciadores", ou aqueles que distribuem grandes quantidades de conteúdo gerado por IA.

Empresas de IA estão cortejando Hollywood: Elas vêm em paz?

TX, 01/04/2024 

Por Wendy Lee  

A inteligência artificial está chegando a Hollywood, mas será que Hollywood está preparado para isso? A OpenAI, a empresa por trás do ChatGPT, está se reunindo com players da indústria do entretenimento, incluindo executivos de agências de talentos e estúdios de cinema, para demonstrar e explicar sua mais recente tecnologia, Sora, que cria vídeos com base no que os usuários descrevem em texto.

É uma dança delicada para as empresas de entretenimento que desejam aproveitar ferramentas poderosas que podem reduzir custos e otimizar seus processos. Elas não querem ser pegas de surpresa em um momento em que o estado da indústria já é tênue devido ao corte de cabos da TV paga, perdas de streaming e outros fatores. Ao mesmo tempo, querem evitar ofender atores de Hollywood, escritores e legiões de trabalhadores dos bastidores, como animadores e artistas de storyboard, que temem que a IA possa acabar com seus empregos.

Especialistas alertam que a Coreia do Norte está usando a IA para fins nefastos

TB, 27/01/2024

Por Victor Tangermann

Jogos de Guerra com IA

Pesquisadores afirmam que cientistas norte-coreanos estão utilizando IA para fins de vigilância e jogos de guerra.

Em um estudo, primeiro reportado pela Reuters, Hyuk Kim do Centro James Martin para Estudos de Não Proliferação na Califórnia argumentou que, embora as sanções tenham prejudicado a capacidade do país de obter hardware para executar esses sistemas de IA, a Coreia do Norte ainda está buscando essa tecnologia.

Deepfakes de IA enganam eleitores e políticos antes das eleições dos EUA em 2024 – 'Eu pensei que fosse real'

CTPH, 23/01/2024 

Por Tristan Greene 

Os Estados Unidos parecem despreparados para o ataque de imitações geradas por IA, apesar de anos de alertas de grupos de reflexão.

Cidadãos de New Hampshire receberam um pedido político incomum durante o fim de semana de 20 a 21 de janeiro. Ligações automáticas apresentando o que parecia para muitos ser a voz do Presidente dos Estados Unidos, Joe Biden, diziam a eles para não votarem nas primárias de 23 de janeiro.

As mensagens automatizadas aparentemente foram geradas por uma ferramenta de deepfake de inteligência artificial (IA) com o propósito aparente de interferir nas eleições presidenciais de 2024.

Dubladores de jogos de videogame pegos de surpresa após acordo de IA com o seu sindicato

BBC, 11/01/2024 

Por Tom Gerken 

Dubladores proeminentes dizem que não foram informados sobre um acordo histórico que estabelece como as vozes geradas pela inteligência artificial (IA), podem ser usadas em jogos.

(O acordo) foi alcançado pelo sindicato de atores norte-americanos Sag-Aftra e pela empresa de IA Replica Studios.

O sindicato afirma que garante “consentimento totalmente informado e compensação justa” aos seus membros.

Mas muitos dubladores, que há muito temem que a IA os substitua, reagiram com fúria e chamaram o acordo de “lixo”.

O crime cibernético alimentado por IA explodirá em 2024: segundo executivo da CrowdStrike

Decrypt, 02/01/2024

Por Jason Nelson 

O executivo de segurança Shawn Henry diz que a capacidade da IA ​​de enganar e desinformar está amadurecendo bem a tempo para as eleições de 2024.

O novo ano traz novas ameaças à segurança cibernética alimentadas por inteligência artificial, disse o diretor de segurança da CrowdStrike, Shawn Henry, à CBS Mornings nesta terça-feira.

“Acho que esta é uma grande preocupação para todos”, disse Henry.

A Warner Music Group criou um filme biográfico gerado por IA da lendária cantora francesa Edit Piaf

BTB, 14/11/2023 

Por Alana Mastrangelo 

A lendária cantora francesa Edith Piaf está voltando mais de 60 anos após sua morte em um novo filme biográfico que usará inteligência artificial (IA) para recriar sua voz e imagem.

O Warner Music Group anunciou que fez parceria com o espólio (detentor dos direitos, no caso seu legado) de Piaf para criar Edith , um filme de 90 minutos ambientado em Paris e Nova York entre as décadas de 1920 e 1960, narrado por uma reprodução da voz de Piaf gerada por IA, de acordo com uma reportagem da Variety. 

A Microsoft está trabalhando em NPCs com tecnologia de IA para jogos de Xbox

TB, 06/11/2023 

Por Victor Tangermann 

Olá, viajante cauteloso

De modo geral, personagens não jogáveis ​​(NPCs) em videogames ficam repetindo as mesmas falas pré-gravadas indefinidamente, destruindo a ilusão de um mundo envolvente.

Mas e se injetarmos um pouco de IA neles, tornando as conversas no jogo muito mais gratificantes e envolventes? Pense nisso como ChatGPT, mas para o estalajadeiro, que está prestes a enviar você em uma missão paralela épica.

Como as empresas de IA e tecnologia estão contratando atores em greve para treinar IA

MITTR, 19/10/2023 

Por Eileen Guo 

Os atores de Hollywood estão em greve devido às preocupações com o uso da IA, mas por apenas US$ 300, a Meta e uma empresa chamada Realeyes os contrataram para fazer os avatares parecerem mais humanos.

Certa noite, no início de setembro, T, um ator de 28 anos que pediu para ser identificado pela letra inicial de seu nome, sentou-se em um estúdio alugado em Hollywood diante de três câmeras, um diretor e um produtor para um filme um tanto incomum. 

A filmagem de duas horas produziu imagens que não deveriam ser vistas pelo público – pelo menos não por um público humano. 

A Coreia do Norte faz experiências com IA na guerra cibernética

VB, 18/10/2023 

Por Massa Bryson 

Num raro reconhecimento público, a Conselheira Adjunta de Segurança Nacional, Anne Neuberger, revelou nesta quarta-feira que a Coreia do Norte está aumentando as suas capacidades cibernéticas, aproveitando o poder da inteligência artificial (IA), representando um risco significativo para as empresas em todo o mundo.

Esta parece ser a primeira vez que um funcionário do governo dos EUA confirma publicamente a utilização da IA ​​na guerra cibernética. “Observamos alguns atores norte-coreanos e outros estados-nação e criminosos, tentando usar modelos de IA para ajudar a acelerar a criação de software malicioso e a localização de sistemas para explorar”, afirmou Neuberger durante a coletiva de imprensa. 

Deepfake: tecnologia de clonagem de voz surge na guerra civil no Sudão

BBC, 05/10/2023 

Por Jack Goodman 

Uma campanha que utiliza inteligência artificial para se passar por Omar al-Bashir, o antigo líder do Sudão, recebeu centenas de milhares de visualizações no TikTok, aumentando a confusão online num país dilacerado pela guerra civil.

Uma conta anônima tem postado o que diz serem “gravações vazadas” do ex-presidente desde o final de agosto. O canal postou dezenas de clipes – mas a voz é falsa.

A IA é uma arma, não uma bomba nuclear

ZH, 15/09/2023 – Com AT

Por Tyler Durden 

Está na moda, à medida que a inteligência artificial se torna mais sofisticada, comparar sistemas de IA com armas nucleares. Essas analogias vieram da mídia tradicional como Bloomberg, de microcelebridades de nicho da Internet e do destruidor de IA mais famoso do mundo, Eliezer Yudkowsky.  

Mas esta comparação não resiste a um exame minucioso.

Um icônico artista de CGI afirma que em breve haverá um filme totalmente gerado por IA

TB, 02/09/2023 

Por Sharon Adarlo 

Deepfake

Com atores e escritores em greve e protestando contra a inteligência artificial como uma ameaça existencial aos seus meios de subsistência, um pioneiro do CGI que trabalhou em filmes icônicos como "O Exterminador do Futuro 2: O Dia do Julgamento" de James Cameron, prevê que no futuro haverá um filme totalmente baseado em IA que vai enganar todo mundo, de acordo com uma nova entrevista ao Metro.

Steve Williams, um grande nome na história dos efeitos visuais, comparou o cenário hipotético à famosa peça de rádio de Orson Welles, “A Guerra dos Mundos”, que enganou algumas pessoas fazendo-as pensar que uma invasão alienígena estava realmente em andamento.

YouTube e Universal Music Group unem forças para explorar o futuro da música de IA

VB, 21/08/2023 

Por Michael Nuñez 

O YouTube, o gigante do compartilhamento de vídeos, revelou uma iniciativa histórica que trabalhará lado a lado com a indústria da música, para navegar nas águas desconhecidas da inteligência artificial (IA) na criação e distribuição de música.

A empresa de propriedade da Alphabet está lançando o Music AI Incubator, um programa inovador projetado para aprofundar o potencial da IA ​​na música. A iniciativa foi criada para reunir a criatividade e a experiência de alguns dos artistas, compositores e produtores mais inovadores do mercado.