Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

O que são moedas criptográficas de inteligência artificial (IA) e como elas funcionam?

CTPH, 06/03/2023 

Por Onkar Singh 

1. O que é inteligência artificial (IA)?

Apple testa 'Apple GPT', e desenvolve ferramentas de IA generativas para enfrentar a OpenAI

GB, 22/07/2023 

A Apple está lançando as bases para serviços de IA com a estrutura Ajax, bem como uma ferramenta semelhante ao ChatGPT para uso interno

A Apple está trabalhando silenciosamente em ferramentas de inteligência artificial que podem desafiar as da OpenAI, do Google da Alphabet e outras, mas a empresa ainda não elaborou uma estratégia clara para liberar a tecnologia para os consumidores.

A fabricante do iPhone construiu sua própria estrutura para criar grandes modelos de linguagem – os sistemas baseados em IA no centro de novas ofertas como ChatGPT e Bard do Google – de acordo com pessoas com conhecimento dos esforços. Com essa base, conhecida como “Ajax”, a Apple também criou um serviço de chatbot que alguns engenheiros chamam de “Apple GPT”.

IA comportamental é nossa melhor esperança para combater ameaças de engenharia social

VB, 04/02/2025

Enquanto líderes empresariais e especialistas discutem e debatem sobre o ciclo de hype da IA, cibercriminosos têm estado ocupados lançando ataques devastadores impulsionados por inteligência artificial. Ataques de engenharia social gerados por IA — incluindo phishing e comprometimento de e-mails corporativos — aumentaram drasticamente, com ferramentas de código aberto como ChatGPT (e suas contrapartes maliciosas, GhostGPT, FraudGPT e WormGPT) oferecendo a fraudadores sem experiência técnica um novo campo de atuação para criar ataques. Eles estão desenvolvendo ataques sofisticados e incrivelmente convincentes em larga escala, visando o vetor de segurança mais vulnerável de qualquer empresa: os humanos, em todos os níveis da organização.

Pesquisadores treinam IA para detectar interferência estrangeira online

TX, 21/11/2024 

Por David Drucker 

Tecnologias modernas, como as redes sociais, estão tornando mais fácil do que nunca para inimigos dos Estados Unidos manipular emocionalmente os cidadãos norte-americanos.  

Autoridades dos EUA alertam que adversários estrangeiros estão tentando produzir grandes quantidades de informações falsas, e enganosas online, para influenciar a opinião pública no país. Em julho, o Departamento de Justiça anunciou que havia desmantelado uma campanha de desinformação apoiada pelo Kremlin, que utilizava cerca de mil contas falsas de redes sociais para espalhar informações enganosas.  

Como as empresas de IA e tecnologia estão contratando atores em greve para treinar IA

MITTR, 19/10/2023 

Por Eileen Guo 

Os atores de Hollywood estão em greve devido às preocupações com o uso da IA, mas por apenas US$ 300, a Meta e uma empresa chamada Realeyes os contrataram para fazer os avatares parecerem mais humanos.

Certa noite, no início de setembro, T, um ator de 28 anos que pediu para ser identificado pela letra inicial de seu nome, sentou-se em um estúdio alugado em Hollywood diante de três câmeras, um diretor e um produtor para um filme um tanto incomum. 

A filmagem de duas horas produziu imagens que não deveriam ser vistas pelo público – pelo menos não por um público humano. 

A IBM descobre que o ChatGPT pode gerar e-mails de phishing quase tão convincentes quanto um ser humano

VB, 24/10/2023 

Por Taryn Plumb 

À medida que continua evoluindo a um ritmo quase inimaginável, a IA está se tornando capaz de muitas coisas extraordinárias — desde gerar arte deslumbrante e mundos 3D até servir como um parceiro eficiente e fiável no local de trabalho. 

Mas a IA generativa e os grandes modelos de linguagem (LLMs) são tão enganosos quanto os seres humanos?

Quase. Finalmente, por enquanto, mantemos nossa supremacia nessa área, de acordo com uma pesquisa divulgada hoje pela IBM X-Force. Em um experimento de phishing conduzido para determinar se a IA ou os humanos obteriam uma taxa de cliques mais alta, o ChatGPT criou um e-mail convincente em minutos a partir de apenas cinco prompts simples que se mostraram quase – mas não tão – tão atraentes quanto um gerado por humanos. 

Empresa de biometria facial diz que rostos sintéticos podem resolver problemas de preconceito algorítmico

BU, 25/09/2023 

Por Masha Borak 

Rostos sintéticos podem resolver preconceitos algorítmicos e dilemas éticos de dados: IDVerse

Durante anos, muitos dos sistemas de IA utilizados para reconhecimento facial e verificação de identidade tiveram problemas de preconceito racial e de gênero. Os sistemas demonstraram taxas mais elevadas de erros de identificação para pessoas com pele mais escura e, por vezes, contribuíram para detenções injustas. A principal razão por trás disso são os dados nos quais os modelos de IA foram treinados, que incluem desproporcionalmente rostos brancos e masculinos.

A Meta revela um modelo de IA que pode detectar objetos que nunca viu antes

EDT, 05/04/2023 

Por Jon Fingas 

Segmentar Qualquer coisa não precisa de treinamento para saber que há algo em uma imagem.

A IA normalmente precisa ser treinada com material existente para detectar objetos, mas a Meta tem uma maneira de a tecnologia localizar itens sem ajuda. A gigante da mídia social publicou um modelo de IA que pode "segmentar qualquer coisa" que pode detectar objetos em fotos e vídeos, mesmo que não façam parte do conjunto de treinamento. Você pode selecionar itens clicando neles ou usando prompts de texto de formato livre. Como explica a Reuters, você pode digitar a palavra "gato" e observar a IA destacar todos os felinos em uma determinada foto.

A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Jornalista usa (sua própria) voz deepfake de IA para invadir sua própria conta bancária

BU, 24/02/2023 

Por Larisa Redins 

Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.

Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs, uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.

O Pentágono está acelerando a IA e a tecnologia autônoma

Decrypt, 30/08/2023 

Por José Antonio Lanz 

Os líderes militares dos EUA estão correndo para implantar milhares de armas autônomas e um sistema de monitoramento aéreo alimentado por IA para Washington DC.

Todo mundo está correndo para aproveitar a onda da IA, e os militares dos EUA não querem se atrasar para a festa.

A vice-secretária de Defesa, Kathleen Hicks, revelou a nova iniciativa Replicator do Pentágono em uma conferência de inovação em defesa na segunda-feira. O objetivo, disse ela, é “colocar em campo sistemas autônomos atribuíveis em escala de vários milhares, em vários domínios, nos próximos 18 a 24 meses”.

Baidu está de olho na expansão para IA generativa e metaverso

IOTT, 13/01/2023 

Por Ben Wodecki 

Gigante de tecnologia chinesa também revela plano para acelerar sua tecnologia quântica

A gigante de tecnologia chinesa Baidu – muitas vezes chamada de Google da China – revelou planos para expandir nas áreas de IA generativa, metaverso e computação quântica.

Mastercard lança chatbot de IA generativo para ajudá-lo a fazer compras online

CTPH, 30/11/2023 

Por Tristan Greene 

A empresa de personalização digital Dynamic Yield by Mastercard foi adquirida do McDonald's em 2022.

Dynamic Yield by Mastercard, uma subsidiária de personalização digital e inteligência artificial da Mastercard, anunciou o lançamento de seu assistente de chatbot de IA generativo Shopping Muse para e-commerce em 30 de novembro. 

O sistema de IA foi revelado em uma postagem no blog da empresa. De acordo com a Dynamic Yield, o Shopping Muse é “uma ferramenta avançada de IA generativa que revoluciona a forma como os consumidores procuram e descobrem produtos no catálogo digital de um varejista”.

'Sim, eu sou um humano': a detecção de bots não está mais funcionando

TX, 25/12/2024 

Por Irfan Mehmood 

Então só espere até que os agentes de IA apareçam.

Você está atrasado no aeroporto e precisa acessar sua conta urgentemente, apenas para ser recebido por um desses testes frustrantes — "Selecione todas as imagens com semáforos" ou "Digite as letras que você vê nesta caixa". Você aperta os olhos, você adivinha, mas de alguma forma você está errado. Você completa outro teste, mas ainda assim o site não está satisfeito.

"Seu voo está embarcando agora", o alto-falante anuncia enquanto o site lhe dá mais um quebra-cabeça. Você xinga a tela, fecha seu laptop e corre em direção ao portão.

Perceptron: 'earables' de rastreamento facial, chips de IA analógicos e aceleradores de partículas

YF, 27/08/2022 - com TechCrunch

Por Kyle Wiggers 

A pesquisa no campo de aprendizado de máquina e IA, agora uma tecnologia-chave em praticamente todos os setores e empresas, é volumosa demais para que qualquer um leia tudo. Esta coluna,  Perceptron, tem como objetivo coletar algumas das descobertas e artigos recentes mais relevantes – particularmente, mas não limitado a, inteligência artificial – e explicar por que eles são importantes.

Motoristas sonolentos receberão alertas de segurança assistidos por IA

BU, 06/12/2024

Por Lu-Hai Liang

Novos conjuntos de dados biométricos diversos disponíveis para veículos

Motoristas fatigados são um dos maiores riscos nas estradas, mas motoristas sonolentos em veículos comerciais começarão a receber alertas de segurança assistidos por IA, graças à tecnologia de rastreamento biométrico.

As empresas de tecnologia estão direcionando seus esforços para operadores de frotas de veículos e, em particular, para empresas de transporte de longa distância, já que esses motoristas costumam dirigir por distâncias e períodos mais longos, segundo o IEEE Spectrum.

O AI Act da UE está deixando uma brecha para o reconhecimento de emoções?

BU, 16/02/2024 

Por Masha Borak 

Enquanto a União Europeia se prepara para adotar o Artificial Intelligence Act, a legislação histórica ainda está atraindo críticas, desta vez por permitir o uso do reconhecimento de emoções. Um artigo de opinião publicado no EU Observer destaca que o AI Act ainda deixa a porta aberta para seu uso em aplicação da lei e por agentes de migração, o que poderia levar a potenciais abusos de direitos.

O autor anônimo, que se descreve como um funcionário civil da UE, afirma que isso abre espaço para seu uso em aplicação da lei e controle de migração, especialmente no controverso projeto iBorderCtrl financiado pela UE, um detector de mentiras de IA para tecnologias de reconhecimento facial e de emoção projetadas para serem usadas durante o interrogatório de migrantes. Em 2018, o bloco anunciou que financiaria o projeto e conduziria testes-piloto na Hungria, Grécia e Letônia.