Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

O que são moedas criptográficas de inteligência artificial (IA) e como elas funcionam?

CTPH, 06/03/2023 

Por Onkar Singh 

1. O que é inteligência artificial (IA)?

Apple testa 'Apple GPT', e desenvolve ferramentas de IA generativas para enfrentar a OpenAI

GB, 22/07/2023 

A Apple está lançando as bases para serviços de IA com a estrutura Ajax, bem como uma ferramenta semelhante ao ChatGPT para uso interno

A Apple está trabalhando silenciosamente em ferramentas de inteligência artificial que podem desafiar as da OpenAI, do Google da Alphabet e outras, mas a empresa ainda não elaborou uma estratégia clara para liberar a tecnologia para os consumidores.

A fabricante do iPhone construiu sua própria estrutura para criar grandes modelos de linguagem – os sistemas baseados em IA no centro de novas ofertas como ChatGPT e Bard do Google – de acordo com pessoas com conhecimento dos esforços. Com essa base, conhecida como “Ajax”, a Apple também criou um serviço de chatbot que alguns engenheiros chamam de “Apple GPT”.

Como as empresas de IA e tecnologia estão contratando atores em greve para treinar IA

MITTR, 19/10/2023 

Por Eileen Guo 

Os atores de Hollywood estão em greve devido às preocupações com o uso da IA, mas por apenas US$ 300, a Meta e uma empresa chamada Realeyes os contrataram para fazer os avatares parecerem mais humanos.

Certa noite, no início de setembro, T, um ator de 28 anos que pediu para ser identificado pela letra inicial de seu nome, sentou-se em um estúdio alugado em Hollywood diante de três câmeras, um diretor e um produtor para um filme um tanto incomum. 

A filmagem de duas horas produziu imagens que não deveriam ser vistas pelo público – pelo menos não por um público humano. 

A IBM descobre que o ChatGPT pode gerar e-mails de phishing quase tão convincentes quanto um ser humano

VB, 24/10/2023 

Por Taryn Plumb 

À medida que continua evoluindo a um ritmo quase inimaginável, a IA está se tornando capaz de muitas coisas extraordinárias — desde gerar arte deslumbrante e mundos 3D até servir como um parceiro eficiente e fiável no local de trabalho. 

Mas a IA generativa e os grandes modelos de linguagem (LLMs) são tão enganosos quanto os seres humanos?

Quase. Finalmente, por enquanto, mantemos nossa supremacia nessa área, de acordo com uma pesquisa divulgada hoje pela IBM X-Force. Em um experimento de phishing conduzido para determinar se a IA ou os humanos obteriam uma taxa de cliques mais alta, o ChatGPT criou um e-mail convincente em minutos a partir de apenas cinco prompts simples que se mostraram quase – mas não tão – tão atraentes quanto um gerado por humanos. 

Empresa de biometria facial diz que rostos sintéticos podem resolver problemas de preconceito algorítmico

BU, 25/09/2023 

Por Masha Borak 

Rostos sintéticos podem resolver preconceitos algorítmicos e dilemas éticos de dados: IDVerse

Durante anos, muitos dos sistemas de IA utilizados para reconhecimento facial e verificação de identidade tiveram problemas de preconceito racial e de gênero. Os sistemas demonstraram taxas mais elevadas de erros de identificação para pessoas com pele mais escura e, por vezes, contribuíram para detenções injustas. A principal razão por trás disso são os dados nos quais os modelos de IA foram treinados, que incluem desproporcionalmente rostos brancos e masculinos.

A Meta revela um modelo de IA que pode detectar objetos que nunca viu antes

EDT, 05/04/2023 

Por Jon Fingas 

Segmentar Qualquer coisa não precisa de treinamento para saber que há algo em uma imagem.

A IA normalmente precisa ser treinada com material existente para detectar objetos, mas a Meta tem uma maneira de a tecnologia localizar itens sem ajuda. A gigante da mídia social publicou um modelo de IA que pode "segmentar qualquer coisa" que pode detectar objetos em fotos e vídeos, mesmo que não façam parte do conjunto de treinamento. Você pode selecionar itens clicando neles ou usando prompts de texto de formato livre. Como explica a Reuters, você pode digitar a palavra "gato" e observar a IA destacar todos os felinos em uma determinada foto.

A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Jornalista usa (sua própria) voz deepfake de IA para invadir sua própria conta bancária

BU, 24/02/2023 

Por Larisa Redins 

Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.

Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs, uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.

O Pentágono está acelerando a IA e a tecnologia autônoma

Decrypt, 30/08/2023 

Por José Antonio Lanz 

Os líderes militares dos EUA estão correndo para implantar milhares de armas autônomas e um sistema de monitoramento aéreo alimentado por IA para Washington DC.

Todo mundo está correndo para aproveitar a onda da IA, e os militares dos EUA não querem se atrasar para a festa.

A vice-secretária de Defesa, Kathleen Hicks, revelou a nova iniciativa Replicator do Pentágono em uma conferência de inovação em defesa na segunda-feira. O objetivo, disse ela, é “colocar em campo sistemas autônomos atribuíveis em escala de vários milhares, em vários domínios, nos próximos 18 a 24 meses”.

Baidu está de olho na expansão para IA generativa e metaverso

IOTT, 13/01/2023 

Por Ben Wodecki 

Gigante de tecnologia chinesa também revela plano para acelerar sua tecnologia quântica

A gigante de tecnologia chinesa Baidu – muitas vezes chamada de Google da China – revelou planos para expandir nas áreas de IA generativa, metaverso e computação quântica.

Mastercard lança chatbot de IA generativo para ajudá-lo a fazer compras online

CTPH, 30/11/2023 

Por Tristan Greene 

A empresa de personalização digital Dynamic Yield by Mastercard foi adquirida do McDonald's em 2022.

Dynamic Yield by Mastercard, uma subsidiária de personalização digital e inteligência artificial da Mastercard, anunciou o lançamento de seu assistente de chatbot de IA generativo Shopping Muse para e-commerce em 30 de novembro. 

O sistema de IA foi revelado em uma postagem no blog da empresa. De acordo com a Dynamic Yield, o Shopping Muse é “uma ferramenta avançada de IA generativa que revoluciona a forma como os consumidores procuram e descobrem produtos no catálogo digital de um varejista”.

Perceptron: 'earables' de rastreamento facial, chips de IA analógicos e aceleradores de partículas

YF, 27/08/2022 - com TechCrunch

Por Kyle Wiggers 

A pesquisa no campo de aprendizado de máquina e IA, agora uma tecnologia-chave em praticamente todos os setores e empresas, é volumosa demais para que qualquer um leia tudo. Esta coluna,  Perceptron, tem como objetivo coletar algumas das descobertas e artigos recentes mais relevantes – particularmente, mas não limitado a, inteligência artificial – e explicar por que eles são importantes.

O AI Act da UE está deixando uma brecha para o reconhecimento de emoções?

BU, 16/02/2024 

Por Masha Borak 

Enquanto a União Europeia se prepara para adotar o Artificial Intelligence Act, a legislação histórica ainda está atraindo críticas, desta vez por permitir o uso do reconhecimento de emoções. Um artigo de opinião publicado no EU Observer destaca que o AI Act ainda deixa a porta aberta para seu uso em aplicação da lei e por agentes de migração, o que poderia levar a potenciais abusos de direitos.

O autor anônimo, que se descreve como um funcionário civil da UE, afirma que isso abre espaço para seu uso em aplicação da lei e controle de migração, especialmente no controverso projeto iBorderCtrl financiado pela UE, um detector de mentiras de IA para tecnologias de reconhecimento facial e de emoção projetadas para serem usadas durante o interrogatório de migrantes. Em 2018, o bloco anunciou que financiaria o projeto e conduziria testes-piloto na Hungria, Grécia e Letônia.

Japão vai implantar tecnologia de “detecção de comportamento” no estilo pré-crime

RTN, 19/07/2023 

Por Christina Maas

A Agência Nacional de Polícia do Japão decidiu adotar câmeras de vigilância pré-crime aprimoradas com IA, para reforçar as medidas de segurança em torno dos VIPs.

Este passo vem em resposta à comemoração do chocante assassinato do ex-primeiro-ministro Shinzo Abe, e às crescentes ameaças representadas pelo que o governo chamou de “criminosos solitários”.

Empresa de TI implanta sistema de detecção de estresse por meio de IA para um governo do Sudeste Asiático

BU, 21/03/2023 

Por Larisa Redins 

A Pangea anunciou que uma organização governamental do Sudeste Asiático empregará seus sistemas de Inteligência Artificial (IA) para analisar indicadores psicofisiológicos.

A tecnologia identificará e decodificará situações de estresse psicológico, muitas vezes chamadas de detecção e análise visual de estresse, diz a empresa.

Deefakes: tecnologia arriscada, mas intrigante para empresas

TGT, 27/07/2022 

Por Esther Ajao 

As empresas podem gerar conjuntos de dados sintéticos com a tecnologia. É útil na transmissão e para publicidade. No entanto, sua privacidade e implicações políticas podem ser perigosas.

Um anúncio online recente do Daily Voice, um site de notícias da Internet com sede em Connecticut, fazia uma oferta  de emprego visando locutores. O anúncio parecia normal, mas somente até um ponto específico: "Usaremos tecnologia de captura de imagem de vídeo e com sua imagem geraremos videoclipes para criar conteúdo continuamente no futuro".

O que o site de notícias estava prometendo usar é uma variante da tecnologia de IA conhecida como Deepfakes. Deepfakes são um tipo de IA que combina aprendizado profundo com dados ou mídia falsas ou sintéticas – informações visuais ou outras que são fabricadas, não produzidas por eventos do mundo real – para gerar conteúdo.

Órgão de operações especiais dos EUA pagará por ferramenta de vigilância de mídia social para "combater desinformação"

RTN, 31/08/2023 

Por Didi Rankovic 

A Accrete AI anunciou que recebeu um contrato do Comando de Operações Especiais dos EUA (USSOCOM) para implantar sua ferramenta chamada Argus Social, que supostamente fornecerá previsão em tempo real de “ameaças de desinformação das mídias sociais”.

A Accrete – descrita como uma empresa de duplo propósito, cujo site declara que fornece “agentes de IA universalmente configuráveis, confiáveis ​​e precisos para automação de decisões” – anunciou o acordo com o USSOCOM em um comunicado à imprensa.