Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Sensores faciais vestíveis contribuem para a evolução da tecnologia que nos "entende"

NA, 24/02/2024 

Por Michael Franco 

Se os robôs humanoides um dia forem integrados completamente na sociedade, eles precisarão ser bons em entender nossos estados emocionais e responder de maneira apropriada. Um novo dispositivo vestível de pesquisadores na Coreia do Sul pode ajudá-los a fazer exatamente isso.

Os robôs são bons em muitas coisas. Eles podem levantar cargas imensas, aprender incrivelmente rápido e até mesmo pilotar um avião.

O AI Act da UE está deixando uma brecha para o reconhecimento de emoções?

BU, 16/02/2024 

Por Masha Borak 

Enquanto a União Europeia se prepara para adotar o Artificial Intelligence Act, a legislação histórica ainda está atraindo críticas, desta vez por permitir o uso do reconhecimento de emoções. Um artigo de opinião publicado no EU Observer destaca que o AI Act ainda deixa a porta aberta para seu uso em aplicação da lei e por agentes de migração, o que poderia levar a potenciais abusos de direitos.

O autor anônimo, que se descreve como um funcionário civil da UE, afirma que isso abre espaço para seu uso em aplicação da lei e controle de migração, especialmente no controverso projeto iBorderCtrl financiado pela UE, um detector de mentiras de IA para tecnologias de reconhecimento facial e de emoção projetadas para serem usadas durante o interrogatório de migrantes. Em 2018, o bloco anunciou que financiaria o projeto e conduziria testes-piloto na Hungria, Grécia e Letônia.

CEO da Microsoft diz que estão trabalhando em como lidar com "desinformação e informações falsas" eleitorais

RTN, 02/02/2024 

Por Christina Maas 

As gigantes da tecnologia estão assumindo um papel maior no monitoramento e moderação de formas de discurso online relacionadas a eleições.

As preocupações estão crescendo em relação ao papel das grandes empresas de tecnologia na moderação de "desinformação", particularmente devido ao temor de que essas corporações já possuam um poder e influência significativos que poderiam potencialmente influenciar os resultados políticos, incluindo eleições.

Conselho de Supervisão da Meta expressa preocupação pela ineficiência da censura automatizada por IA

EDT, 23/01/2024 

Por Kris Holt 

A decisão automática da empresa de rejeitar um recurso, após não remover uma postagem de negação do Holocausto no Instagram, levantou preocupações no Conselho de Supervisão do Meta.

O Conselho de Supervisão do Meta expressou preocupações sobre a moderação automatizada, ao anular a decisão da empresa de manter uma postagem de negação do Holocausto no Instagram. A negação do Holocausto é considerada discurso de ódio de acordo com as políticas do Meta. A postagem em questão retratava Squidward, de Bob Esponja, e alegava conter fatos verdadeiros sobre o Holocausto. No entanto, o Conselho de Supervisão afirmou que as alegações "eram flagrantemente falsas ou distorciam fatos históricos".

Nova patente do Google: uso de aprendizado de máquina para identificar “desinformação” nas redes sociais

RTN, 27/12/2023 

Por Didi Rankovic

O Google entrou com um pedido no Escritório de Marcas e Patentes dos EUA para uma ferramenta que usaria aprendizado de máquina (ML, um subconjunto de IA), para detectar o que o Google decide considerar como “desinformação” nas redes sociais.

O Google já utiliza elementos de IA em seus algoritmos, programados para automatizar a censura em suas plataformas massivas, e este documento indica um caminho específico que a empresa pretende seguir no futuro.

O objetivo geral da patente é identificar operações de informação (IO) e então o sistema deve “prever” se há “desinformação” ali.

Mastercard lança chatbot de IA generativo para ajudá-lo a fazer compras online

CTPH, 30/11/2023 

Por Tristan Greene 

A empresa de personalização digital Dynamic Yield by Mastercard foi adquirida do McDonald's em 2022.

Dynamic Yield by Mastercard, uma subsidiária de personalização digital e inteligência artificial da Mastercard, anunciou o lançamento de seu assistente de chatbot de IA generativo Shopping Muse para e-commerce em 30 de novembro. 

O sistema de IA foi revelado em uma postagem no blog da empresa. De acordo com a Dynamic Yield, o Shopping Muse é “uma ferramenta avançada de IA generativa que revoluciona a forma como os consumidores procuram e descobrem produtos no catálogo digital de um varejista”.

A IBM descobre que o ChatGPT pode gerar e-mails de phishing quase tão convincentes quanto um ser humano

VB, 24/10/2023 

Por Taryn Plumb 

À medida que continua evoluindo a um ritmo quase inimaginável, a IA está se tornando capaz de muitas coisas extraordinárias — desde gerar arte deslumbrante e mundos 3D até servir como um parceiro eficiente e fiável no local de trabalho. 

Mas a IA generativa e os grandes modelos de linguagem (LLMs) são tão enganosos quanto os seres humanos?

Quase. Finalmente, por enquanto, mantemos nossa supremacia nessa área, de acordo com uma pesquisa divulgada hoje pela IBM X-Force. Em um experimento de phishing conduzido para determinar se a IA ou os humanos obteriam uma taxa de cliques mais alta, o ChatGPT criou um e-mail convincente em minutos a partir de apenas cinco prompts simples que se mostraram quase – mas não tão – tão atraentes quanto um gerado por humanos. 

Como as empresas de IA e tecnologia estão contratando atores em greve para treinar IA

MITTR, 19/10/2023 

Por Eileen Guo 

Os atores de Hollywood estão em greve devido às preocupações com o uso da IA, mas por apenas US$ 300, a Meta e uma empresa chamada Realeyes os contrataram para fazer os avatares parecerem mais humanos.

Certa noite, no início de setembro, T, um ator de 28 anos que pediu para ser identificado pela letra inicial de seu nome, sentou-se em um estúdio alugado em Hollywood diante de três câmeras, um diretor e um produtor para um filme um tanto incomum. 

A filmagem de duas horas produziu imagens que não deveriam ser vistas pelo público – pelo menos não por um público humano. 

Empresa de biometria facial diz que rostos sintéticos podem resolver problemas de preconceito algorítmico

BU, 25/09/2023 

Por Masha Borak 

Rostos sintéticos podem resolver preconceitos algorítmicos e dilemas éticos de dados: IDVerse

Durante anos, muitos dos sistemas de IA utilizados para reconhecimento facial e verificação de identidade tiveram problemas de preconceito racial e de gênero. Os sistemas demonstraram taxas mais elevadas de erros de identificação para pessoas com pele mais escura e, por vezes, contribuíram para detenções injustas. A principal razão por trás disso são os dados nos quais os modelos de IA foram treinados, que incluem desproporcionalmente rostos brancos e masculinos.

ChatGPT diagnostica pacientes de pronto-socorro ‘como um médico humano’: estudo

IP, 13/09/2023 

O chatbot de inteligência artificial ChatGPT diagnosticou pacientes levados às emergências pelo menos tão bem quanto os médicos e, em alguns casos, superou-os, descobriram pesquisadores holandeses, dizendo que a IA poderia “revolucionar o campo médico”.

Mas o relatório publicado nesta quarta-feira também enfatizou que os médicos do pronto-socorro não precisam pendurar seus uniformes ainda, com o chatbot potencialmente capaz de acelerar o diagnóstico, mas não substituir o julgamento e a experiência médica humana.

O forte preconceito político de esquerda do ChatGPT é desmascarado por novo estudo

SCTD, 11/09/2023 

Um estudo de pesquisa identifica um viés de esquerda significativo na plataforma de IA ChatGPT, inclinada para os democratas dos EUA, o Partido Trabalhista do Reino Unido e o presidente do Brasil, Lula da Silva.

A plataforma de inteligência artificial ChatGPT mostra um viés de esquerda significativo e sistêmico, de acordo com um novo estudo da Universidade de East Anglia (UEA).

A equipe de pesquisadores do Reino Unido e do Brasil desenvolveu um novo método rigoroso para verificar preconceitos políticos.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Órgão de operações especiais dos EUA pagará por ferramenta de vigilância de mídia social para "combater desinformação"

RTN, 31/08/2023 

Por Didi Rankovic 

A Accrete AI anunciou que recebeu um contrato do Comando de Operações Especiais dos EUA (USSOCOM) para implantar sua ferramenta chamada Argus Social, que supostamente fornecerá previsão em tempo real de “ameaças de desinformação das mídias sociais”.

A Accrete – descrita como uma empresa de duplo propósito, cujo site declara que fornece “agentes de IA universalmente configuráveis, confiáveis ​​e precisos para automação de decisões” – anunciou o acordo com o USSOCOM em um comunicado à imprensa.

O Pentágono está acelerando a IA e a tecnologia autônoma

Decrypt, 30/08/2023 

Por José Antonio Lanz 

Os líderes militares dos EUA estão correndo para implantar milhares de armas autônomas e um sistema de monitoramento aéreo alimentado por IA para Washington DC.

Todo mundo está correndo para aproveitar a onda da IA, e os militares dos EUA não querem se atrasar para a festa.

A vice-secretária de Defesa, Kathleen Hicks, revelou a nova iniciativa Replicator do Pentágono em uma conferência de inovação em defesa na segunda-feira. O objetivo, disse ela, é “colocar em campo sistemas autônomos atribuíveis em escala de vários milhares, em vários domínios, nos próximos 18 a 24 meses”.

Departamento de Segurança Interna norte-americano usa ferramenta de vigilância para detectar emoções

RTN, 28/08/2023 

Por Didi Rankovic 

Documentos internos mostram como a agência examina as redes sociais para analisar o sentimento.

Cada vez mais relatórios estão sendo publicados, detalhando o desejo das agências governamentais dos EUA de expandir e “refinar” as suas operações de vigilância, incluindo a detecção de sentimentos e emoções, através da utilização de software alimentado por “IA”.

Uma delas é a Alfândega e Proteção de Fronteiras (CBP), que faz parte do Departamento de Segurança Interna (DHS), e que, de acordo com documentos internos obtidos por meio de solicitações da Lei de Liberdade de Informação (FOIA), contratou um terceiro para verificar as postagens online em busca de “termos e frases de risco”.

Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

HADAR: Novo método permite que a IA veja através da escuridão total como a luz do dia

SCTD, 03/08/2023 

A inovação pioneira, atualmente pendente de aprovação de patente, tem a capacidade de discernir textura e profundidade, além de compreender as características físicas dos indivíduos e do ambiente.

Cientistas da Purdue University estão impulsionando o futuro da robótica e dos sistemas autônomos com seu método de patente pendente que melhora a visão, e a percepção típicas das máquinas.

Cirurgia cerebral robótica com inteligência artificial é lançada em Hong Kong

IWT, 02/08/2023 

Por Scarlett Evans 

O robô MicroNeuro foi projetado para realizar cirurgia cerebral da “maneira menos invasiva”

Um robô cirúrgico movido a IA pode se tornar comum em breve em Hong Kong, após seus testes bem-sucedidos de “cirurgia cerebral profunda”.

O Centro de Inteligência Artificial e Robótica (CAIR), um centro de pesquisa da Academia Chinesa de Ciências, concluiu três testes bem-sucedidos em cadáveres. Os planos estão em andamento para mover o robô para uso comercial.