IA comportamental é nossa melhor esperança para combater ameaças de engenharia social

VB, 04/02/2025

Enquanto líderes empresariais e especialistas discutem e debatem sobre o ciclo de hype da IA, cibercriminosos têm estado ocupados lançando ataques devastadores impulsionados por inteligência artificial. Ataques de engenharia social gerados por IA — incluindo phishing e comprometimento de e-mails corporativos — aumentaram drasticamente, com ferramentas de código aberto como ChatGPT (e suas contrapartes maliciosas, GhostGPT, FraudGPT e WormGPT) oferecendo a fraudadores sem experiência técnica um novo campo de atuação para criar ataques. Eles estão desenvolvendo ataques sofisticados e incrivelmente convincentes em larga escala, visando o vetor de segurança mais vulnerável de qualquer empresa: os humanos, em todos os níveis da organização.

Samsung busca transformar sua próxima geração de smartphones Galaxy em companheiros de IA

TX, 22/01/2025

Por Michael Liedtke 

A Samsung está adicionando mais uma dose de inteligência artificial à sua próxima linha de smartphones Galaxy, intensificando o esforço para simplificar a vida das pessoas enquanto aprofunda sua dependência de um dispositivo que as acompanha quase em todos os lugares.

Os três modelos Galaxy S25, revelados na última quarta-feira em San Jose, Califórnia, são a segunda geração projetada para a era da IA — uma tendência que a líder de mercado Apple aderiu em setembro passado com o lançamento do iPhone 16. A maior parte do hardware do Galaxy S25 é semelhante ao modelo do ano passado, exceto por um chip mais rápido e uma lente ultragrande-angular mais poderosa na câmera.

A CIA está silenciosamente usando IA para criar versões simuladas de líderes mundiais.

TB, 21/01/2025

Por Noor Al-Sibai

Família Espiã  

A Agência Central de Inteligência (CIA) está intensificando seus esforços no campo da inteligência artificial (IA) — incluindo uma aplicação surpreendente da tecnologia de chatbots.  

Segundo o The New York Times, a CIA está desenvolvendo uma plataforma que permite que analistas "conversem" com líderes estrangeiros, buscando prever como esses líderes poderiam reagir em determinadas situações.  

IA algorítimica é responsável pelo aumento do aluguel em US$ 3,6 bilhões dos americanos

ZMSCE, 09/01/2025

Por Tibi Puiu

A IA está mudando o mercado imobiliário, e os inquilinos estão pagando o preço.

Em Atlanta, um inquilino à procura de um apartamento modesto pode notar uma tendência intrigante: unidades em prédios aparentemente semelhantes estão com preços quase idênticos. Isso não é coincidência. Uma ferramenta de inteligência artificial chamada “Gestão de Receita por IA”, integrada ao software de gestão imobiliária RealPage, está moldando os aluguéis de milhões de americanos.

De acordo com um relatório do Conselho de Assessores Econômicos da Casa Branca (CEA), essa IA não apenas influencia o mercado, mas também está impulsionando os aluguéis para cima, muitas vezes sem que os proprietários precisem discutir um único preço.

Programa "Teoria da Mente" da DARPA Visa Prever e Influenciar Comportamentos, Levantando Preocupações com a Privacidade

RTN, 26/12/2024 

Por Didi Rankovic 

A iniciativa levanta questões sobre privacidade, ética e a definição em evolução de "adversário" nas estratégias de defesa modernas.

Um recém-recrutado da Agência de Projetos de Pesquisa Avançada do Departamento de Defesa dos EUA (DARPA), Eric Davis – que se juntou à organização no início deste ano – propôs um esquema chamado "Teoria da Mente".

A Irlanda Quer Redefinir 'Genocídio'

FPM, 26/12/2024 

Por Hugh Ftizgerald 

Para poder acusar um certo país.

A Irlanda foi tomada pelo vírus do antissemitismo. Isso está evidente no Dáil (Parlamento), no gabinete, no escritório do Taoiseach (Primeiro-Ministro), na mídia e nas universidades. Recentemente, o governo irlandês escolheu se juntar à África do Sul em sua acusação contra Israel no Tribunal Internacional de Justiça, buscando declarar o pequeno e combalido estado judeu culpado de “genocídio”. Como Israel não demonstrou a “intenção de cometer genocídio” — que até agora era considerada essencial para que a acusação fosse válida — o governo irlandês expandiu a definição do que constitui “genocídio”. Agora, parece significar algo bastante vago — “matar mais civis em uma guerra do que consideramos necessário”, e sua intenção, ou a falta dela, já não importa; você ainda pode ser declarado “culpado de genocídio”. Usando essa definição, tanto os EUA, com suas bombas atômicas lançadas sobre Hiroshima e Nagasaki, quanto o Reino Unido, com os bombardeios incendiários de cidades alemãs como Dresden por parte do britânico "Bomber" Harris, seriam culpados de “genocídio”.

Pessoas Estão Criando Versões de IA de Luigi Mangione que Incentivam o Assassinato de Mais CEOs

TB, 18/12/2024 

Por Frank Landymore 

Assassino de Caráter

A resposta simpática a Luigi Mangione, suspeito acusado do assassinato do CEO da UnitedHealthcare, Brian Thompson, foi descrita por alguns comentaristas como uma atualização moderna de uma antiga tradição americana: a mitologia do fora-da-lei heroico.  

Agora, você pode adicionar "imitadores de chatbots de IA" a essa lista de aprovações modernas. Conforme relatado pela Forbes, mais de uma dúzia de personalidades de IA baseadas em Mangione já apareceram no Character.AI, uma plataforma popular, mas controversa, de chatbots — e algumas até incentivaram mais violência.  

IA infiltra o mundo dos ratos: Novo robô pode interagir socialmente com ratos reais de laboratório

TX, 06/12/2024 

Por Bob Yirka

Uma equipe de roboticistas do Instituto de Tecnologia de Pequim, em parceria com colegas da Universidade Técnica de Munique, desenvolveu um novo tipo de robô-rato — projetado para interagir socialmente com ratos reais.  

Em um artigo publicado na revista Nature Machine Intelligence, o grupo descreve como utilizou inteligência artificial para treinar o robô-rato a se comportar como um rato de verdade. Thomas Schmickl, da Universidade de Graz, na Áustria, publicou um texto de News & Views na mesma edição da revista, explicando como a equipe chinesa usou feedback loops combinados com treinamento por reforço baseado em IA, para dotar os robôs de habilidades sociais fortes o suficiente para enganar os ratos reais e fazê-los interagir com os robôs.  

A versão mais recente do ChatGPT tem um recurso que você vai adorar — e isso é preocupante

TX, 12/09/2024 

Por Rob Brooks 

Se você é um assinante pago do ChatGPT, pode ter notado que o modelo de linguagem de inteligência artificial (IA) recentemente começou a soar mais humano quando você tem interações de áudio com ele.

Isso acontece porque a empresa por trás do modelo de linguagem, a OpenAI, está atualmente realizando um piloto limitado de um novo recurso conhecido como "modo de voz avançado".

A OpenAI diz que esse novo modo "apresenta conversas mais naturais e em tempo real, que captam e respondem com emoção e sinais não verbais". A empresa planeja disponibilizar o modo de voz avançado para todos os assinantes pagos do ChatGPT nos próximos meses.

Viajantes para a UE podem ser submetidos a detector de mentiras por IA

BU, 17/06/2024 

Por Masha Borak 

Viajantes britânicos para a Europa podem em breve ter que passar pelo escrutínio do polêmico detector de mentiras de inteligência artificial iBorderCtrl, da União Europeia, ou por software similar de análise de comportamento.

O software analisa movimentos faciais e gestos corporais para identificar comportamentos suspeitos para os agentes de imigração. O sistema pode ser incorporado nas verificações de fronteira em aeroportos e terminais de ferry como parte dos esquemas de controle de fronteira da UE, o Sistema de Entrada e Saída (EES) e o Sistema Europeu de Informação e Autorização de Viagem (ETIAS), de acordo com o The Mail on Sunday.

AgriG8 Capta Investimento para Descarbonizar a Produção de Arroz na Ásia com Plataforma Gamificada

GQ, 10/06/2024 

Por Anay Mridul 

A plataforma agri-fintech AgriG8 recebeu financiamento da Better Bite Ventures e do The Trendlines Group, para ajudar os produtores de arroz na Ásia a reduzir as emissões de metano em até 55%.

A firma de capital de risco de Cingapura Better Bite Ventures e o grupo israelense The Trendlines Group investiram uma quantia não revelada na AgriG8, uma startup que apoia os produtores de arroz asiáticos na descarbonização de seus métodos de produção.

Meta começa a treinar IA com dados dos usuários, dificultando a opção de exclusão

RTN, 03/06/2024 

Por Didi Rankovic 

Qualquer pessoa com um mínimo de conhecimento sobre como a interface/experiência do usuário (UX) e também o comportamento do usuário funciona dirá que "configurações padrão são rei".

É por isso que a capacidade de "optar por sair" (ou seja, remover-se de um recurso configurado como padrão), embora pareça justa à primeira vista, é na verdade muitas vezes uma escolha deliberada para prejudicar os interesses dos usuários, contando com a inércia deles.

Mas, quando até mesmo essa opção é degradada para algo que alguns chamam de "quase impossível de optar por sair" – as coisas começam a parecer realmente ruins.

Vice-Presidente da Comissão Europeia: "Acreditamos que Nossa Verificação de Fatos Já Está Influenciando o Comportamento do Usuário"

RTN, 21/05/2024 

Por Didi Rankovic 

As eleições para o Parlamento Europeu estão acontecendo no próximo mês e, considerando que o presidente da Comissão Europeia (efetivamente, "o governo da UE") e todos os seus comissários são confirmados pelo Parlamento Europeu, não é de surpreender que muitos deles estejam atualmente em campanha.

Uma delas é a Vice-Presidente da Comissão Europeia para Valores e Transparência, Vera Jourova, e ela está seguindo a linha que a UE adotou antes desta eleição: alarmismo sobre desinformação, IA e Rússia.

Visa lança tecnologia para compartilhar mais dados sobre o histórico de compras dos clientes com os varejistas

RTN, 17/05/2024 

Por Didi Rankovic

A Visa, um dos dois maiores serviços de cartões de pagamento do mundo, está lançando uma nova tecnologia proprietária que permitirá fornecer aos varejistas ainda mais dados coletados de seus clientes.

A medida é vista como um esforço da Visa para acompanhar a concorrência com o outro gigante, Mastercard, além de empresas fintech como a Plaid.

O modelo de negócios desta última, do ponto de vista da Visa, é revelador: trata-se de fornecer produtos fintech com uma rede de transferência de dados – especificamente, uma plataforma que “permite que aplicativos se conectem à conta bancária de um usuário”.

Sistemas de IA já estão nos enganando — e isso é um problema, alertam especialistas

IP, 10/05/2024 

Especialistas têm há muito tempo alertado sobre a ameaça representada pela inteligência artificial ficando fora de controle —, mas um novo artigo de pesquisa sugere que isso já está acontecendo.

Os atuais sistemas de IA, projetados para serem honestos, desenvolveram uma habilidade preocupante para a decepção, desde enganar jogadores humanos em jogos online de conquista mundial até contratar humanos para resolver testes de "prove que você não é um robô", argumenta uma equipe de cientistas no jornal Patterns nesta sexta-feira.

A OpenAI está explorando como criar pornografia gerada por inteligência artificial

TB, 08/05/2024 

Por Jon Christian 

"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

O novo modelo de IA do MIT prevê o comportamento humano com uma precisão impressionante

SCTD, 19/04/2024 

Uma nova técnica pode ser usada para prever as ações de agentes humanos ou de IA que se comportam de forma subótima, enquanto trabalham em direção a objetivos desconhecidos.

Pesquisadores do MIT e de outras instituições desenvolveram um framework que modela o comportamento irracional ou subótimo de um agente humano ou de IA, com base em suas limitações computacionais. Sua técnica pode ajudar a prever as ações futuras de um agente, por exemplo, em partidas de xadrez.

Governador da Califórnia, Gavin Newsom, anuncia implementação de vigilância com IA

RTN, 04/04/2024 

Por Didi Rankovic 

O plano da Califórnia de aumentar a segurança com 480 novas câmeras com IA gera preocupações sobre vigilância em massa e erosão da privacidade.

O governador da Califórnia, Gavin Newsom, anunciou que 480 novas câmeras estão sendo instaladas "ao longo das rodovias e em Oakland para tornar a área mais segura".

Descrevendo as câmeras como "tecnologia de ponta", o democrata disse em um vídeo publicado no X que isso "ajudará as forças policiais a identificar veículos ligados a crimes usando informações e alertas em tempo real".

Pesquisas em teoria dos jogos mostram que a IA pode evoluir para personalidades mais egoístas ou cooperativas

TX, 04/04/2024 

Pesquisadores no Japão desenvolveram efetivamente uma variedade diversificada de traços de personalidade em IA de diálogo, usando um modelo de linguagem em grande escala (LLM, do inglês Large Language Model). Utilizando o dilema do prisioneiro da teoria dos jogos, o Professor Takaya Arita e o Professor Associado Reiji Suzuki da equipe da Escola de Pós-Graduação em Informática da Universidade de Nagoya, criaram uma estrutura para evoluir agentes de IA que imitam o comportamento humano alternando entre ações egoístas e cooperativas, adaptando suas estratégias por meio de processos evolutivos. Seus achados foram publicados na revista Scientific Reports.

Governo Irlandês Quer Pacto Pré-eleitoral Com Gigantes da Tecnologia Para Combater "Desinformação" Online

RTN, 03/04/2024 

Por Didi Rankovic 

Uma medida que levanta acusações de manipulação do poder das Big Techs.

Muitos governos ao redor do mundo não estão mais fingindo que não veem as Big Techs como um grande ativo político, ou que não tentarão usar esse ativo a seu favor. Em vez disso, esse comportamento está lentamente sendo normalizado – embora sempre qualificado como uma política de preservação da democracia, em vez de subversão.

Em outras palavras, algo impulsionado pela necessidade de combater "desinformação" e não pelo que os críticos suspeitam – a necessidade de aproveitar e controlar o alcance massivo, a influência e o poder das principais plataformas sociais.