IA comportamental é nossa melhor esperança para combater ameaças de engenharia social

VB, 04/02/2025

Enquanto líderes empresariais e especialistas discutem e debatem sobre o ciclo de hype da IA, cibercriminosos têm estado ocupados lançando ataques devastadores impulsionados por inteligência artificial. Ataques de engenharia social gerados por IA — incluindo phishing e comprometimento de e-mails corporativos — aumentaram drasticamente, com ferramentas de código aberto como ChatGPT (e suas contrapartes maliciosas, GhostGPT, FraudGPT e WormGPT) oferecendo a fraudadores sem experiência técnica um novo campo de atuação para criar ataques. Eles estão desenvolvendo ataques sofisticados e incrivelmente convincentes em larga escala, visando o vetor de segurança mais vulnerável de qualquer empresa: os humanos, em todos os níveis da organização.

ONU Avança em Agenda Pró-Censura ao Alvo de Plataformas de Jogos por Supostos Riscos de "Radicalização"

RTN, 27/12/2024 

Por Didi Rankovic 

A "inteligência sobre jogos" levanta preocupações sobre a mudança da ONU de manutenção da paz para vigilância online.

As narrativas e políticas que dominaram diversos países, incluindo os EUA, nos últimos anos, claramente se infiltraram na Organização das Nações Unidas (ONU), garantindo a continuidade dessas políticas independentemente de quem está no poder em países individuais.

Depois de focar amplamente na "desinformação" e em maneiras de censurar e vigiar o discurso online, a ONU agora escolheu os jogadores e os espaços de jogos como seu próximo alvo. Sob o pretexto de "detecção e prevenção precoce de radicalização", as plataformas de jogos estão sendo apontadas como "terrenos de recrutamento para extremistas", com tendências descritas como "alarmantes".

De mapas cerebrais a pontes vivas: as inovações que 'prometem transformar' a vida em 2025

TX, 31/12/2024 

Por Anthony King 

De energia solar captada no espaço a mapas genéticos do cérebro e pontes vivas autorreparáveis, as pesquisas previstas para 2025 são promissoras. E podemos esperar mudanças que tornarão as cidades mais verdes e limpas.

Quem acha que a pesquisa não é empolgante pode se surpreender. Em 2025, poderemos testemunhar a decodificação genética do cérebro humano, coletar energia solar no espaço e atravessar uma ponte feita de fungos controlados eletronicamente.

Desvendando a genética do cérebro com a ajuda da IA 

Facebook Planeja Encher a Plataforma com Usuários Baseados em IA

TB, 01/01/2025

Por Frank Landymore 

"Esperamos que essas IAs, com o tempo, existam em nossas plataformas, de forma semelhante às contas."

Rede de Bots

Se você esperava que os bots nas redes sociais fossem coisa do passado, não prenda a respiração.  

A Meta anunciou planos de integrar personagens gerados por IA no Facebook, como parte de sua estratégia para aumentar o engajamento na plataforma, segundo o Financial Times. Esses personagens serão criados pelos usuários por meio do estúdio de IA da Meta, com a ideia de interagir com eles quase como faria com humanos reais na rede social.  

Ofcom do Reino Unido aplicará verificação de idade usando reconhecimento facial sob a Lei de “segurança” online

RTN, 23/12/2024 

Por Didi Rankovic 

A medida pode estabelecer um precedente global para reconhecimento facial na verificação de idade online.

O regulador de comunicações do Reino Unido, Ofcom, divulgará em janeiro os requisitos que as plataformas online terão que cumprir para impor a verificação de idade, que deverá ser "altamente precisa".

A julgar pelas declarações feitas agora pelo Diretor de Política de Segurança Online da Ofcom, Jon Higham, o método envolverá algum tipo de reconhecimento facial.

IA agora pode criar uma réplica da sua personalidade

MITTR, 20/11/2024 

Por James O'Donnell

Uma entrevista de duas horas é suficiente para capturar com precisão seus valores e preferências, de acordo com uma nova pesquisa da Stanford e do Google DeepMind.

Imagine sentar-se com um modelo de IA para uma entrevista falada de duas horas. Uma voz amigável guia você através de uma conversa que abrange sua infância, memórias formativas, carreira e suas opiniões sobre política de imigração. Não muito tempo depois, uma réplica virtual sua é capaz de incorporar seus valores e preferências com precisão impressionante.

Isso agora é possível, de acordo com um novo artigo de uma equipe que inclui pesquisadores da Stanford e do Google DeepMind, publicado no arXiv e ainda não revisado por pares.

Pesquisadores treinam IA para detectar interferência estrangeira online

TX, 21/11/2024 

Por David Drucker 

Tecnologias modernas, como as redes sociais, estão tornando mais fácil do que nunca para inimigos dos Estados Unidos manipular emocionalmente os cidadãos norte-americanos.  

Autoridades dos EUA alertam que adversários estrangeiros estão tentando produzir grandes quantidades de informações falsas, e enganosas online, para influenciar a opinião pública no país. Em julho, o Departamento de Justiça anunciou que havia desmantelado uma campanha de desinformação apoiada pelo Kremlin, que utilizava cerca de mil contas falsas de redes sociais para espalhar informações enganosas.  

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Interface cérebro-computador de alta tecnologia te treina para relaxar e dormir melhor

NA, 31/10/2024 

Por Bronwyn Thompson 

É razoável dizer que, à medida que estamos cada vez mais conectados ao ciclo 24/7 de notícias, entretenimento e redes sociais, encontramos menos tempo para nos desconectar e focar no autocuidado. E embora a meditação tenha mostrado benefícios mentais e físicos amplamente estudados, pode ser um desafio começar e manter essa prática.

Agora, os mesmos avanços tecnológicos inteligentes que nos mantêm presos às telas podem também ser capazes de treinar até os cérebros mais resistentes na prática da meditação e mindfulness. O OxyZen, projetado pelo Laboratório de Inovação de Harvard, é a mais nova inovação da BrainCo, uma empresa de tecnologia já estabelecida que até agora desenvolveu próteses inteligentes e articulações de joelho integradas com IA, para dar aos usuários mais autonomia e controle sobre sua mobilidade.

Os chefes do Pentágono Querem Inundar as Redes Sociais com Pessoas Falsas de IA

TB, 19/10/2024 

Por Maggie Harrison 

"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo."

Amigos do Pentágono.

Personas de IA operadas pelo Pentágono podem estar chegando a um fórum da internet perto de você.

Como relatado pelo The Intercept, uma lista de desejos apresentada pelo Comando de Operações Especiais Conjuntas (JSOC) — um grupo furtivo de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD) — revela o interesse da agência em usar IA generativa para criar usuários falsos na internet.

Departamento de Polícia Testa Detetive com IA em Crimes Reais

TB, 29/09/2024 

Por Sharon Adarlo 

Crimes de Bot

Um departamento de polícia no Reino Unido está testando um sistema alimentado por IA que pode ajudar a solucionar casos antigos, condensando décadas de trabalho investigativo em meras horas, segundo a Sky News.

Mas ainda não há informações sobre a taxa de precisão desta plataforma desenvolvida na Austrália, chamada Soze, o que é uma preocupação importante, já que os modelos de IA tendem a produzir resultados extremamente incorretos ou "alucinar" informações inventadas.

ChatGPT está mudando a forma como escrevemos. Aqui está como—e por que isso é um problema

TX, 26/09/2024 

Por Ritesh Chugh

Você notou certas palavras e frases surgindo em todos os lugares ultimamente?

Expressões como "mergulhar em" e "navegar pela paisagem" parecem estar presentes em tudo, desde postagens em redes sociais até artigos de notícias e publicações acadêmicas. Elas podem soar sofisticadas, mas seu uso excessivo pode fazer um texto parecer monótono e repetitivo.

Essa tendência pode estar ligada ao aumento do uso de ferramentas de inteligência artificial (IA) generativa, como o ChatGPT e outros modelos de linguagem de grande porte (LLMs). Essas ferramentas são projetadas para facilitar a escrita, oferecendo sugestões baseadas em padrões no texto com o qual foram treinadas.

A versão mais recente do ChatGPT tem um recurso que você vai adorar — e isso é preocupante

TX, 12/09/2024 

Por Rob Brooks 

Se você é um assinante pago do ChatGPT, pode ter notado que o modelo de linguagem de inteligência artificial (IA) recentemente começou a soar mais humano quando você tem interações de áudio com ele.

Isso acontece porque a empresa por trás do modelo de linguagem, a OpenAI, está atualmente realizando um piloto limitado de um novo recurso conhecido como "modo de voz avançado".

A OpenAI diz que esse novo modo "apresenta conversas mais naturais e em tempo real, que captam e respondem com emoção e sinais não verbais". A empresa planeja disponibilizar o modo de voz avançado para todos os assinantes pagos do ChatGPT nos próximos meses.

Klaus Schwab afirma que o mundo está "à beira de uma profunda transformação sistêmica"

LifeSite, 13/09/2024 

Por Tim Hinchliffe 

O último relatório do Fórum Econômico Mundial (WEF) identifica uma transição para a "Era Inteligente", o aumento da "desinformação" e as mudanças demográficas para um mundo envelhecido como fatores-chave que impulsionam uma "profunda transformação sistêmica".

(The Sociable) — O fundador do Fórum Econômico Mundial (WEF), Klaus Schwab, diz que o mundo está passando por uma profunda transformação sistêmica impulsionada por cinco mudanças interconectadas.

As novas propostas de lei de IA da Califórnia podem impactar os memes

RTN, 04/09/2024 

Por Didi Rankovic

A legislatura do estado da Califórnia aprovou vários projetos de lei relacionados à "IA", incluindo uma proibição de deepfakes "em torno das eleições".

Os legisladores inseriram esses projetos durante a última semana das sessões atuais do Senado e da Câmara estaduais, e agora cabe ao governador Gavin Newsom (que já pediu por tais leis) assinar ou vetar esses projetos até o final deste mês.

A "teoria da internet morta" faz reivindicações sinistras sobre uma web controlada por IA. A verdade é mais sinistra

TX, 20/05/2024 

Por Jake Renzella 

Se você pesquisar "camarão Jesus" no Facebook, pode encontrar dezenas de imagens de crustáceos geradas por inteligência artificial (IA) mescladas em várias formas com uma imagem estereotipada de Jesus Cristo.

Algumas dessas imagens hiper-realistas receberam mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo aqui?

A "teoria da internet morta" tem uma explicação: o conteúdo gerado por IA e bots superou a internet gerada por humanos. Mas de onde veio essa ideia, e ela tem alguma base na realidade?

Vice-Presidente da Comissão Europeia: "Acreditamos que Nossa Verificação de Fatos Já Está Influenciando o Comportamento do Usuário"

RTN, 21/05/2024 

Por Didi Rankovic 

As eleições para o Parlamento Europeu estão acontecendo no próximo mês e, considerando que o presidente da Comissão Europeia (efetivamente, "o governo da UE") e todos os seus comissários são confirmados pelo Parlamento Europeu, não é de surpreender que muitos deles estejam atualmente em campanha.

Uma delas é a Vice-Presidente da Comissão Europeia para Valores e Transparência, Vera Jourova, e ela está seguindo a linha que a UE adotou antes desta eleição: alarmismo sobre desinformação, IA e Rússia.

Vídeo da fábrica chinesa de humanóides mergulha de volta no vale inquietante

 

NA, 08/05/2024 

Por Loz Blain 

Um vídeo de 20 segundos de dentro de uma fábrica chinesa de robôs humanoides está causando alguma consternação hoje nas redes sociais. Ele mostra uma variedade de humanoides altamente realistas, parcialmente descascados, em construção.

O vídeo, carregado pelo usuário 'meimei4515', não está creditado, mas mostra vários androides em movimento com cabelos e peles semelhantes aos humanos – em contraste gritante com a maioria dos humanoides de propósito geral que normalmente cobrimos, que são projetados para parecerem robôs, em vez de tentar enganar alguém.

A Ucrânia apresenta porta-voz do Ministério das Relações Exteriores gerada por IA

IP, 01/05/2024 

A Ucrânia apresentou nesta quarta-feira uma porta-voz gerada por inteligência artificial chamada Victoria, que fará declarações oficiais em nome de seu ministério das relações exteriores.

O ministério disse que iria "pela primeira vez na história" utilizar uma porta-voz digital para ler suas declarações, que ainda serão escritas por humanos.

Vestida com um terno escuro, a porta-voz se apresentou como Victoria Shi, uma "pessoa digital", em uma apresentação postada nas redes sociais.

Políticos australianos exigem que redes sociais censurem a "desinformação" online e sugerem identidade digital

RTN, 22/04/2024 

Por Didi Rankovic 

Políticos australianos pressionam por regulamentações mais rígidas nas redes sociais, com pressão bipartidária para combater a "desinformação" após os ataques a faca em Sydney.

Vários políticos australianos, tanto aqueles no governo quanto na oposição, estão pressionando as redes sociais a demonstrarem "mais vigilância" ao lidar com conteúdo relacionado aos ataques a faca em Sydney.

Isso se refere não apenas à censura em massa na forma de remoção de conteúdo designado como "desinformação", mas também à promoção da verificação de idade online, com os incidentes e os eventos subsequentes sendo utilizados para dar um novo ímpeto a essas políticas abrangentes.