Parlamento da UE vota por Identidade Digital obrigatória e verificação de idade, ameaçando a privacidade online

RTN, 26/11/2025

Por Cindy Harper

Por trás da promessa de segurança, esconde-se um plano para uma identidade verificada pelo Estado em cada clique.

O Parlamento Europeu votou para aproximar a União Europeia de um sistema obrigatório de identificação digital para atividades online, aprovando uma resolução não vinculativa que apoia regras de verificação de idade em toda a UE para redes sociais, plataformas de vídeo e chatbots de IA.

As empresas que não cumprirem as normas poderão ser impedidas de operar na UE.

A moção, aprovada com 483 votos a favor, 92 contra e 86 abstenções, vai além, recomendando que os executivos sejam responsabilizados pessoalmente por falhas no cumprimento das normas de conformidade digital.

Programa “Resist” do Governo do Reino Unido Monitora Postagens Online de Cidadãos

RTN, 21/11/2025

Por Cam Wakefield 

Burocratas que antes eram contratados para moldar a narrativa das notícias agora são encarregados de vasculhar páginas de Facebook de bairro em busca de pensamento errado.

Comecemos com uma pergunta simples: o que você obtém quando cruza um departamento de RP inchado com uma unidade de vigilância armada com pranchetas?

A resposta, ao que parece, é o Serviço de Comunicações do Governo Britânico (GCS). Antes apenas um grupo inofensivo de entusiastas de pranchetas criando slogans e promovendo políticas, eles agora evoluíram (ou talvez mutaram) para algo que só pode ser descrito como um cruzamento entre o MI5 e um moderador de Reddit de bairro com delírios de grandeza.

Visa lança iniciativa de identidade digital biométrica para pagamentos

RTN, 27/10/2025

Por Ken Macon

Uma nova camada de confiança está sendo incorporada a cada transação — seja ao deslizar um cartão ou clicar em um botão — onde a própria identidade se torna a moeda da segurança.

A verificação biométrica está se tornando uma característica definidora de como os pagamentos são realizados, à medida que as instituições financeiras buscam vincular a identidade diretamente a cada transação.

Refletindo essa tendência, a Visa firmou parceria com a Proof, uma plataforma de identidade digital.

IA 'reanimou' uma vítima de assassinato para que ela falasse no tribunal

ZMSC, 17/06/2025

Por Nir Eisikovits 

Avatares de pessoas mortas com IA estão ministrando cursos e testemunhando em tribunais. Mesmo com as melhores intenções, a prática emergente de "reanimações" com IA é um atoleiro ético.

Christopher Pelkey foi morto a tiros em um incidente de fúria no trânsito em 2021. No dia 8 de maio de 2025, durante a audiência de sentença de seu assassino, uma reconstrução em vídeo com IA de Pelkey fez uma declaração de impacto da vítima. O juiz do caso relatou ter ficado profundamente comovido com a apresentação e aplicou a pena máxima por homicídio culposo.

Como parte das comemorações dos 77 anos de independência de Israel, no dia 30 de abril de 2025, as autoridades haviam planejado realizar um concerto com quatro cantores israelenses icônicos. Todos os quatro já estavam mortos há anos. A ideia era trazê-los de volta usando som e vídeo gerados por IA. Os artistas falecidos deveriam cantar ao lado de Yardena Arazi, uma artista famosa e ainda viva. No final, Arazi desistiu de participar, citando o clima político, e o evento acabou não acontecendo.

IA comportamental é nossa melhor esperança para combater ameaças de engenharia social

VB, 04/02/2025

Enquanto líderes empresariais e especialistas discutem e debatem sobre o ciclo de hype da IA, cibercriminosos têm estado ocupados lançando ataques devastadores impulsionados por inteligência artificial. Ataques de engenharia social gerados por IA — incluindo phishing e comprometimento de e-mails corporativos — aumentaram drasticamente, com ferramentas de código aberto como ChatGPT (e suas contrapartes maliciosas, GhostGPT, FraudGPT e WormGPT) oferecendo a fraudadores sem experiência técnica um novo campo de atuação para criar ataques. Eles estão desenvolvendo ataques sofisticados e incrivelmente convincentes em larga escala, visando o vetor de segurança mais vulnerável de qualquer empresa: os humanos, em todos os níveis da organização.

IA agora pode criar uma réplica da sua personalidade

MITTR, 20/11/2024 

Por James O'Donnell

Uma entrevista de duas horas é suficiente para capturar com precisão seus valores e preferências, de acordo com uma nova pesquisa da Stanford e do Google DeepMind.

Imagine sentar-se com um modelo de IA para uma entrevista falada de duas horas. Uma voz amigável guia você através de uma conversa que abrange sua infância, memórias formativas, carreira e suas opiniões sobre política de imigração. Não muito tempo depois, uma réplica virtual sua é capaz de incorporar seus valores e preferências com precisão impressionante.

Isso agora é possível, de acordo com um novo artigo de uma equipe que inclui pesquisadores da Stanford e do Google DeepMind, publicado no arXiv e ainda não revisado por pares.

Modelo de IA que imita a personalidade humana levanta questões sobre deepfakes

BU, 28/11/2024 

Por Masha Borak

Golpistas já utilizam deepfakes de áudio e vídeo para enganar familiares, amigos e parceiros comerciais de suas vítimas. Mas o que aconteceria se eles também pudessem imitar suas personalidades?  

Pesquisadores de Stanford e do Google DeepMind treinaram modelos de IA para replicar a personalidade de uma pessoa após apenas duas horas de conversa.  

O estudo envolveu mais de 1.000 participantes que participaram de entrevistas de duas horas, abrangendo diversos tópicos: vida pessoal, opiniões sobre questões sociais, testes de personalidade e lógica, experimentos em ciências sociais e jogos econômicos. As respostas foram gravadas e usadas para treinar modelos generativos de IA personalizados para cada participante. Esses modelos foram chamados de “agentes de simulação”.  

Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA

BU, 19/11/2024 

Por Abigail Opiah 

Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Os chefes do Pentágono Querem Inundar as Redes Sociais com Pessoas Falsas de IA

TB, 19/10/2024 

Por Maggie Harrison 

"Isso apenas encorajará outras forças militares ou adversários a fazerem o mesmo."

Amigos do Pentágono.

Personas de IA operadas pelo Pentágono podem estar chegando a um fórum da internet perto de você.

Como relatado pelo The Intercept, uma lista de desejos apresentada pelo Comando de Operações Especiais Conjuntas (JSOC) — um grupo furtivo de contraterrorismo dentro do Departamento de Defesa dos EUA (DoD) — revela o interesse da agência em usar IA generativa para criar usuários falsos na internet.

As novas propostas de lei de IA da Califórnia podem impactar os memes

RTN, 04/09/2024 

Por Didi Rankovic

A legislatura do estado da Califórnia aprovou vários projetos de lei relacionados à "IA", incluindo uma proibição de deepfakes "em torno das eleições".

Os legisladores inseriram esses projetos durante a última semana das sessões atuais do Senado e da Câmara estaduais, e agora cabe ao governador Gavin Newsom (que já pediu por tais leis) assinar ou vetar esses projetos até o final deste mês.

Coreia do Sul se junta à repressão global ao Telegram, citando deepfakes

CTPH, 03/09/2024 

Por Helen Partz 

A Coreia do Sul se juntou à crescente lista de jurisdições globais que estão lançando investigações contra o Telegram por disseminação de conteúdo ilícito.

As autoridades sul-coreanas estão investigando o Telegram Messenger por supostos crimes envolvendo conteúdo ilícito na plataforma.

A Agência de Polícia Metropolitana de Seul iniciou uma investigação preliminar sobre o Telegram por alegações de "cumplicidade em crimes sexuais com deepfakes", informou a agência de notícias local Yonhap em 3 de setembro.

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

A OpenAI está explorando como criar pornografia gerada por inteligência artificial

TB, 08/05/2024 

Por Jon Christian 

"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

A Microsoft apresenta o VASA-1, um framework de IA que faz retratos humanos falar e cantar

VB, 18/04/2024 

Por Shubham Sharma 

A Microsoft deu um grande salto no campo da geração de conteúdo impulsionada por IA. Apenas algumas horas atrás, o braço de pesquisa da empresa liderada por Satya Nadella apresentou o VASA-1, um framework de IA que pode converter retratos humanos em vídeos falados e cantados.

O projeto marca uma mudança significativa no que foi alcançado na geração de conteúdo gerado por IA, pois trabalha com entrada mínima. Tudo o que precisa é de um retrato estático e um arquivo de áudio com discurso, e o modelo o trará à vida, completo com sincronização labial e expressões relacionadas e movimentos de cabeça.

Projeto de lei da Califórnia sobre autenticação em redes sociais visa combater a interferência nas eleições

BU, 02/04/2024 

Por Joel R. McConvey 

A Califórnia promulgou o Projeto de Lei do Senado 1228 sobre autenticação de usuários, parte de um pacote legislativo maior projetado para proteger as eleições do estado contra desinformação, informação imprecisa e outros usos potencialmente desestabilizadores da tecnologia. Apresentado pelo Senador Steve Padilla, o projeto de lei exige que grandes plataformas online exijam verificação de identidade digital e rotulagem para usuários com grandes audiências, como "influenciadores", ou aqueles que distribuem grandes quantidades de conteúdo gerado por IA.

OpenAI revela ferramenta de clonagem de voz

TX, 30/03/2024 

A OpenAI revelou na sexta-feira uma ferramenta de clonagem de voz que planeja manter estritamente controlada, até que medidas de segurança estejam em vigor para impedir falsificações de áudio destinadas a enganar os ouvintes.

Um modelo chamado "Voice Engine" pode essencialmente duplicar a fala de alguém com base em uma amostra de áudio de 15 segundos, de acordo com uma postagem no blog da OpenAI compartilhando resultados de um teste em pequena escala da ferramenta.

"Reconhecemos que gerar fala que se assemelha à voz das pessoas tem sérios riscos, que estão especialmente em foco em um ano eleitoral", disse a empresa sediada em São Francisco.

Governo Liberal do Canadá Avança Projeto de Lei de Censura de "Danos Online"

RTN, 27/02/2024 

Por Cindy Harper 

O Ministro da Justiça do Canadá, Arif Virani, avançou com um projeto de lei altamente controverso, chamado Projeto de Lei C-63, propondo uma nova legislação abrangente destinada a abordar o discurso de ódio online.

Obtivemos uma cópia do projeto de lei para você aqui.

O projeto de lei abrange sete tipos de material prejudicial, desde conteúdo que explora sexualmente ou revitimiza crianças e sobreviventes até conteúdo que promove violência e extremismo.

Dos deepfakes aos candidatos digitais: o jogo político da IA

VB, 25/02/2024 

Por Gary Grossman 

A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.

Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.