SI, 13/09/2022
Por Sue Poremba
Em 2019, o Google lançou um banco de dados sintético de fala com um objetivo muito específico: interromper deepfakes de áudio.
“Atores maliciosos podem sintetizar a fala para tentar enganar os sistemas de autenticação de voz”, relatou o blog da Google News Initiative na época. “Talvez igualmente preocupante, a conscientização pública de 'deep fakes' (áudio ou videoclipes gerados por modelos de deep learning) pode ser explorada para manipular a confiança na mídia.”
BI, 17/07/2023
Por Sourabh Jain
A inteligência artificial (IA) tornou-se popular desde o lançamento do ChatGPT, com a conscientização sobre as habilidades da IA crescendo a cada dia. Embora a IA tenha seu quinhão de benefícios, ela também foi usada para alguns usos assustadores.
Em um incidente bizarro, um golpista do WhatsApp usou vídeo de IA deepfake para roubar ₹ 40.000 de PS Radhakrishnan, um funcionário público aposentado de 73 anos de Kozhikode, Kerala.
BU, 25/10/2024
Por Anthony Kimery
O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.
O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.
No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.
Fortune, 06/09/2022
Por Jeremy Kahan
A Metaphysic chamou a atenção de Simon Cowell com um deepfake ao vivo da celebridade. Os fraudadores também estão prestando atenção.
Deepfakes estão ficando assustadoramente bons. Se houvesse alguma dúvida sobre isso, o America's Got Talent desta temporada deveria servir como um alerta. Uma startup chamada Metaphysic conseguiu avançar para a rodada final do concurso de talentos, que vai ao ar na próxima semana, produzindo deepfakes notáveis de Simon Cowell e dos outros juízes do concurso em tempo real. Os jurados ficaram impressionados ao ver artistas que têm apenas a mais vaga semelhança com eles – um rosto e formato de corpo um pouco semelhantes – de repente se transformarem em seus doppelgangers digitais, bem diante de seus olhos.
 |
| I.A |
YF, 03/09/2022 Com TechCrunch
Por Kyle Wigger e Amanda Silberling
A IA está ficando melhor em gerar pornografia. Podemos não estar preparados para as consequências.
Uma mulher ruiva está ao luar, e seu rosto obscurecido. Seu corpo nu parece pertencer a um pôster que você encontraria na parede do quarto de um adolescente na puberdade – isto é, até chegar ao torso, onde três braços saem de seus ombros.
Sistemas baseados em IA, como Stable Diffusion, que traduzem prompts de texto em imagens, têm sido usados por marcas e artistas para criar imagens conceituais, estampas premiadas (embora controversas) e campanhas de marketing completas.
YN!, 18/05/2023
Por Caroline Thayer
O peso-pesado de Hollywood Tom Hanks está pesando no uso de inteligência artificial nos filmes, especialmente à medida que envelhece e seu nome e aparência ainda são cobiçados.
O ator de "Um Homem Chamado Otto" deu sua opinião sobre a IA – observando que seu uso na indústria não é novidade e "sempre foi" muito usado.
"A primeira vez que fizemos um filme que tinha uma enorme quantidade de nossos próprios dados contidos em um computador, literalmente como parecíamos, foi um filme chamado 'The Polar Express'", disse Hanks no "The Adam Buxton Podcast" sobre seu filme de animação de 2004.
CTPH, 05/02/2024
Por Tristan Greene
A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.
Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).
O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.
IE, 17/11/2022
Por Maia Mulko
E existe alguma maneira eficaz de detectá-lo?
Todos nós já ouvimos falar de deepfakes.
PP, 25/01/2023
Por Pesala Bandara
A pesquisa revela que rostos deepfake gerados por inteligência artificial (IA) parecem mais reais do que fotos genuínas.
De acordo com o estudo, as pessoas não conseguem distinguir com segurança fotos de rostos reais e imagens geradas por IA.
Fortune, 14/02/2023
Por John Kell
Quase 30 anos depois de Tom Hanks e Robin Wright estrelarem o filme vencedor do Oscar Forrest Gump, os atores estão colaborando novamente no próximo filme Here.
Hanks e Wright estão décadas mais velhos desde a última vez que os espectadores os viram compartilhar a tela prateada.
CP, 19/09/2023
Por Aamir Sheikh
Livestreamers gerados por IA revolucionam o cenário do comércio eletrônico na China
CS, 08/02/2023
"Deixe-me apresentá-lo a... Emin-AI-em"
Talvez incapaz de conseguir uma colaboração adequada com Eminem por conta própria, David Guetta resolveu o problema com as próprias mãos com a ajuda da IA. Em um show recente, o DJ/produtor superstar mostrou exatamente o que a tecnologia pode fazer ao tocar um trecho de uma nova música com vocais deepfake soando estranhamente como o rapper de Detroit.
YN!, 04/06/2023
Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?
Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.
TX, 08/12/2022
Por Bob Yirka
Uma dupla de pesquisadores, um do Gymnasium of Johannes Kepler e outro da University of California, Berkley, desenvolveu um aplicativo de inteligência artificial (IA) capaz de determinar se um videoclipe de uma pessoa famosa é genuíno ou deepfake.
Em seu artigo publicado na Proceedings of the National Academy of Sciences, Matyáš Boháček e Hany Farid descrevem o treinamento de seu sistema de IA para reconhecer movimentos corporais únicos de certos indivíduos para discernir se um vídeo é real ou não.
BU, 03/03/2023
Por Joel R McConvey
A questão da identidade digital está prestes a ficar muito mais complicada e muito mais importante, à medida que o mundo começa a contar com a proliferação de deepfakes. Internacionalmente, os governos estão alertando sobre os riscos que acompanham a inteligência artificial (IA) generativa, que pode combinar ferramentas como biometria facial, síntese de voz e modelos de linguagem para criar avatares realistas. Conforme relatado na Fast Company, no New York Times e em outros lugares, da geopolítica à pornografia, o potencial de desinformação, disrrupção e uso indevido é um problema sério.
VB, 10/09/2022
Deepfakes não são novidade, mas essa tecnologia baseada em IA surgiu como uma ameaça generalizada na disseminação de desinformação e aumento da fraude de identidade. A pandemia piorou a situação ao criar as condições ideais para que os maus atores aproveitem os pontos cegos das organizações e dos consumidores, exacerbando ainda mais a fraude e o roubo de identidade. A fraude decorrente de deepfakes aumentou durante a pandemia e apresenta desafios significativos para instituições financeiras e fintechs que precisam autenticar e verificar identidades com precisão.
YF!, 14/04/2023
Por Bethan Moorcraft
O controverso podcaster Joe Rogan emitiu um alerta sobre inteligência artificial depois que uma versão falsa – mas muito realista – de seu popular podcast 'The Joe Rogan Experience' foi publicada online.
O episódio fictício – gerado com a ajuda do chatbot de IA ChatGPT – foi publicado no YouTube em 4 de abril.
Ele retrata uma conversa entre Joe Rogan e Sam Altman, CEO da OpenAI, com um aviso de que “as ideias e opiniões expressas no podcast não refletem suas opiniões reais”.
VB, 25/02/2024
Por Gary Grossman
A inteligência artificial está sendo cada vez mais usada para representar, ou deturpar, as opiniões de figuras históricas e contemporâneas. Um exemplo recente é quando a voz do Presidente Biden foi clonada e usada em uma ligação automática para os eleitores de New Hampshire. Indo além, dado o avanço das capacidades da IA, o que logo poderá ser possível é a "candidatura" simbólica de uma persona criada pela IA. Isso pode parecer absurdo, mas a tecnologia para criar tal ator político de IA já existe.
Há muitos exemplos que apontam para essa possibilidade. Tecnologias que permitem experiências de aprendizado interativo e imersivo trazem figuras históricas e conceitos à vida. Quando usadas de forma responsável, estas não só podem desmistificar o passado, mas inspirar uma cidadania mais informada e engajada.
Sociable, 08/07/2023
'Enquanto estamos aprendendo a usar IA, ela está aprendendo a nos usar': Yuval Harari para UN AI for Good Summit
O historiador Yuval Noah Harari disse ao AI for Good Global Summit da ONU que “enquanto estamos aprendendo a usar a IA, ela está aprendendo a nos usar” e que devemos desacelerar sua implantação, não o desenvolvimento.
Falando na quinta-feira na sessão da Cúpula Global AI for Good da União Internacional de Telecomunicações (UIT), das Nações Unidas sobre “Guardrails necessários para uma IA segura e responsável”, Harari opinou que a IA deve continuar a ser desenvolvida, mas que não deve ser implantada sem verificações e regulamentos de segurança.
TX, 22/03/2023
Por Brian Contreras
Para cada problema que você possa imaginar, alguém está lançando uma solução que envolve inteligência artificial. A IA poderia ajudar a resolver problemas intratáveis, como mudanças climáticas e condições de trabalho perigosas, prometem os entusiastas mais ansiosos da tecnologia.
Poderia até consertar o tão difamado final de "Game of Thrones", se você acredita em um dos proponentes mais poderosos da indústria e um palestrante destacado na conferência South by Southwest deste mês.
