Mãe diz que estranhos usaram IA para fingir sequestro de sua filha – deepfake

TB, 15/04/2023 - Com Futurism 

Por Victor Tangermann 

Telefonema Horrível

Uma mãe diz que criminosos usaram IA para clonar a voz de sua filha de 15 anos para fingir um sequestro e tentar obter um resgate – um incidente chocante que mostra o quão longe a tecnologia chegou e como ela pode ser facilmente abusada.

Tudo começou quando a mãe, Jennifer DeStefano, recebeu uma ligação de um número misterioso.

“Eu pego o telefone e ouço a voz da minha filha, e ela diz: 'Mãe!' e ela está chorando", disse DeStefano à estação de notícias WKYT, com sede no Arizona. "Eu disse, 'O que aconteceu?' E ela disse: 'Mãe, eu errei', e ela está soluçando e chorando."

Foi claramente uma conversa horrível. Segundo a mãe, uma voz de homem dizia: "coloca a cabeça para trás, deita". O homem avisou DeStefano que ele iria "entupi-la de drogas e espancá-la" se ela chamasse a polícia.

"Vou fazer o que quiser com ela e vou deixá-la no México", disse o homem, repugnante.

Depois que DeStefano recusou após ser solicitado um resgate de $ 1 milhão, o homem baixou seu pedido para $ 50.000.

Final feliz

O incidente terminou tão abruptamente quanto começou. Não demorou muito para DeStefano confirmar que sua filha estava segura em seu quarto – e extremamente confusa.

A tecnologia que os criminosos usaram para clonar a voz do adolescente foi extremamente convincente, diz ela.

"Era completamente a voz dela", disse DeStefano ao WKYT. "Foi a inflexão dela. Era a maneira como ela teria chorado. Nunca duvidei nem por um segundo que fosse ela. Essa é a parte esquisita que realmente me surpreendeu."

O sequestro falso destaca um novo surgimento preocupante de criminosos que usam poderosas ferramentas de clonagem de IA para imitar não apenas a fala, mas também os maneirismos individuais de suas vítimas.

Para se proteger, os especialistas têm alguns conselhos bastante diretos.

"Você precisa manter essas coisas bloqueadas", disse o agente especial do FBI Dan Mayo ao WKYT, explicando que qualquer pessoa com uma grande presença online poderia ver isso sendo usado contra eles.

Outra maneira simples é perguntar ao chamador sobre coisas que ele não poderia saber sobre a vítima, algo que pode permitir que você "descubra rapidamente que é um golpista", disse Mayo.

No entanto, de acordo com o agente, chamadas fraudulentas de IA como essas são uma ocorrência quase diária – e, às vezes, os criminosos também escapam impunes.

Artigos recomendados: DPF e IA

Fonte:https://futurism.com/the-byte/mom-creeps-ai-fake-daughter-kidnapping