MMN, 14/02/2023
A tecnologia tornou nossa vida muito melhor, mas não se pode ignorar o aspecto prejudicial dela. Já testemunhamos como as ferramentas de clonagem de voz AI e deepkfake foram usadas por trolls para imitar as vozes de celebridades e fazer vídeos falsos. O áudio gerado varia em conteúdo de memes e erotismo a discursos de ódio virulentos.
A ElevenLabs, startup que fornece a tecnologia de clonagem de voz, já anunciou em um tópico no Twitter que introduzirá proteções adicionais na plataforma. Isso incluirá impedir que usuários da versão gratuita criem vozes personalizadas, lançar uma ferramenta para detectar áudio gerado por IA, e banir contas denunciadas por criar “conteúdo prejudicial”.
Os trolls da Internet estão adotando rapidamente a tendência de IA que permite a qualquer um copiar instantaneamente a voz de um alvo em potencial. Os usuários do 4chan migraram para a plataforma gratuita de síntese de voz ElevenLabs, onde podem clonar vozes de celebridades e ler gravações que vão desde discursos de ódio, eróticos até piadas e falas falsas.
O software da ElevenLabs, que parece ter se tornado acessível no fim de semana, oferece uma formidável combinação de velocidade, qualidade e disponibilidade - bem como uma completa falta de salvaguardas - em contraste com o rápido avanço de tais falsificações de fala de IA a poucos anos atrás.
Artigos recomendados: DPF e IA
Fonte:https://mmnews.tv/watch-how-al-voice-cloning-and-deepfake-tool-create-perfect-fake-video/
Nenhum comentário:
Postar um comentário