BU, 01/02/2023
Um novo tipo de deepfake está se espalhando, baseado em gravações de voz. Os algoritmos biométricos de voz continuam a melhorar e os agentes de ameaças os estão usando para fraudes, roubo de identidade e outras atividades ilícitas.
Um artigo recente da Vice mostrou que vários membros da plataforma de mídia social 4chan usaram o software beta da ElevenLabs para gerar vozes que soam como notáveis, incluindo Joe Rogan, Ben Shapiro e Emma Watson, utilizando falas racistas ou comentários abusivos.
A ElevenLabs fornece serviços de “síntese de fala” e “clonagem de voz”, supostamente para explorar novas fronteiras da IA de voz e ajudar “criadores e editores que buscam as melhores ferramentas para contar histórias”.
Nessa mesma direção está o Vall-e da OpenAI. De acordo com o TechCrunch, o modelo fez avanços substanciais nos últimos meses e agora é capaz de gerar deepfakes convincentes.
Precisa de mais? Digite My Own Voice, software de “banco de voz” com tecnologia de IA do Acapela Group, uma startup francesa. Apresentado na CES 2023 e descoberto pela DigitalTrends, My Own Voice foi projetada para ajudar as pessoas que estão perdendo a capacidade de fala a recriar sua voz.
O software pode criar uma voz convincente usando apenas três minutos de áudio gravado.
Como lidar com deepfakes de voz com biometria.
No entanto, medidas anti-spoofing também estão sendo desenvolvidas.
De acordo com os engenheiros de reconhecimento de voz da Pindrop, os call centers podem tomar medidas para mitigar os danos dos deepfakes de voz.
As empresas podem educar os trabalhadores sobre o perigo.
As funções de retorno de chamada podem encerrar chamadas suspeitas e solicitar uma chamada de saída ao proprietário da conta para confirmação direta.
Por fim, a autenticação multifator (MFA) e as soluções antifraude podem reduzir os riscos de deepfake. Pindrop menciona fatores como a criação de metadados de chamada para verificação de identidade, análise de tom digital e análise de pressionamento de tecla para biometria comportamental.
Até a China está trabalhando na regulamentação do deepfake. Conforme relatado pelo New York Times, o país revelou regras rígidas exigindo que o material manipulado tenha o consentimento do sujeito e tenha assinaturas digitais ou marcas d'água.
Não se sabe se os regulamentos funcionam com deepfakes. No entanto, os defensores dos direitos alertam que podem restringir ainda mais o discurso na China.
Artigos recomendados: DPFV e Dados
Fonte:https://www.biometricupdate.com/202302/voice-deepfakes-on-the-rise-biometrics-can-help
Nenhum comentário:
Postar um comentário