Empresa de deepfake de voz levanta US$ 19 milhões para lançar ferramenta que combate sua própria tecnologia

BU, 22/06/2023 

Por William McCurdy 

Como os riscos apresentados pela fraude de IA generativa podem estar crescendo em todo o mundo, a ElevenLabs revelou uma nova ferramenta que permitirá aos usuários fazer upload de qualquer amostra de áudio, para identificar se contém áudio gerado com a IA da empresa.

A ElevenLabs é uma startup sediada nos Estados Unidos que oferece uma plataforma de síntese de fala, que editores e criadores possam usar para criar conteúdo de áudio sintético. Por exemplo, a tecnologia pode ler um artigo de jornal online ou um livro com uma voz razoavelmente humana.

Segundo a empresa, seu sistema possui certas “características específicas e detectáveis”.

Quando os usuários carregam uma amostra para a AI Speech Classifier, seu algoritmo supostamente procura essas características.

A ElevenLabs diz que poderá então confirmar se o conteúdo foi gerado por sua plataforma,

A empresa afirma que pode atingir uma precisão de até 99% se a entrada não for modificada, o que cai para apenas 90% se ela passar por transformações de codec ou reverberação antes de ser alimentada na ferramenta.

Essa precisão diminui quanto mais o conteúdo for pós-processado de acordo com a empresa. Se faixas de áudio adicionais forem adicionadas, isso também afetará o resultado.

O lançamento coincide com a ElevenLabs levantando US$ 19 milhões na rodada da Série A co-liderada por Nat Friedman, Daniel Gross e Andreessen Horowitz, com participação adicional da Credo Ventures e da Concept Ventures.

A rodada também incluiu uma série de investidores anjos, como o cofundador do Instagram, Mike Krieger, o cofundador da Oculus VR, Brendan Iribe, o cofundador da Ubiquity6, Anjney Midha, e o cofundador da Deepmind e Inflection, Mustafa Suleyman, de acordo com uma postagem no blog da empresa.

A ElevenLabs diz que usará o novo investimento para construir seu centro de pesquisa para IA de voz, bem como para lançar produtos adicionais para oferecer suporte a mercados verticais, como publicação, jogos e entretenimento.

O potencial de deepfakes para uso fraudulento é uma questão que está atraindo muito interesse em todo o mundo.

As instâncias de fraude deepfake dobraram na América do Norte entre 2022 e o primeiro trimestre de 2023, de acordo com um novo relatório da plataforma de verificação de identidade Sumsub, com sede em Londres.

A proporção desse tipo de incidente em relação ao total de casos de fraude saltou de 0,2% para 2,6% nos EUA e de 0,1% para 4,6% no Canadá.

Artigos recomendados: DPF e IAG

Fonte:https://www.biometricupdate.com/202306/generative-speech-firm-elevenlabs-raises-19m-launches-tool-to-snuff-out-deepfakes