BU, 19/07/2023
Por Masha Borak
Assim como o desconforto da indústria de biometria sobre o potencial de falsificação do modelo
O ChatGPT, o modelo de linguagem grande alimentado por inteligência artificial, pode analisar imagens, incluindo reconhecer e descrever rostos de pessoas. Mas a OpenAI, a empresa por trás do chatbot, diz que não está pronta para lançar recursos de reconhecimento facial ou análise para uso público, pois pode levar a questões legais em jurisdições que exigem consentimento para o uso de dados biométricos.
O recurso de análise de imagem faz parte da versão avançada do software chamado GPT-4, anunciado em março. O pesquisador de políticas de IA da empresa, Sandhini Agarwal, disse ao New York Times que a tecnologia pode ser usada para identificar figuras públicas, como pessoas com uma página da Wikipedia, mas não combina rostos com imagens encontradas na Internet, como ferramentas de Clearview AI e PimEyes. Essas empresas foram criticadas por suas práticas de coleta de dados, assim como o ChatGPT, embora até agora para dados não biométricos no caso deste último.
Embora a OpenAI tenha tido seu quinhão de escrutínio regulatório, a empresa tem outros motivos para adiar a disponibilização da análise de imagens.
Seus criadores ainda não têm certeza se o chatbot pode dizer coisas inapropriadas sobre o rosto das pessoas, incluindo avaliar seu gênero ou estado emocional. A empresa também está preocupada que a análise visual do ChatGPT possa potencialmente inventar o nome de uma pessoa, produzindo as chamadas “alucinações”, resultados enganosos ou imprecisos que já foram registrados no chatbot.
Em agosto do ano passado, a OpenAI encontrou viés de gênero e idade em seu modelo de visão computacional CLIP (Contrastive Language-Image Pre-training), sugerindo que não é apropriado para reconhecimento facial e outras tarefas.
Alguns usuários, no entanto, tiveram a sorte de experimentar o recurso de análise de imagem do GPT-4.
O podcaster Jonathan Mosen, da Nova Zelândia, que é cego, experimentou a versão avançada do chatbot por meio da cooperação com o Be My Eyes, uma plataforma móvel dinamarquesa que conecta pessoas cegas e com deficiência visual a voluntários e empresas que enxergam e os ajuda a reconhecer objetos e lidar com eles, e com situações cotidianas. Mosen descreveu sua experiência em seu podcast “Living Blindfully.”
O chatbot Bing, da Microsoft, também forneceu um lançamento limitado do recurso de análise visual para certos usuários, mas as imagens dos rostos foram borradas automaticamente, de acordo com o Times. A Open AI acredita que, no futuro, a tecnologia poderá ajudar os usuários a identificar e resolver problemas apenas fazendo upload de imagens, incluindo consertar um motor de carro ou identificar uma erupção cutânea.
Agarwal não menciona o potencial de ataques de falsificação com material gerado pelo ChatGPT, mas essa possibilidade é levantada em uma postagem recente de atualização biométrica do chefe de identidade digital da Jumio, Philipp Pointner.
Enquanto isso, algumas empresas, como a Sensory, estão buscando integrar eletrônicos de consumo habilitados para voz com ChatGPT baseado em texto.
Artigos recomendados: Vigilância e Controle
Fonte:https://www.biometricupdate.com/202307/chatgpt-facial-recognition-potential-makes-openai-nervous
Nenhum comentário:
Postar um comentário