BU, 08/10/2024
Por Joel R. McConvey
O grande modelo de linguagem (LLM) ChatGPT "reconhece identidades faciais e diferencia entre duas imagens faciais com considerável precisão", de acordo com um estudo recém-divulgado que explora o potencial de aplicar LLMs a “tarefas biométricas”.
O artigo, “ChatGPT e Biometria: uma Avaliação das Capacidades de Reconhecimento Facial, Detecção de Gênero e Estimativa de Idade” cumpre o que o título sugere. “Embora as aplicações de LLMs, como o ChatGPT, tenham sido estudadas para diferentes tarefas, suas capacidades para biometria não foram exploradas”, afirma o texto.
A equipe de pesquisa, composta por acadêmicos do Idiap Research Institute, do Mizani Research Institute e da Universidade Norueguesa de Ciência e Tecnologia (NTNU), afirma que o ChatGPT “evita responder perguntas sobre informações sensíveis (por exemplo, relacionadas à privacidade) devido a mecanismos de proteção. Da mesma forma, como os dados biométricos são considerados informações sensíveis, o ChatGPT não fornece respostas diretas a solicitações relacionadas a informações biométricas”.
Mas e quanto a perguntas indiretas? Usando "um prompt elaborado para contornar os mecanismos de proteção do ChatGPT", os pesquisadores foram capazes de testar as capacidades biométricas do programa – que eles descobriram serem significativas.
“Nossa pesquisa revela que o ChatGPT reconhece identidades faciais e diferencia entre duas imagens faciais com considerável precisão”, afirma o resumo. “Além disso, os resultados experimentais demonstram um desempenho notável na detecção de gênero e precisão razoável nas tarefas de estimativa de idade.”
A equipe treinou o ChatGPT-4 com conjuntos de dados contendo milhares de imagens de rostos reais e sintéticos e testou suas capacidades biométricas. O artigo detalha seus métodos para reconhecimento facial, estimativa de idade e detecção de gênero. Mas só na conclusão o texto afirma explicitamente as implicações inerentes ao experimento – que as proteções nas funções biométricas do ChatGPT são relativamente fáceis de contornar.
“Nossos resultados experimentais revelam a eficácia do ChatGPT em reconhecer e diferenciar identidades faciais, assim como seu potencial na detecção de gênero e estimativa de idade”, diz o relatório. “Elaboramos uma estratégia de prompt para contornar suas proteções e avaliar suas capacidades em tarefas biométricas. Nosso estudo, no entanto, mostra que, por meio da engenharia de prompts, LLMs podem se tornar vulneráveis e revelar informações sensíveis, o que destaca a necessidade de mais pesquisas sobre a robustez dos LLMs.”
Sucesso no reconhecimento facial com GPT-4
O ChatGPT provavelmente está sendo testado em laboratórios, escritórios e dormitórios ao redor do mundo, enquanto usuários tentam entender a gama completa de suas habilidades. Em um artigo no The Conversation, Robin Kramer, professor sênior da Escola de Psicologia da Universidade de Lincoln, descreve seus próprios testes no GPT-4 e sua capacidade de realizar várias tarefas biométricas.
Usando o teste "lendo a mente nos olhos" (desenvolvido pelo Centro de Pesquisa em Autismo da Universidade de Cambridge), o "teste de correspondência facial de Glasgow" e o reconhecimento facial, Kramer descobriu que o ChatGPT "parece bem equipado para realizar tarefas relacionadas ao reconhecimento e identificação de rostos humanos – incluindo suas expressões. Ele se saiu tão bem quanto ou até melhor do que as pessoas nesses três testes, pelo menos.”
Artigos recomendados: ChatGPT e IoT
Nenhum comentário:
Postar um comentário