TX, 03/10/2023
Uma nova investigação realizada pelas psicólogas Lucía Vicente e Helena Matute, da Universidade de Deusto, em Bilbau, Espanha, fornece provas de que as pessoas podem herdar preconceitos de inteligência artificial (erros sistemáticos nos resultados da IA) nas suas decisões.
Os resultados surpreendentes alcançados pelos sistemas de IA que podem, por exemplo, manter uma conversa como um ser humano, deram a esta tecnologia uma imagem de elevada fiabilidade.
Cada vez mais campos profissionais estão implementando ferramentas baseadas em IA para apoiar a tomada de decisões de especialistas, e minimizar erros nas suas decisões. No entanto, esta tecnologia não está isenta de riscos devido a distorções nos resultados da IA. Devemos considerar que os dados utilizados para treinar modelos de IA refletem decisões humanas passadas. Se esses dados ocultarem padrões de erros sistemáticos, o algoritmo de IA aprenderá e reproduzirá esses erros. Na verdade, extensas evidências indicam que os sistemas de IA herdam e amplificam os preconceitos humanos.
A conclusão mais relevante da investigação de Vicente e Matute é que o efeito oposto também pode ocorrer: os humanos herdam preconceitos da IA. Ou seja, não só a IA herdaria os seus preconceitos dos dados humanos, mas as pessoas também poderiam herdar esses preconceitos da IA, com o risco de ficarem presas num ciclo perigoso. A Scientific Reports publicou os resultados da investigação de Vicente e Matute.
Na série de três experimentos realizados pelos pesquisadores, os voluntários realizaram uma tarefa de diagnóstico médico. Um grupo de participantes foi auxiliado por um sistema de IA tendencioso (exibiu um erro sistemático) durante esta tarefa, enquanto o grupo de controle não foi assistido. A IA, a tarefa de diagnóstico médico e a doença eram fictícias. Todo o cenário foi uma simulação para evitar interferências em situações reais.
Os participantes assistidos pelo sistema de IA tendencioso cometeram o mesmo tipo de erros que a IA, enquanto o grupo de controle não cometeu esses erros. Assim, as recomendações da IA influenciaram as decisões dos participantes.
No entanto, a descoberta mais significativa da investigação foi que, após a interação com o sistema de IA, esses voluntários continuaram a imitar o seu erro sistemático quando passaram a realizar a tarefa de diagnóstico sem ajuda. Em outras palavras, os participantes que foram inicialmente assistidos pela IA tendenciosa replicaram o seu viés num contexto sem este apoio, mostrando assim um viés herdado. Este efeito não foi observado para os participantes do grupo controle, que realizaram a tarefa sem ajuda desde o início.
Estes resultados mostram que a informação tendenciosa por um modelo de inteligência artificial pode ter um impacto negativo duradouro nas decisões humanas. A descoberta de uma herança do efeito de viés da IA aponta para a necessidade de mais pesquisas psicológicas, e multidisciplinares sobre a interação entre IA e humanos.
Além disso, a regulamentação baseada em evidências também é necessária para garantir uma IA justa e ética, considerando não apenas as características técnicas da IA, mas também os aspectos psicológicos da IA e da colaboração humana.
Artigos recomendados: Controle e Tecnologia
Fonte:https://techxplore.com/news/2023-10-humans-inherit-ai-biases.html
Nenhum comentário:
Postar um comentário