BU, 10/03/2023
Por Larisa Redins
A Comissão Australiana de Direitos Humanos (AHRC) recomendou uma nova lei nacional de direitos humanos para reduzir a potencial discriminação causada por inteligência artificial (IA).
Em um relatório intitulado 'Rights for a Digital Age', o AHRC alertou sobre o potencial dos algoritmos de IA e dos processos de tomada de decisão de levar ao viés nas decisões públicas.
“A Comissão há muito apoia a introdução de uma Lei Federal de Direitos Humanos como a melhor maneira de ancorar a promoção e proteção dos direitos humanos na Austrália e este documento de posição oferece um conjunto viável e acionável de propostas para alcançar isso”, disse Rosalind Croucher, a Presidente da Comissão Australiana de Direitos Humanos no relatório.
Esta notícia chega em um momento em que o governo australiano continua defendendo um plano de identidade digital, que inclui o uso de tecnologia de reconhecimento facial e sistemas orientados a IA – embora existam poucos regulamentos que regem essas tecnologias. A biometria e o reconhecimento facial não são explicitamente mencionados no relatório de 380 páginas.
Os riscos apresentados pela IA incluem a associação de características raciais específicas com risco de crime, de acordo com o relatório.
“Em particular, a tomada de decisão da IA depende de dados de entrada, que, se forem falhos ou não representativos, podem afetar os processos de 'aprendizagem' algorítmicos”, afirma o relatório. “O aprendizado de IA depende muito da correlação e pode manifestar resultados discriminatórios que não são necessariamente óbvios para usuários humanos”.
Um exemplo é o aumento do policiamento baseado em algoritmos associados ao risco de crime em certas áreas de código postal – muitas vezes áreas com populações de minorias, de acordo com o relatório. A comissão diz que este é um exemplo de como a tecnologia de IA usada para a tomada de decisões pode levar a um viés sistêmico em departamentos e agências governamentais.
Ele recomendou a introdução de uma nova Lei Australiana de Direitos Humanos para consagrar princípios de justiça e considerações de direitos para todos os processos públicos de tomada de decisão.
“O objetivo de tal lei é mudar a cultura de tomada de decisão e incorporar decisões transparentes baseadas em direitos humanos como parte da cultura pública”, diz Croucher. “O resultado precisa ser que as leis, políticas e decisões sejam feitas através de uma lente de direitos humanos, e é o aspecto a montante que é tão crucial para mudar.”
O relatório também cita os custos potenciais de não considerar os direitos humanos no início da tomada de decisões. Ele observa o acordo de US$ 1,8 bilhão que o governo pagou devido ao seu programa 'robodebt', um programa automatizado de avaliação e recuperação de dívidas empregado pela Services Australia de 2015 a 2019.
Sua publicação segue o Relatório de Direitos Humanos e Tecnologia de 2021, que fez recomendações semelhantes, mas ainda não recebeu uma resposta do governo.
O relatório do AHRC também pede que a comissão ganhe novos poderes para conciliar reclamações de direitos humanos, conforme previsto quando foi criada em 1986. Os tribunais também seriam obrigados a interpretar a legislação sob a proposta de acordo com a Lei de Direitos Humanos sempre que possível.
Artigos recomendados: IA e Austrália
Nenhum comentário:
Postar um comentário