A IA está chegando ao policiamento – e a responsabilidade está vindo com ela

BU, 04/11/2024 

Por Fraser Sampson 

Responsabilidade trata-se de pessoas com poder o usando adequadamente e, quando essas pessoas são a polícia, o uso do poder pode ter consequências profundas. Se esse poder é amplificado pela tecnologia, a responsabilidade se estende ao seu uso. No policiamento, tecnologia avançada vem acompanhada de responsabilidade avançada.

À medida que a inteligência artificial (IA) chega ao policiamento, ela trará maior complexidade nos mecanismos de responsabilidade, que diferirão em alguns aspectos de outros setores. Todos os órgãos públicos precisam usar tecnologia e responder a perguntas padrões, como “o que exatamente ela faz e por que você precisa dela?”. As pessoas querem saber o que acontece se algo der errado, e onde podem encontrar mais informações sobre isso. Esta é a responsabilidade básica, onde o policiamento não é diferente de qualquer outro serviço público: eles devem fornecer respostas sobre o uso de capacidades habilitadas por tecnologia. A inteligência artificial traz novos desafios para as organizações do setor público, especialmente ao responder a perguntas como “como isso funciona”, pois a responsabilidade exige tanto transparência quanto entendimento. Assim como outras autoridades públicas responsáveis, qualquer serviço policial que adquiriu e implantou tecnologia que não pode explicar, não encontrará muito consolo em uma defesa de "caixa preta".

A inteligência artificial impõe requisitos diferentes e mais exigentes de responsabilidade à aplicação da lei, dependendo do que estão fazendo com ela. Se estiverem usando alguma IA elementar apenas para funções administrativas, a polícia terá o mesmo nível de responsabilidade que outras agências estatais. Por exemplo, se um chefe de polícia local decide usar IA para distribuir uniformes e economizar tempo da equipe, isso não é muito diferente da administração local fazendo o mesmo. Mas usar uma capacidade de IA para funções operacionais de policiamento seria um caso de uso totalmente diferente. Pedir botas em estoque não é o mesmo que colocar botas nas ruas. Quando a tecnologia habilitada por IA é usada para um propósito de aplicação da lei, como identificação biométrica remota e vigilância encoberta, o contexto aumenta a responsabilidade, e o policiamento deve antecipar níveis mais profundos de responsabilidade. Embora seja verdade que, quando começamos a falar sobre algoritmos inferenciais que calculam sua idade, humor ou raça, os riscos são maiores, independentemente de quem está usando, a responsabilidade de nível IA no policiamento precisará abordar os riscos e requisitos específicos. Eles precisarão refletir os refinamentos legais (como a Lei de IA da UE) e reforçar as salvaguardas necessárias.

O policiamento chega à IA com um histórico forte de responsabilidade pela adoção de tecnologias inovadoras no Reino Unido. Biometria, bafômetros e câmeras corporais são exemplos. O que torna a IA diferente? Duas coisas: novidade e latência. A Inteligência Artificial Geral (AGI) traz considerações existenciais e, quando enfrentamos desafios existenciais, tendemos a confiar no que nos trouxe até aqui. Mas não estivemos aqui antes, e com a AGI não teremos o conforto da familiaridade. Capacidades tecnológicas extraordinárias estão chegando rapidamente e, se formos confiar nelas para fins de aplicação da lei, a IA precisará trazer responsabilidade embutida. Embora a responsabilidade policial sempre tenha sido menos sobre ter a resposta e mais sobre ter que responder, a capacidade da IA será de uma ordem muito diferente de qualquer tecnologia anterior. Aproveitar seu potencial significará reestruturar modelos tradicionais de responsabilidade. O policiamento deve se preparar para responder pelo uso da IA, e também por não usá-la em circunstâncias onde ela oferece uma opção tática disponível e legítima para prevenir e resolver crimes e manter as pessoas seguras.

Sendo infinitamente multifuncional, a capacidade habilitada por IA certamente irá além de sua proposta original. Capacidade de IA para um único propósito é um oxímoro. Com a tecnologia em um estado quase perpétuo de teste, a IA oferecerá aplicações cada vez mais amplas como uma constante. Esta é uma das forças da IA. Também é a gênese do "desvio de função", que pode fazer a diversificação legítima parecer desonesta.

Como o Departamento de Justiça dos EUA reconheceu recentemente, a IA chega ao policiamento com o potencial de transformar a aplicação da lei, mas precisamos sincronizar inovação com garantias. Auditoria eficaz – interna e externa – é essencial, e sua eficácia será determinada por verificação independente e estruturas de garantia, junto com mecanismos para intervenção, melhoria e indenização em tempo hábil.

Com capacidades aprimoradas para fazer o que antes era impensável, a polícia terá que dizer cada vez mais “só porque podemos, não significa que faremos”. Para fazer isso de forma convincente, precisarão de responsabilidade embutida. Em outras palavras, quanto mais a polícia poderia estar fazendo com IA, mais importante será mostrar o que não estão (ainda) fazendo com ela, especialmente no Reino Unido, onde nosso modelo de policiamento é baseado no consentimento.

Com esse objetivo, o Centro de Excelência em Pesquisa sobre Terrorismo, Resiliência, Inteligência e Crime Organizado (CENTRIC) está trabalhando com o Innovate UK Business Connect, o Centro de Resiliência Empresarial do Nordeste, e o Serviço de Polícia Metropolitana para projetar mecanismos práticos, e uma ferramenta de software para avaliar e implementar aplicações de IA no policiamento (o projeto AIPAS).

A inteligência artificial oferece um potencial irresistível para proteger a sociedade. Equilibrar o que agora é possível com preocupações e expectativas sobre o uso da IA pelo Estado será dinamicamente complexo – mais como um giroscópio do que uma gangorra. Dada sua interdependência e sua inevitabilidade, a responsabilidade pela IA pode em breve ser o principal indicador de confiança e credibilidade pública no policiamento.

Artigos recomendados: IA e IoT

Fonte:https://www.biometricupdate.com/202411/ai-is-coming-to-policing-accountability-is-coming-with-it