Páginas

3 de mar. de 2023

Próximo passo na vigilância de IA – descobrir quem são seus amigos: Contact Tracing




TX, 03/03/2023 



Por Noah Bierman 



Um homem de cabelos grisalhos caminha pelo saguão de um escritório segurando uma xícara de café, olhando para frente enquanto passa pela entrada.

Ele parece não saber que está sendo rastreado por uma rede de câmeras que podem detectar não apenas onde ele esteve, mas também quem esteve com ele.

A tecnologia de vigilância há muito tempo consegue identificar você. Agora, com a ajuda da inteligência artificial, ela está tentando descobrir quem são seus amigos.

Com alguns cliques, este software de "co-aparição" ou "análise de correlação" pode encontrar qualquer pessoa que tenha aparecido em quadros de vigilância dentro de alguns minutos do homem de cabelos grisalhos no último mês, eliminando aqueles que podem ter estado perto dele uma ou duas vezes, e concentre-se em um homem que apareceu 14 vezes. O software pode marcar instantaneamente possíveis interações entre os dois homens, agora considerados prováveis ​​associados, em um calendário pesquisável.

A Vintra, empresa sediada em San Jose que exibiu a tecnologia em uma apresentação de vídeo da indústria no ano passado, vende o recurso de co-aparição como parte de uma série de ferramentas de análise de vídeo. A empresa se gaba em seu site sobre relacionamentos com o San Francisco 49ers e um departamento de polícia da Flórida. O Internal Revenue Service e outros departamentos de polícia em todo o país pagaram pelos serviços da Vintra, de acordo com um banco de dados de contratos do governo.

Embora a tecnologia de co-aparição já seja usada por regimes autoritários como o da China, a Vintra parece ser a primeira empresa a comercializá-la no Ocidente, dizem especialistas do setor.

Mas a empresa é uma das muitas que estão testando novos aplicativos de IA e vigilância com pouco escrutínio público e poucas salvaguardas formais contra invasões de privacidade. Em janeiro, por exemplo, funcionários do estado de Nova York criticaram a empresa proprietária do Madison Square Garden por usar a tecnologia de reconhecimento facial para proibir funcionários de escritórios de advocacia que processaram a empresa de comparecer a eventos na arena.

Especialistas do setor e observadores dizem que, se a ferramenta de co-aparição não estiver em uso agora – e um analista expressou certeza de que está – provavelmente se tornará mais confiável e mais amplamente disponível à medida que os recursos de inteligência artificial avançam.

Nenhuma das entidades que fazem negócios com a Vintra que foram contactadas pelo The Times reconheceu a utilização do recurso de co-aparição no pacote de software da Vintra. Mas alguns não descartaram isso explicitamente.

O governo da China, que tem sido o mais agressivo no uso de vigilância e IA para controlar sua população, usa buscas de co-aparição para localizar manifestantes e dissidentes, mesclando vídeo com uma vasta rede de bancos de dados, algo que Vintra e seus clientes não seriam capazes de fazer, disse Conor Healy, diretor de pesquisa governamental do IPVM, o grupo de pesquisa de vigilância que sediou a apresentação de Vintra no ano passado. A tecnologia da Vintra poderia ser usada para criar "uma versão mais básica" das capacidades do governo chinês, disse ele.

Alguns governos estaduais e locais nos EUA restringem o uso de reconhecimento facial, especialmente no policiamento, mas nenhuma lei federal se aplica. Nenhuma lei proíbe expressamente a polícia de usar buscas conjuntas como a de Vintra, "mas é uma questão em aberto" se isso violaria direitos constitucionalmente protegidos de livre reunião e proteções contra buscas não autorizadas, de acordo com Clare Garvie, especialista em tecnologia de vigilância com a Ass. Nacional de Advogados de Defesa Criminal.

Poucos estados têm restrições sobre como as entidades privadas usam o reconhecimento facial.

O Departamento de Polícia de Los Angeles encerrou um programa de policiamento preditivo, conhecido como PredPol, em 2020 em meio a críticas de que não estava impedindo o crime e levou a um policiamento mais pesado dos bairros negros e latinos. O programa usou IA para analisar grandes quantidades de dados, incluindo suspeitas de afiliações a gangues, em um esforço para prever em tempo real onde os crimes contra a propriedade podem acontecer.

Na ausência de leis nacionais, muitos departamentos de polícia e empresas privadas precisam pesar o equilíbrio entre segurança e privacidade por conta própria.

"Este é o futuro orwelliano ganhando vida", disse o senador Edward J. Markey, um democrata de Massachusetts. "Um estado de vigilância profundamente alarmante em que você é rastreado, marcado e categorizado para uso por entidades dos setores público e privado – das quais você não tem conhecimento."

Markey planeja reintroduzir um projeto de lei nas próximas semanas que interromperia o uso de reconhecimento facial e tecnologias biométricas pelas autoridades federais e exigiria que os governos locais e estaduais os proibissem como condição para obter subsídios federais.

Por enquanto, alguns departamentos dizem que não precisam fazer uma escolha por questões de confiabilidade. Mas à medida que a tecnologia avança, eles o farão.

Os executivos da Vintra não retornaram várias ligações e e-mails do The Times.

Mas o executivo-chefe da empresa, Brent Boekestein, foi expansivo sobre os possíveis usos da tecnologia durante a apresentação em vídeo com o IPVM.

"Você pode subir aqui e criar um alvo, baseado nesse cara, e depois ver com quem esse cara está saindo", disse Boekestein. "Você pode realmente começar a construir uma rede."

Ele acrescentou que "96% do tempo, não há nenhum evento que interesse à segurança, mas sempre há informações que o sistema está gerando".

Quatro agências que compartilham a estação de trânsito San Jose usada na apresentação de Vintra negaram que suas câmeras tenham sido usadas para fazer o vídeo da empresa.

Duas empresas listadas no site da Vintra, a 49ers e a Moderna, empresa farmacêutica que produziu uma das "vacinas" COVID-19 mais utilizadas, não responderam aos e-mails.

Vários departamentos de polícia reconheceram ter trabalhado com Vintra, mas nenhum disse explicitamente que havia realizado uma busca conjunta.

Brian Jackson, subchefe de polícia em Lincoln, Neb., disse que seu departamento usa o software Vintra para economizar tempo analisando horas de vídeo, procurando rapidamente padrões como carros azuis e outros objetos que correspondam às descrições usadas para solucionar crimes específicos. Mas as câmeras às quais seu departamento se conecta – incluindo câmeras Ring e aquelas usadas por empresas – não são boas o suficiente para combinar rostos, disse ele.

"Existem limitações. Não é uma tecnologia mágica", disse ele. "Requer entradas precisas para bons resultados."

Jarod Kasner, chefe assistente em Kent, Washington, disse que seu departamento usa o software Vintra. Ele disse que não estava ciente do recurso de co-aparição e teria que considerar se é legal em seu estado, um dos poucos que restringe o uso de reconhecimento facial.

"Estamos sempre em busca de tecnologia que possa nos ajudar porque é um multiplicador de força" para um departamento que luta com problemas de pessoal, disse ele. Mas "só queremos ter certeza de que estamos dentro dos limites para ter certeza de que estamos fazendo isso certo e profissionalmente".

O Gabinete do Xerife do Condado de Lee, na Flórida, disse que usa o software Vintra apenas em suspeitos e não "para rastrear pessoas ou veículos que não sejam suspeitos de qualquer atividade criminosa".

O Departamento de Polícia de Sacramento disse em um e-mail que usa o software Vintra "com moderação, se for o caso", mas não especificou se já usou o recurso de co-aparição.

"Estamos no processo de revisão do nosso contrato Vintra e se devemos continuar usando seu serviço", disse o departamento em um comunicado, que também disse que não poderia apontar casos em que o software ajudou a resolver crimes.

O IRS (receita federal americana) disse em um comunicado que usa o software Vintra "para revisar com mais eficiência longas filmagens em busca de evidências durante a condução de investigações criminais". Os funcionários não disseram se o IRS usou a ferramenta de co-aparição ou onde havia câmeras postadas, apenas que seguiu "os protocolos e procedimentos estabelecidos pela agência".

Jay Stanley, um advogado da American Civil Liberties Union que destacou pela primeira vez a apresentação em vídeo de Vintra no ano passado em um blog, disse que não está surpreso que algumas empresas e departamentos sejam cautelosos quanto ao seu uso. Em sua experiência, os departamentos de polícia muitas vezes implantam novas tecnologias "sem dizer, muito menos pedir, permissão de superintendentes democráticos como os conselhos municipais".

O software pode ser usado para monitorar associações pessoais e políticas, inclusive com potenciais parceiros íntimos, ativistas trabalhistas, grupos antipoliciais ou adversários políticos, alertou Stanley.

Danielle VanZandt, que analisa o Vintra para a empresa de pesquisa de mercado Frost & Sullivan, disse que a tecnologia já está em uso. Como ela revisou documentos confidenciais da Vintra e de outras empresas, ela está sujeita a acordos de confidencialidade que a proíbem de discutir empresas e governos individuais que possam estar usando o software.

Os varejistas, que já estão reunindo dados vastos sobre as pessoas que entram em suas lojas, também estão testando o software para determinar "o que mais ele pode me dizer?" disse VanZandt.

Isso pode incluir a identificação de familiares dos melhores clientes de um banco para garantir que sejam bem tratados, um uso que aumenta a possibilidade de que aqueles sem riqueza ou conexões familiares recebam menos atenção.

Essas preocupações com viés são enormes na indústria” e estão sendo ativamente abordadas por meio de padrões e testes, disse VanZandt.

Nem todo mundo acredita que essa tecnologia será amplamente adotada. Policiais e agentes de segurança corporativa geralmente descobrem que podem usar tecnologias menos invasivas para obter informações semelhantes, disse Florian Matusek, da Genetec, uma empresa de análise de vídeo que trabalha com a Vintra. Isso inclui digitalizar sistemas de entrada de ingressos e dados de celulares que possuem recursos exclusivos, mas não estão vinculados a indivíduos.

"Existe uma grande diferença entre, como fichas de produtos e exibições de vídeos, e como realmente as coisas estão sendo implantadas no campo", disse Matusek. "Os usuários geralmente descobrem que outras tecnologias podem resolver seus problemas da mesma forma, sem passar por todos os obstáculos da instalação de câmeras ou lidar com a regulamentação de privacidade."

Matusek disse que não sabia de nenhum cliente da Genetec que estivesse usando co-aparição, que sua empresa não oferece. Mas ele não podia descartar isso.

Artigos recomendados: Biometria e IA


Fonte:https://techxplore.com/news/2023-03-surveillance-ai-friends.html 

Nenhum comentário:

Postar um comentário