A IA está chegando ao policiamento – e a responsabilidade está vindo com ela

BU, 04/11/2024 

Por Fraser Sampson 

Responsabilidade trata-se de pessoas com poder o usando adequadamente e, quando essas pessoas são a polícia, o uso do poder pode ter consequências profundas. Se esse poder é amplificado pela tecnologia, a responsabilidade se estende ao seu uso. No policiamento, tecnologia avançada vem acompanhada de responsabilidade avançada.

À medida que a inteligência artificial (IA) chega ao policiamento, ela trará maior complexidade nos mecanismos de responsabilidade, que diferirão em alguns aspectos de outros setores. Todos os órgãos públicos precisam usar tecnologia e responder a perguntas padrões, como “o que exatamente ela faz e por que você precisa dela?”. As pessoas querem saber o que acontece se algo der errado, e onde podem encontrar mais informações sobre isso. Esta é a responsabilidade básica, onde o policiamento não é diferente de qualquer outro serviço público: eles devem fornecer respostas sobre o uso de capacidades habilitadas por tecnologia. A inteligência artificial traz novos desafios para as organizações do setor público, especialmente ao responder a perguntas como “como isso funciona”, pois a responsabilidade exige tanto transparência quanto entendimento. Assim como outras autoridades públicas responsáveis, qualquer serviço policial que adquiriu e implantou tecnologia que não pode explicar, não encontrará muito consolo em uma defesa de "caixa preta".

Fundação Open Metaverse estabelecida para criar padrões e software de código aberto

BU, 20/01/2023 

Por Alessandr Mascellino 

Fórum Econômico Mundial pede inclusão no metaverso 

A Linux Foundation sem fins lucrativos criou uma nova organização para fornecer um espaço para que diferentes setores colaborem no desenvolvimento de software de código aberto e padrões para um Metaverso inclusivo, global, neutro em termos de fornecedores e escalável.

Os regulamentos de IA propostos pela UE “abrirão as portas para a vigilância biométrica em massa em espaços públicos”

RTT, 07/11/2022 

Por Tom Parker 

"Precisamos evitar um futuro distópico ao estilo de vigilância biométrica chinesa em massa na Europa!"

O membro alemão do Parlamento Europeu, Patrick Breyer, alertou que uma proposta de regulamento de inteligência artificial (IA) vazada da Presidência do Conselho da União Europeia (UE) “abriria a porta para a vigilância biométrica em massa em espaços públicos em larga escala”.

A proposta de regulamento vazada detalha como a Presidência do Conselho da UE planeja introduzir “regras harmonizadas sobre inteligência artificial” ao implementar a Lei de Inteligência Artificial.

Grupos da sociedade civil querem salvaguardas contra o uso de biometria na Lei de IA da UE

BU, 21/09/2023 

Por Chris Burt 

Mais de 100 grupos e defensores da sociedade civil co-assinaram uma carta apelando aos legisladores da União Europeia, para que restrinjam o uso da biometria para vigilância na Lei da Inteligência Artificial.

Os grupos afirmam que a biometria é utilizada na aplicação da lei para “identificação, reconhecimento e categorização” de formas que afetam mais as pessoas em comunidades marginalizadas do que outras, que prejudicam os direitos legais e permitem a vigilância em massa. A utilização da biometria e de outros sistemas de IA pelas autoridades policiais, de controle de fronteiras e de segurança nacional em toda a Europa deve ser regulamentada de forma mais rigorosa, argumentam.

Camarões lança vigilância de biometria facial em tempo real em sua maior cidade

BU, 20/06/2023 

Por Ayang Macdonald 

Uma instalação anexa do Centro Nacional de Comando e Controle para Vigilância por Vídeo entrou em operação em Douala, em um movimento que busca conter a onda espiral de insegurança urbana na maior cidade de Camarões, em parte por meio de reconhecimento facial ao vivo.

O Ministro de Estado, Secretário-Geral da Presidência da República, Ferdinand Ngoh Ngoh, iniciou o projeto na quinta-feira, 15 de junho.

Próximo passo na vigilância de IA – descobrir quem são seus amigos: Contact Tracing

TX, 03/03/2023 

Por Noah Bierman 

Um homem de cabelos grisalhos caminha pelo saguão de um escritório segurando uma xícara de café, olhando para frente enquanto passa pela entrada.

Ele parece não saber que está sendo rastreado por uma rede de câmeras que podem detectar não apenas onde ele esteve, mas também quem esteve com ele.

Críticos afirmam que Paris está usando os Jogos de 2024 para introduzir a vigilância biometrica de IA em massa

F24, 25/03/2023 

A Assembleia Nacional da França deve adotar uma lei na próxima terça-feira antes dos Jogos Olímpicos de 2024 em Paris. O Artigo 7 é o aspecto mais controverso desta lei, pois permitirá que a vigilância por vídeo com IA seja usada para detectar comportamentos anormais. Organizações de direitos humanos e a esquerda francesa condenaram a medida.  

A lei abrangente que a Assembleia Nacional da França deve aprovar em 28 de março, antes dos Jogos Olímpicos de Paris 2024, permitirá abrir lojas aos domingos, estabelecer um centro de saúde no departamento de Seine-Saint-Denis (localizado a nordeste de Paris) e permitir que o estado francês investigue futuras pessoas credenciadas. No entanto, o artigo 7 dessa lei é particularmente controverso, pois afirma que a vigilância por vídeo com IA pode ser usada, em caráter experimental, para garantir a segurança dos Jogos Olímpicos. Grupos de direitos humanos dizem que o uso dessa tecnologia abrirá um precedente perigoso.  

Pesquisadores criam app de smartphone que pode diagnosticar depressão a partir de características faciais

ZMESC, 28/02/2024 

Por Mihai Andrei 

Detectar a depressão em seus estágios iniciais é um grande desafio.

A depressão é uma condição prevalente, mas frequentemente mal compreendida. Segundo a maioria das estimativas, afeta mais de 5% da população mundial. A depressão é caracterizada por sentimentos persistentes de tristeza, perda de interesse e mudanças de humor e comportamento; seu impacto é pessoal, mas esses impactos se estendem para as famílias e até para a sociedade como um todo. Muitas vezes, a depressão também é mal compreendida e não diagnosticada — por isso, diagnosticar a depressão precocemente é tão importante.

Assistentes de voz em carros se tornam tendência no setor automotivo

BU, 22/03/2023 

Por Joel R. McConvey 

Um mundo em que as pessoas falam com seus carros está cada vez mais próximo, à medida que montadoras e empresas de inteligência artificial (IA) trabalham em mecanismos biométricos para alimentar assistentes de voz capazes de fornecer entretenimento e fazer transações comerciais.

A biometria de voz atinge as notas altas

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

ONGs críticas à tecnologia biométrica excluídas do processo para rascunhar o tratado de IA da UE

BU, 23/01/2023 

Por Ayang Macdonald 

Algumas organizações da sociedade civil que se opõem abertamente ao uso de tecnologias biométricas, como o reconhecimento facial, dizem ter sido excluídas de um processo para redigir um tratado internacional de inteligência artificial (IA), um projeto realizado pelo Conselho da Europa (CoE).

Países da UE concordam com posição comum sobre biometria na Lei de IA

BU, 07/11/2022 

Por Alessandro Mascellino 

A União Europeia chegou a um acordo sobre a muito discutida Lei de Inteligência Artificial (IA), que permitiria às autoridades policiais usar a identificação biométrica em espaços públicos quando estritamente necessário.

De acordo com a revisão vazada do relatório, o Conselho da UE votou para proibir o uso de IA para pontuação social, mas vários grupos da sociedade civil não estão satisfeitos com as conclusões alcançadas pela UE em relação à biometria.

Jornalista usa (sua própria) voz deepfake de IA para invadir sua própria conta bancária

BU, 24/02/2023 

Por Larisa Redins 

Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.

Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs, uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.

Jogos Olímpicos Paris 2024: uso de reconhecimento facial com IA gera controvérsia na França

Euronews, 15/02/2023 

Por Cyril Fourneris 

O reforço da videovigilância em França está a gerar polémica. O país debate atualmente um projeto de lei sobre os meios que irá usar para garantir a segurança dos Jogos Olímpicos de Paris, em 2024.

Algumas cidades francesas estão já a recorrer a inteligência artificial. É o caso de Massy, nos arredores de Paris, onde os algoritmos ajudam a polícia a detetar infrações de trânsito.

O AI Act da UE está deixando uma brecha para o reconhecimento de emoções?

BU, 16/02/2024 

Por Masha Borak 

Enquanto a União Europeia se prepara para adotar o Artificial Intelligence Act, a legislação histórica ainda está atraindo críticas, desta vez por permitir o uso do reconhecimento de emoções. Um artigo de opinião publicado no EU Observer destaca que o AI Act ainda deixa a porta aberta para seu uso em aplicação da lei e por agentes de migração, o que poderia levar a potenciais abusos de direitos.

O autor anônimo, que se descreve como um funcionário civil da UE, afirma que isso abre espaço para seu uso em aplicação da lei e controle de migração, especialmente no controverso projeto iBorderCtrl financiado pela UE, um detector de mentiras de IA para tecnologias de reconhecimento facial e de emoção projetadas para serem usadas durante o interrogatório de migrantes. Em 2018, o bloco anunciou que financiaria o projeto e conduziria testes-piloto na Hungria, Grécia e Letônia.

Estamos entrando na era da tecnologia de voz antiética: IA e deepfake vocal

SI, 13/09/2022 

Por Sue Poremba 

Em 2019, o Google lançou um banco de dados sintético de fala com um objetivo muito específico: interromper deepfakes de áudio. 

“Atores maliciosos podem sintetizar a fala para tentar enganar os sistemas de autenticação de voz”, relatou o blog da Google News Initiative na época. “Talvez igualmente preocupante, a conscientização pública de 'deep fakes' (áudio ou videoclipes gerados por modelos de deep learning) pode ser explorada para manipular a confiança na mídia.”

Deepfakes de IA estão por toda parte e os reguladores estão trabalhando em como responder

BU, 03/03/2023 

Por Joel R McConvey 

A questão da identidade digital está prestes a ficar muito mais complicada e muito mais importante, à medida que o mundo começa a contar com a proliferação de deepfakes. Internacionalmente, os governos estão alertando sobre os riscos que acompanham a inteligência artificial (IA) generativa, que pode combinar ferramentas como biometria facial, síntese de voz e modelos de linguagem para criar avatares realistas. Conforme relatado na Fast Company, no New York Times e em outros lugares, da geopolítica à pornografia, o potencial de desinformação, disrrupção e uso indevido é um problema sério.

Comissão australiana pede lei de (reinterpretação de) direitos humanos para conter o viés da IA

BU, 10/03/2023 

Por Larisa Redins 

A Comissão Australiana de Direitos Humanos (AHRC) recomendou uma nova lei nacional de direitos humanos para reduzir a potencial discriminação causada por inteligência artificial (IA).

Em um relatório intitulado 'Rights for a Digital Age', o AHRC alertou sobre o potencial dos algoritmos de IA e dos processos de tomada de decisão de levar ao viés nas decisões públicas.

Biometria – cresce o interesse do setor privado em tecnologia de reconhecimento de emoções

BU, 14/02/2023 

Por Jim Nash 

Os consultores veem um pequeno desdobramento para o reconhecimento de emoções, mas o ceticismo permanece

Por mais divisivo que seja, o reconhecimento de emoções continua a encontrar adeptos no mundo dos negócios, principalmente no setor automotivo, mas também na profissão jurídica e no varejo.

A polícia na Alemanha está usando reconhecimento facial em tempo real

BU, 08/05/2024 

Por Masha Borak 

Aumenta a vigilância no México e em Belarus

A polícia na Alemanha está empregando câmeras de alta definição e reconhecimento facial ao vivo para capturar suspeitos, levantando questões legais após a aprovação do Ato de Inteligência Artificial da União Europeia.

O sistema, que é implantado pela polícia no estado alemão oriental da Saxônia e em Berlim, pode processar imagens faciais "com um atraso de alguns segundos", informou o escritório do promotor público de Berlim à mídia alemã Netzpolitik.