A IA está chegando ao policiamento – e a responsabilidade está vindo com ela

BU, 04/11/2024 

Por Fraser Sampson 

Responsabilidade trata-se de pessoas com poder o usando adequadamente e, quando essas pessoas são a polícia, o uso do poder pode ter consequências profundas. Se esse poder é amplificado pela tecnologia, a responsabilidade se estende ao seu uso. No policiamento, tecnologia avançada vem acompanhada de responsabilidade avançada.

À medida que a inteligência artificial (IA) chega ao policiamento, ela trará maior complexidade nos mecanismos de responsabilidade, que diferirão em alguns aspectos de outros setores. Todos os órgãos públicos precisam usar tecnologia e responder a perguntas padrões, como “o que exatamente ela faz e por que você precisa dela?”. As pessoas querem saber o que acontece se algo der errado, e onde podem encontrar mais informações sobre isso. Esta é a responsabilidade básica, onde o policiamento não é diferente de qualquer outro serviço público: eles devem fornecer respostas sobre o uso de capacidades habilitadas por tecnologia. A inteligência artificial traz novos desafios para as organizações do setor público, especialmente ao responder a perguntas como “como isso funciona”, pois a responsabilidade exige tanto transparência quanto entendimento. Assim como outras autoridades públicas responsáveis, qualquer serviço policial que adquiriu e implantou tecnologia que não pode explicar, não encontrará muito consolo em uma defesa de "caixa preta".

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

A polícia na Alemanha está usando reconhecimento facial em tempo real

BU, 08/05/2024 

Por Masha Borak 

Aumenta a vigilância no México e em Belarus

A polícia na Alemanha está empregando câmeras de alta definição e reconhecimento facial ao vivo para capturar suspeitos, levantando questões legais após a aprovação do Ato de Inteligência Artificial da União Europeia.

O sistema, que é implantado pela polícia no estado alemão oriental da Saxônia e em Berlim, pode processar imagens faciais "com um atraso de alguns segundos", informou o escritório do promotor público de Berlim à mídia alemã Netzpolitik.

Pesquisadores criam app de smartphone que pode diagnosticar depressão a partir de características faciais

ZMESC, 28/02/2024 

Por Mihai Andrei 

Detectar a depressão em seus estágios iniciais é um grande desafio.

A depressão é uma condição prevalente, mas frequentemente mal compreendida. Segundo a maioria das estimativas, afeta mais de 5% da população mundial. A depressão é caracterizada por sentimentos persistentes de tristeza, perda de interesse e mudanças de humor e comportamento; seu impacto é pessoal, mas esses impactos se estendem para as famílias e até para a sociedade como um todo. Muitas vezes, a depressão também é mal compreendida e não diagnosticada — por isso, diagnosticar a depressão precocemente é tão importante.

O AI Act da UE está deixando uma brecha para o reconhecimento de emoções?

BU, 16/02/2024 

Por Masha Borak 

Enquanto a União Europeia se prepara para adotar o Artificial Intelligence Act, a legislação histórica ainda está atraindo críticas, desta vez por permitir o uso do reconhecimento de emoções. Um artigo de opinião publicado no EU Observer destaca que o AI Act ainda deixa a porta aberta para seu uso em aplicação da lei e por agentes de migração, o que poderia levar a potenciais abusos de direitos.

O autor anônimo, que se descreve como um funcionário civil da UE, afirma que isso abre espaço para seu uso em aplicação da lei e controle de migração, especialmente no controverso projeto iBorderCtrl financiado pela UE, um detector de mentiras de IA para tecnologias de reconhecimento facial e de emoção projetadas para serem usadas durante o interrogatório de migrantes. Em 2018, o bloco anunciou que financiaria o projeto e conduziria testes-piloto na Hungria, Grécia e Letônia.

Pesquisadores de segurança revelam ataque de áudio deepfake AI que sequestra conversas ao vivo

CTPH, 05/02/2024 

Por Tristan Greene

A IA foi capaz de manipular uma conversa ao vivo entre duas pessoas sem que nenhuma delas percebesse.

Pesquisadores de segurança da IBM recentemente descobriram uma técnica "surpreendentemente e assustadoramente fácil", para sequestrar e manipular conversas ao vivo usando inteligência artificial (IA).

O ataque, chamado de "audio-jacking", baseia-se em IA generativa – uma classe de IA que inclui o ChatGPT da OpenAI e o Llama-2 da Meta – e tecnologia de áudio deepfake.

Reconhecimento facial planejado para todos os estádios da principal liga de futebol da Itália

 

BU, 24/01/2024 

A principal liga profissional de futebol da Itália implantará o reconhecimento facial em todos os estádios, para fazer cumprir as proibições de torcedores que violam as regras da liga, afirma seu CEO.

Luigi De Siervo, CEO da Lega Serie A, disse em uma entrevista reportada pelo The Stadium Business que a liga planeja sistemas de vigilância por vídeo nos pontos de entrada dos estádios, conectados a sistemas de reconhecimento facial para identificar torcedores que quebram as regras de discriminação racial. Os comentários seguem o anúncio de sanções contra o Udinese e um de seus torcedores, após um jogador visitante ter sido alvo de uma enxurrada de insultos racistas das arquibancadas.

Grupos da sociedade civil querem salvaguardas contra o uso de biometria na Lei de IA da UE

BU, 21/09/2023 

Por Chris Burt 

Mais de 100 grupos e defensores da sociedade civil co-assinaram uma carta apelando aos legisladores da União Europeia, para que restrinjam o uso da biometria para vigilância na Lei da Inteligência Artificial.

Os grupos afirmam que a biometria é utilizada na aplicação da lei para “identificação, reconhecimento e categorização” de formas que afetam mais as pessoas em comunidades marginalizadas do que outras, que prejudicam os direitos legais e permitem a vigilância em massa. A utilização da biometria e de outros sistemas de IA pelas autoridades policiais, de controle de fronteiras e de segurança nacional em toda a Europa deve ser regulamentada de forma mais rigorosa, argumentam.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

O potencial de reconhecimento facial do ChatGPT deixa a OpenAI nervosa

BU, 19/07/2023 

Por Masha Borak 

Assim como o desconforto da indústria de biometria sobre o potencial de falsificação do modelo

O ChatGPT, o modelo de linguagem grande alimentado por inteligência artificial, pode analisar imagens, incluindo reconhecer e descrever rostos de pessoas. Mas a OpenAI, a empresa por trás do chatbot, diz que não está pronta para lançar recursos de reconhecimento facial ou análise para uso público, pois pode levar a questões legais em jurisdições que exigem consentimento para o uso de dados biométricos.

Camarões lança vigilância de biometria facial em tempo real em sua maior cidade

BU, 20/06/2023 

Por Ayang Macdonald 

Uma instalação anexa do Centro Nacional de Comando e Controle para Vigilância por Vídeo entrou em operação em Douala, em um movimento que busca conter a onda espiral de insegurança urbana na maior cidade de Camarões, em parte por meio de reconhecimento facial ao vivo.

O Ministro de Estado, Secretário-Geral da Presidência da República, Ferdinand Ngoh Ngoh, iniciou o projeto na quinta-feira, 15 de junho.

Empresa de reconhecimento facial sugere que deepfakes reforçam a necessidade da identidade digital

RTT, 06/04/2023 

Por Didi Rankovic 

Outra desculpa para introduzir a identificação digital.

Depois de criar tecnologia – usada ao longo de anos, senão décadas na indústria do entretenimento – para produzir deepfakes – a mesma indústria que agora nos alertar sobre todos os perigos disso – e suas novas soluções para esse problema, o qual alguns deles podem ter ostensivamente criado em primeiro lugar?

Pode haver um público para isso.

Críticos afirmam que Paris está usando os Jogos de 2024 para introduzir a vigilância biometrica de IA em massa

F24, 25/03/2023 

A Assembleia Nacional da França deve adotar uma lei na próxima terça-feira antes dos Jogos Olímpicos de 2024 em Paris. O Artigo 7 é o aspecto mais controverso desta lei, pois permitirá que a vigilância por vídeo com IA seja usada para detectar comportamentos anormais. Organizações de direitos humanos e a esquerda francesa condenaram a medida.  

A lei abrangente que a Assembleia Nacional da França deve aprovar em 28 de março, antes dos Jogos Olímpicos de Paris 2024, permitirá abrir lojas aos domingos, estabelecer um centro de saúde no departamento de Seine-Saint-Denis (localizado a nordeste de Paris) e permitir que o estado francês investigue futuras pessoas credenciadas. No entanto, o artigo 7 dessa lei é particularmente controverso, pois afirma que a vigilância por vídeo com IA pode ser usada, em caráter experimental, para garantir a segurança dos Jogos Olímpicos. Grupos de direitos humanos dizem que o uso dessa tecnologia abrirá um precedente perigoso.  

Assistentes de voz em carros se tornam tendência no setor automotivo

BU, 22/03/2023 

Por Joel R. McConvey 

Um mundo em que as pessoas falam com seus carros está cada vez mais próximo, à medida que montadoras e empresas de inteligência artificial (IA) trabalham em mecanismos biométricos para alimentar assistentes de voz capazes de fornecer entretenimento e fazer transações comerciais.

A biometria de voz atinge as notas altas

Comissão australiana pede lei de (reinterpretação de) direitos humanos para conter o viés da IA

BU, 10/03/2023 

Por Larisa Redins 

A Comissão Australiana de Direitos Humanos (AHRC) recomendou uma nova lei nacional de direitos humanos para reduzir a potencial discriminação causada por inteligência artificial (IA).

Em um relatório intitulado 'Rights for a Digital Age', o AHRC alertou sobre o potencial dos algoritmos de IA e dos processos de tomada de decisão de levar ao viés nas decisões públicas.

Próximo passo na vigilância de IA – descobrir quem são seus amigos: Contact Tracing

TX, 03/03/2023 

Por Noah Bierman 

Um homem de cabelos grisalhos caminha pelo saguão de um escritório segurando uma xícara de café, olhando para frente enquanto passa pela entrada.

Ele parece não saber que está sendo rastreado por uma rede de câmeras que podem detectar não apenas onde ele esteve, mas também quem esteve com ele.

Deepfakes de IA estão por toda parte e os reguladores estão trabalhando em como responder

BU, 03/03/2023 

Por Joel R McConvey 

A questão da identidade digital está prestes a ficar muito mais complicada e muito mais importante, à medida que o mundo começa a contar com a proliferação de deepfakes. Internacionalmente, os governos estão alertando sobre os riscos que acompanham a inteligência artificial (IA) generativa, que pode combinar ferramentas como biometria facial, síntese de voz e modelos de linguagem para criar avatares realistas. Conforme relatado na Fast Company, no New York Times e em outros lugares, da geopolítica à pornografia, o potencial de desinformação, disrrupção e uso indevido é um problema sério.

Jornalista usa (sua própria) voz deepfake de IA para invadir sua própria conta bancária

BU, 24/02/2023 

Por Larisa Redins 

Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.

Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs, uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.

Jogos Olímpicos Paris 2024: uso de reconhecimento facial com IA gera controvérsia na França

Euronews, 15/02/2023 

Por Cyril Fourneris 

O reforço da videovigilância em França está a gerar polémica. O país debate atualmente um projeto de lei sobre os meios que irá usar para garantir a segurança dos Jogos Olímpicos de Paris, em 2024.

Algumas cidades francesas estão já a recorrer a inteligência artificial. É o caso de Massy, nos arredores de Paris, onde os algoritmos ajudam a polícia a detetar infrações de trânsito.

Biometria – cresce o interesse do setor privado em tecnologia de reconhecimento de emoções

BU, 14/02/2023 

Por Jim Nash 

Os consultores veem um pequeno desdobramento para o reconhecimento de emoções, mas o ceticismo permanece

Por mais divisivo que seja, o reconhecimento de emoções continua a encontrar adeptos no mundo dos negócios, principalmente no setor automotivo, mas também na profissão jurídica e no varejo.