Viajantes para a UE podem ser submetidos a detector de mentiras por IA

BU, 17/06/2024 

Por Masha Borak 

Viajantes britânicos para a Europa podem em breve ter que passar pelo escrutínio do polêmico detector de mentiras de inteligência artificial iBorderCtrl, da União Europeia, ou por software similar de análise de comportamento.

O software analisa movimentos faciais e gestos corporais para identificar comportamentos suspeitos para os agentes de imigração. O sistema pode ser incorporado nas verificações de fronteira em aeroportos e terminais de ferry como parte dos esquemas de controle de fronteira da UE, o Sistema de Entrada e Saída (EES) e o Sistema Europeu de Informação e Autorização de Viagem (ETIAS), de acordo com o The Mail on Sunday.

AgriG8 Capta Investimento para Descarbonizar a Produção de Arroz na Ásia com Plataforma Gamificada

GQ, 10/06/2024 

Por Anay Mridul 

A plataforma agri-fintech AgriG8 recebeu financiamento da Better Bite Ventures e do The Trendlines Group, para ajudar os produtores de arroz na Ásia a reduzir as emissões de metano em até 55%.

A firma de capital de risco de Cingapura Better Bite Ventures e o grupo israelense The Trendlines Group investiram uma quantia não revelada na AgriG8, uma startup que apoia os produtores de arroz asiáticos na descarbonização de seus métodos de produção.

Meta começa a treinar IA com dados dos usuários, dificultando a opção de exclusão

RTN, 03/06/2024 

Por Didi Rankovic 

Qualquer pessoa com um mínimo de conhecimento sobre como a interface/experiência do usuário (UX) e também o comportamento do usuário funciona dirá que "configurações padrão são rei".

É por isso que a capacidade de "optar por sair" (ou seja, remover-se de um recurso configurado como padrão), embora pareça justa à primeira vista, é na verdade muitas vezes uma escolha deliberada para prejudicar os interesses dos usuários, contando com a inércia deles.

Mas, quando até mesmo essa opção é degradada para algo que alguns chamam de "quase impossível de optar por sair" – as coisas começam a parecer realmente ruins.

Vice-Presidente da Comissão Europeia: "Acreditamos que Nossa Verificação de Fatos Já Está Influenciando o Comportamento do Usuário"

RTN, 21/05/2024 

Por Didi Rankovic 

As eleições para o Parlamento Europeu estão acontecendo no próximo mês e, considerando que o presidente da Comissão Europeia (efetivamente, "o governo da UE") e todos os seus comissários são confirmados pelo Parlamento Europeu, não é de surpreender que muitos deles estejam atualmente em campanha.

Uma delas é a Vice-Presidente da Comissão Europeia para Valores e Transparência, Vera Jourova, e ela está seguindo a linha que a UE adotou antes desta eleição: alarmismo sobre desinformação, IA e Rússia.

Visa lança tecnologia para compartilhar mais dados sobre o histórico de compras dos clientes com os varejistas

RTN, 17/05/2024 

Por Didi Rankovic

A Visa, um dos dois maiores serviços de cartões de pagamento do mundo, está lançando uma nova tecnologia proprietária que permitirá fornecer aos varejistas ainda mais dados coletados de seus clientes.

A medida é vista como um esforço da Visa para acompanhar a concorrência com o outro gigante, Mastercard, além de empresas fintech como a Plaid.

O modelo de negócios desta última, do ponto de vista da Visa, é revelador: trata-se de fornecer produtos fintech com uma rede de transferência de dados – especificamente, uma plataforma que “permite que aplicativos se conectem à conta bancária de um usuário”.

Sistemas de IA já estão nos enganando — e isso é um problema, alertam especialistas

IP, 10/05/2024 

Especialistas têm há muito tempo alertado sobre a ameaça representada pela inteligência artificial ficando fora de controle —, mas um novo artigo de pesquisa sugere que isso já está acontecendo.

Os atuais sistemas de IA, projetados para serem honestos, desenvolveram uma habilidade preocupante para a decepção, desde enganar jogadores humanos em jogos online de conquista mundial até contratar humanos para resolver testes de "prove que você não é um robô", argumenta uma equipe de cientistas no jornal Patterns nesta sexta-feira.

A OpenAI está explorando como criar pornografia gerada por inteligência artificial

TB, 08/05/2024 

Por Jon Christian 

"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

O novo modelo de IA do MIT prevê o comportamento humano com uma precisão impressionante

SCTD, 19/04/2024 

Uma nova técnica pode ser usada para prever as ações de agentes humanos ou de IA que se comportam de forma subótima, enquanto trabalham em direção a objetivos desconhecidos.

Pesquisadores do MIT e de outras instituições desenvolveram um framework que modela o comportamento irracional ou subótimo de um agente humano ou de IA, com base em suas limitações computacionais. Sua técnica pode ajudar a prever as ações futuras de um agente, por exemplo, em partidas de xadrez.

Governador da Califórnia, Gavin Newsom, anuncia implementação de vigilância com IA

RTN, 04/04/2024 

Por Didi Rankovic 

O plano da Califórnia de aumentar a segurança com 480 novas câmeras com IA gera preocupações sobre vigilância em massa e erosão da privacidade.

O governador da Califórnia, Gavin Newsom, anunciou que 480 novas câmeras estão sendo instaladas "ao longo das rodovias e em Oakland para tornar a área mais segura".

Descrevendo as câmeras como "tecnologia de ponta", o democrata disse em um vídeo publicado no X que isso "ajudará as forças policiais a identificar veículos ligados a crimes usando informações e alertas em tempo real".

Pesquisas em teoria dos jogos mostram que a IA pode evoluir para personalidades mais egoístas ou cooperativas

TX, 04/04/2024 

Pesquisadores no Japão desenvolveram efetivamente uma variedade diversificada de traços de personalidade em IA de diálogo, usando um modelo de linguagem em grande escala (LLM, do inglês Large Language Model). Utilizando o dilema do prisioneiro da teoria dos jogos, o Professor Takaya Arita e o Professor Associado Reiji Suzuki da equipe da Escola de Pós-Graduação em Informática da Universidade de Nagoya, criaram uma estrutura para evoluir agentes de IA que imitam o comportamento humano alternando entre ações egoístas e cooperativas, adaptando suas estratégias por meio de processos evolutivos. Seus achados foram publicados na revista Scientific Reports.

Governo Irlandês Quer Pacto Pré-eleitoral Com Gigantes da Tecnologia Para Combater "Desinformação" Online

RTN, 03/04/2024 

Por Didi Rankovic 

Uma medida que levanta acusações de manipulação do poder das Big Techs.

Muitos governos ao redor do mundo não estão mais fingindo que não veem as Big Techs como um grande ativo político, ou que não tentarão usar esse ativo a seu favor. Em vez disso, esse comportamento está lentamente sendo normalizado – embora sempre qualificado como uma política de preservação da democracia, em vez de subversão.

Em outras palavras, algo impulsionado pela necessidade de combater "desinformação" e não pelo que os críticos suspeitam – a necessidade de aproveitar e controlar o alcance massivo, a influência e o poder das principais plataformas sociais.

Pesquisadores criam app de smartphone que pode diagnosticar depressão a partir de características faciais

ZMESC, 28/02/2024 

Por Mihai Andrei 

Detectar a depressão em seus estágios iniciais é um grande desafio.

A depressão é uma condição prevalente, mas frequentemente mal compreendida. Segundo a maioria das estimativas, afeta mais de 5% da população mundial. A depressão é caracterizada por sentimentos persistentes de tristeza, perda de interesse e mudanças de humor e comportamento; seu impacto é pessoal, mas esses impactos se estendem para as famílias e até para a sociedade como um todo. Muitas vezes, a depressão também é mal compreendida e não diagnosticada — por isso, diagnosticar a depressão precocemente é tão importante.

Chatbot da Microsoft Sugere Suicídio e Outras Respostas 'Bizarras e Prejudiciais'

ZH, 28/02/2024 

Por Tyler Durden 

Oito anos atrás, a Microsoft desativou seu chatbot "Tay" depois que ele começou a expressar ódio por feministas e judeus em menos de um dia.

Avance rápido para um investimento de US$ 13 bilhões na OpenAI para alimentar o chatbot Copilot da empresa, e agora temos "relatos de que seu chatbot Copilot está gerando respostas que os usuários chamaram de bizarras, perturbadoras e, em alguns casos, prejudiciais", segundo a Bloomberg.

Empresa-mãe do Google perde US$70 bilhões após controvérsia do chatbot de IA 'woke' Gemini

IP, 27/02/2024 

Por Brandon Taylor 

A empresa-mãe do Google perdeu mais de US$70 bilhões em valor de mercado em um único dia de negociação, após a polêmica do chatbot "Gemini AI Woke" levantar preocupações entre os investidores sobre sua ferramenta de IA altamente divulgada.

Na segunda-feira, primeiro dia de negociação da semana, as ações da Alphabet caíram 4,4%, fechando a US$138,75, relatou o NY Post. No entanto, a empresa-mãe do Google viu um leve aumento em suas ações durante as negociações antes do pregão nesta terça-feira.

Preocupações aumentam sobre a confiabilidade da IA do Google diante da debacle de imagem do chatbot woke Gemini AI 

A inteligência artificial está permitindo que construam uma prisão de vigilância global da qual não é possível escapar

ZH, 07/01/2024 

Por Tyler Durden 

Cada centímetro do nosso planeta está sendo vigiado, e “soluções de inteligência artificial” incrivelmente sofisticadas tornam possível que aqueles que estão a observar o nosso planeta encontrem o que desejam em apenas alguns minutos. 

Você pode tentar fugir, e você pode tentar se esconder, mas se eles realmente quiserem te encontrar não será muito difícil. À nossa volta, está sendo construída uma prisão de vigilância global. Mesmo que você fique completamente fora da Internet e evite totalmente todas as formas de tecnologia moderna, câmeras e satélites ainda estarão observando você indefinidamente.  E uma vez identificado o seu rosto, a inteligência artificial pode ser usada para localizá-lo onde quer que você esteja no planeta inteiro.

Investigação alega que a China está usando IA para espalhar propaganda pró-Pequim no YouTube

TX, 19/12/2023 

Por David Tuffley 

Uma investigação recente do Australian Strategic Policy Institute (ASPI), revelou uma extensa rede de canais do YouTube que promovem a opinião pública pró-chinesa e anti-EUA no mundo de língua inglesa.

A operação é bem coordenada, utilizando IA generativa para produzir e publicar conteúdo rapidamente, ao mesmo tempo que explora habilmente o sistema de recomendação algorítmica do YouTube.

Qual é o tamanho da rede?

A operação “Shadow Play” envolve uma rede de pelo menos 30 canais no YouTube com cerca de 730 mil assinantes. No momento em que este artigo foi escrito, os canais tinham cerca de 4.500 vídeos entre eles, com cerca de 120 milhões de visualizações.

Segundo estudo grandes modelos de linguagem podem enganar estrategicamente usuários quando estiverem sobrecarregados

TX, 12/12/2023 

Por Ingrid Fadelli 

As ferramentas de inteligência artificial (IA) são agora amplamente utilizadas em todo o mundo, auxiliando engenheiros e usuários não especialistas em uma ampla gama de tarefas. Avaliar a segurança e a fiabilidade destas ferramentas é, portanto, da maior importância, pois poderá, em última análise, ajudar a regular melhor a sua utilização.

Pesquisadores da Apollo Research, organização criada com o objetivo de avaliar a segurança de sistemas de IA, decidiram recentemente avaliar as respostas fornecidas por grandes modelos de linguagem (LLMs) em um cenário onde são colocados sob pressão. Suas descobertas, publicadas no servidor de pré-impressão arXiv, sugerem que esses modelos, o mais famoso dos quais é o ChatGPT da OpenAI, poderiam, em alguns casos, enganar estrategicamente seus usuários.

A pressa do Pentágono em implantar armas habilitadas para IA vai matar todos nós

ZH, 08/12/2023 

Por Tyler Durden 

Enquanto os especialistas alertam sobre o risco de extinção humana, o Departamento de Defesa avança a todo vapor...

O recente drama da diretoria sobre a liderança da OpenAI – a startup de tecnologia com sede em São Francisco por trás do imensamente popular programa de computador ChatGPT – foi descrito como uma luta pelo poder corporativo, um conflito de personalidade movido pelo ego e uma disputa estratégica sobre o lançamento de mais variantes ChatGPT compatíveis. Foi tudo isso e muito mais, mas no fundo representou uma luta invulgarmente amarga entre os funcionários da empresa que favorecem a pesquisa irrestrita sobre formas avançadas de inteligência artificial (IA), e aqueles que, temendo os resultados potencialmente catastróficos de tais esforços, procuraram abrandar o ritmo do desenvolvimento da IA.

Revista universitária sugere usar IA para avaliar a saúde mental dos estudantes

UWN, 25/11/2023 

Por Jamie Pitchforth 

A IA pode ajudar a sinalizar estudantes com problemas de saúde mental

Há muita empatia por aqueles que estão no ensino superior nos últimos anos. A pandemia trouxe mudanças tumultuadas – atrasando formaturas, trancando matrículas e realizando cursos inteiramente online.

Os ajustes de longo prazo também têm sido desafiadores. Como um pacote, a experiência universitária tradicional era repleta de interações físicas e sociais, seja através de grupos de estudo, seminários ou atividades entre pares. Agora, a mudança de ambientes de aprendizagem presenciais para ambientes de aprendizagem virtuais e híbridos perturbou firmemente essa experiência.

IAs podem armazenar mensagens secretas em seus textos que são imperceptíveis para os humanos

TB, 14/11/2023 

Por Maggie Harrison 

Tinta invisível

Exatamente o que precisávamos: IA dominando sua própria versão imperceptível de tinta invisível.

Como relata VentureBeat, um estudo recente – embora ainda a ser revisado por pares – conduzido pelo grupo de pesquisa de alinhamento de IA Redwood Research descobriu que grandes modelos de linguagem (LLMs) são incrivelmente bons em um tipo de esteganografia apelidada de "raciocínio codificado". Basicamente, diz o estudo, os LLMs podem ser treinados para usar mensagens secretas para obscurecer os seus processos de pensamento passo a passo, uma prática que, curiosamente, poderia tornar os seus resultados mais precisos – ao mesmo tempo que os torna mais enganadores.