ONU Quer Identidades Digitais para Combater “Discurso de Ódio” e “Desinformação”

RTN, 07/11/2024 

Por Didi Rankovic

Um comitê das Nações Unidas (ONU) adotou duas resoluções, uma delas voltada para o Departamento de Comunicações Globais da organização, com o objetivo de estabelecer e fortalecer “parcerias com mídias novas e tradicionais para combater narrativas de discurso de ódio.”

O Quarto Comitê (Política Especial e Descolonização) também aprovou uma resolução para promover ainda mais o plano “Nossa Agenda Comum” da ONU, que, entre outros pontos, propõe identidades digitais vinculadas a contas bancárias — além dos Objetivos de Desenvolvimento Sustentável (ODS), o Pacto da ONU para o Futuro e o Pacto Digital Global — e também incentiva identidades digitais, censura e vigilância, com grandes potências como principais apoiadores desses planos.

Grupo de IA ‘Unrestricted’ Nous Research Lança Primeiro Chatbot

VB, 07/11/2024 

Por Carl Frazen 

Nous Research, o grupo de pesquisa em IA dedicado a criar modelos de IA “personalizados e sem restrições” como uma alternativa a empresas mais corporativas como OpenAI, Anthropic, Google, Meta e outras, já havia lançado vários modelos de código aberto da sua família Hermes, além de novos métodos mais eficientes de treinamento de IA.

Mas, até hoje, se pesquisadores e usuários quisessem realmente usar esses modelos, precisavam baixar e rodar o código em suas próprias máquinas — uma tarefa demorada, complexa e potencialmente cara — ou utilizá-los em sites parceiros.

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

Quão distópica a Grã-Bretanha de Starmer pode se tornar?

ZH, 06/11/2024 

Por Tyler Durden 

Após sua vitória eleitoral esmagadora em julho, Keir Starmer prometeu que seu novo governo trabalhista "pisaria mais levemente" nas vidas dos eleitores. É uma das muitas promessas que Starmer quebrou em apenas seus primeiros quatro meses no cargo, durante os quais seu índice de aprovação sofreu a maior queda pós-eleitoral de qualquer primeiro-ministro britânico na era moderna.

Vale lembrar que a enorme maioria parlamentar de seu governo representa apenas cerca de 20% do eleitorado elegível.

Como o   jornalista  do Middle East Eye, John Obourne, alertou em 2023, “seria muito imprudente acreditar em qualquer palavra que Starmer dissesse”.

Universal fecha acordo para uso de dados em treinamento de IA, mas continua processando empresas de IA por uso indevido

VB, 28/10/2024 

Por Emilia David 

A Universal Music Group (UMG), uma das maiores gravadoras do mundo, tem sido vocal sobre o impacto da IA na indústria musical, indo até a processar empresas de IA.

Mesmo assim, a UMG quer que seus dados ajudem a treinar IA generativa, desde que controle quem pode usar seus direitos autorais e criar modelos de IA.

A UMG anunciou que trabalhará com a empresa de IA Klay Vision para ajudar a treinar modelos de música gerada por IA de forma "ética e plenamente respeitosa com os direitos autorais". O modelo ajudará a criar músicas geradas por IA disponíveis comercialmente, incluindo proteções para os direitos de imagem dos criadores humanos.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

A Próxima Fronteira da IA: Sistema 0 e o Futuro do Pensamento Humano

SCTD, 22/10/2024

O "Sistema 0" representa uma ferramenta cognitiva emergente, movida por IA, que trabalha ao lado da intuição e análise humana para aprimorar as habilidades cognitivas.

Esse novo sistema promete apoiar a tomada de decisões complexas e a resolução de problemas, mas requer um gerenciamento cuidadoso para evitar uma dependência excessiva e garantir o uso ético.

Mark Zuckerberg Esconde Notícias Políticas Antes da Eleição em Favor de Fofocas de Celebridades e Vídeos de Animais

BTB, 25/09/2024 

Por Luk Nolan 

A Meta de Mark Zuckerberg tem reduzido a proeminência do conteúdo político em suas plataformas, incluindo Facebook, Instagram e Threads, à medida que se aproxima a eleição de novembro de 2024. Zuckerberg acredita que o que os americanos realmente precisam antes da eleição mais importante de suas vidas são ainda mais fofocas de celebridades e vídeos de animais.

O New York Times relata que a Meta, empresa-mãe do Facebook, Instagram e Threads, tem implementado mudanças para se distanciar do conturbado mundo da política à medida que a eleição nos EUA de 2024 se aproxima.

A mais recente "solução" das Big Tech para o pânico em torno da IA é promover a Identidade Digital

RTN, 09/09/2024 

Por Didi Rankovic 

Um artigo de pesquisa, escrito pela Microsoft, OpenAI e uma série de universidades influentes, propõe o desenvolvimento de "credenciais de personalidade" (PHCs).

É notável pelo fato de que as mesmas empresas que estão desenvolvendo e vendendo modelos de IA potencialmente "enganosos" estão agora propondo uma "solução" bastante drástica: uma forma de identidade digital.

O objetivo seria evitar enganos, identificando as pessoas que criam conteúdo na internet como "reais", em contraste com o conteúdo gerado por IA. E o artigo admite livremente que a privacidade não está incluída.

As novas propostas de lei de IA da Califórnia podem impactar os memes

RTN, 04/09/2024 

Por Didi Rankovic

A legislatura do estado da Califórnia aprovou vários projetos de lei relacionados à "IA", incluindo uma proibição de deepfakes "em torno das eleições".

Os legisladores inseriram esses projetos durante a última semana das sessões atuais do Senado e da Câmara estaduais, e agora cabe ao governador Gavin Newsom (que já pediu por tais leis) assinar ou vetar esses projetos até o final deste mês.

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

Cheirar o futuro: A olfação por máquinas está abrindo caminho para a digitalização de odores

BU, 07/06/2024 

Por Masha Borak 

A aprendizagem de máquina tem pavimentado o caminho para o reconhecimento de voz e facial, mas os pesquisadores ainda estão lutando para quantificar o elusivo e às vezes vago sentido do olfato.

A olfação por máquinas, a simulação automatizada do sentido do olfato, é um campo emergente que usa robôs ou outros sistemas automatizados para analisar moléculas no ar. Assim como com a visão e o som, a aprendizagem de máquina é a chave para digitalizar odores porque as máquinas podem aprender a mapear estruturas moleculares que criam odores, e traduzi-los em uma descrição textual, de acordo com Ambuj Tewari, especialista em aprendizado de máquina e professor de Estatística na Universidade de Michigan.

Google aperta controle sobre eleições no Reino Unido com novas táticas de “moderação”

RTN, 02/06/2024 

Por Didi Rankovic 

O Google encontrou mais uma eleição para “apoiar”.

Após a empresa ter feito anúncios nesse sentido relacionados à eleição de junho do Parlamento Europeu, os eleitores do Reino Unido agora também podem aguardar – ou temer, conforme o caso – o papel do gigante tecnológico na próxima eleição geral.

Um post no blog de Katie O’Donovan, Diretora de Assuntos Governamentais e Políticas Públicas do Google UK, anunciou ainda mais “moderação” e uma série de outras medidas, a maioria das quais se tornaram instrumentos testados e comprovados da censura do Google ao longo dos últimos anos.

O mais recente chatbot de IA da China é treinado na ideologia política do presidente Xi Jinping

TX, 24/05/2024 

O mais recente chatbot de inteligência artificial da China foi treinado na doutrina do presidente Xi Jinping, um lembrete claro dos parâmetros ideológicos que os modelos de IA chineses devem seguir.

A academia de ciberespaço da China anunciou, no início desta semana, o chatbot treinado no Pensamento de Xi Jinping, uma doutrina que promove o "socialismo com características chinesas".

O chatbot foi treinado em sete bancos de dados, seis dos quais estavam principalmente relacionados a tecnologias da informação fornecidas pelo órgão de vigilância da internet da China, a Administração do Ciberespaço da China (CAC).

A "teoria da internet morta" faz reivindicações sinistras sobre uma web controlada por IA. A verdade é mais sinistra

TX, 20/05/2024 

Por Jake Renzella 

Se você pesquisar "camarão Jesus" no Facebook, pode encontrar dezenas de imagens de crustáceos geradas por inteligência artificial (IA) mescladas em várias formas com uma imagem estereotipada de Jesus Cristo.

Algumas dessas imagens hiper-realistas receberam mais de 20.000 curtidas e comentários. Então, o que exatamente está acontecendo aqui?

A "teoria da internet morta" tem uma explicação: o conteúdo gerado por IA e bots superou a internet gerada por humanos. Mas de onde veio essa ideia, e ela tem alguma base na realidade?

O YouTube Remove 35.000 Vídeos na UE por “Desinformação” e Aumenta a Censura de Conteúdo pré-eleições 2024

RTN, 14/05/2024 

Por Didi Rankovic 

O YouTube assumiu (voluntariamente ou não) o papel de uma entidade empresarial privada que “apoia as eleições”.

A plataforma de vídeos do Google detalhou em um post no blog como isso deve acontecer, neste caso, na UE.

Com a eleição do Parlamento Europeu (PE) se aproximando, o YouTube apresentou “uma visão geral de nossos esforços para ajudar as pessoas na Europa e além a encontrar notícias e informações úteis e autoritativas sobre as eleições”.

UE incentiva influenciadores a terem impacto "positivo"

TX, 14/05/2024 

A União Europeia anunciou nesta terça-feira medidas para incentivar influenciadores a postar conteúdos que tenham um impacto "positivo" na sociedade, em meio a preocupações crescentes com a desinformação em um cenário informativo fragmentado.

Com os criadores de conteúdo online se tornando cada vez mais a fonte preferida de notícias e opiniões para os jovens na União Europeia, Bruxelas afirmou que é necessário ajudá-los a usar seu papel de maneira sábia.

Sistemas de IA já estão nos enganando — e isso é um problema, alertam especialistas

IP, 10/05/2024 

Especialistas têm há muito tempo alertado sobre a ameaça representada pela inteligência artificial ficando fora de controle —, mas um novo artigo de pesquisa sugere que isso já está acontecendo.

Os atuais sistemas de IA, projetados para serem honestos, desenvolveram uma habilidade preocupante para a decepção, desde enganar jogadores humanos em jogos online de conquista mundial até contratar humanos para resolver testes de "prove que você não é um robô", argumenta uma equipe de cientistas no jornal Patterns nesta sexta-feira.

A OpenAI está explorando como criar pornografia gerada por inteligência artificial

TB, 08/05/2024 

Por Jon Christian 

"Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW."

Comportamento do Modelo

Os produtos públicos da OpenAI — como seu popular gerador de texto ChatGPT e seu formidável gerador de imagens DALL-E — são conhecidos por serem pudicos: peça algo impróprio e eles se esquivam.

Irlanda pede às gigantes da tecnologia que censurem "desinformação" eleitoral

RTN, 08/05/2024 

Por Didi Rankovic 

A Comissão Eleitoral da Irlanda emite um aviso severo às gigantes da tecnologia: cumpram a integridade eleitoral ou enfrentem "consequências reputacionais".

O Chefe Executivo da Comissão Eleitoral da Irlanda, Art O'Leary, está alertando as empresas de tecnologia por trás das principais plataformas de mídia social, para que cumpram o que ele considera suas responsabilidades no processo eleitoral.