Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Nvidia investe na Cohere, startup de IA generativa vinculada ao Google

CNBC, 08/06/2023 

Por Natalie Rose 

A Cohere, uma startup de inteligência artificial generativa focada em empresas, levantou US$ 270 milhões em uma rodada de capital de risco da Série C, que inclui a gigante de IA Nvidia como investidor.

Enquanto as grandes empresas de tecnologia correm para garantir suas posições nos ecossistemas de IA, os gigantes corporativos estão fazendo vários investimentos em startups. Na nova rodada do Cohere, a Oracle e Salesforce também eram investidores. A rodada de $ 270 milhões foi mais do que Cohere, que tem apenas quatro anos, levantou no total até o momento - $ 175 milhões. A Cohere é uma das empresas em que o novo fundo de IA generativa da Salesforce Ventures está investindo.

Clones de IA feitos a partir de dados do usuário representam riscos estranhos

YN!, 04/06/2023 

Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?

Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.

Inteligência Artificial gerando conteúdo pornográfico

I.A

YF, 03/09/2022 Com TechCrunch 

Por Kyle Wigger e Amanda Silberling 

A IA está ficando melhor em gerar pornografia. Podemos não estar preparados para as consequências.

Uma mulher ruiva está ao luar, e seu rosto obscurecido. Seu corpo nu parece pertencer a um pôster que você encontraria na parede do quarto de um adolescente na puberdade – isto é, até chegar ao torso, onde três braços saem de seus ombros.

Sistemas baseados em IA, como Stable Diffusion, que traduzem prompts de texto em imagens, têm sido usados ​​por marcas e artistas para criar imagens conceituais, estampas premiadas (embora controversas) e campanhas de marketing completas.

Novos padrões para IA e metaverso, além de outras histórias importantes sobre tecnologia

WEF, 25/09/2023 

Por Cathy Li 

• Este resumo quinzenal traz para você as últimas histórias do mundo da tecnologia.

• Principais histórias de tecnologia: China trabalhará em novos padrões para o metaverso; Regulador do Reino Unido estabelece princípios de IA; O uso de criptomoedas está aumentando na Nigéria.

1. China trabalhará nos padrões do metaverso

A China planeja criar um grupo de trabalho para desenvolver padrões para o metaverso, anunciou seu Ministério da Indústria e Tecnologia da Informação (MIIT).

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

A Microsoft está testando um Chatbot de IA para o Xbox – Veja o que ele fará

Decrypt, 02/04/2024 

Por Jason Nelson 

A Microsoft diz que o suporte do Xbox poderá oferecer ajuda mais rapidamente através da interação em linguagem natural.

A desenvolvedora do Xbox, Microsoft, está testando uma ferramenta de inteligência artificial que pode ajudar a resolver os problemas de suporte dos clientes, atuando como um agente virtual de suporte técnico.

Investigação alega que a China está usando IA para espalhar propaganda pró-Pequim no YouTube

TX, 19/12/2023 

Por David Tuffley 

Uma investigação recente do Australian Strategic Policy Institute (ASPI), revelou uma extensa rede de canais do YouTube que promovem a opinião pública pró-chinesa e anti-EUA no mundo de língua inglesa.

A operação é bem coordenada, utilizando IA generativa para produzir e publicar conteúdo rapidamente, ao mesmo tempo que explora habilmente o sistema de recomendação algorítmica do YouTube.

Qual é o tamanho da rede?

A operação “Shadow Play” envolve uma rede de pelo menos 30 canais no YouTube com cerca de 730 mil assinantes. No momento em que este artigo foi escrito, os canais tinham cerca de 4.500 vídeos entre eles, com cerca de 120 milhões de visualizações.

Mark Zuckerberg entra na disputa de IA com uma novo produto da Meta: Meet LLaMA

Fortune, 24/02/2023 

Por Kurt Wagner 

A Meta Platforms Inc. introduziu uma ferramenta de pesquisa para construir chatbots baseados em inteligência artificial e outros produtos, buscando criar um burburinho para sua própria tecnologia em um campo recentemente focado nos rivais da Internet Google e Microsoft Corp.

Facebook abriu a caixa de pandora da IA, alertam especialistas

Feito com DALL-E 2

TB, 19/05/2023 

Por Maggie Harrison 

Abra o Gergelim!

A Meta está escancarando a corrida armamentista da IA. Literalmente.

De acordo com uma reportagem do The New York Times, o Facebook está dobrando sua decisão de tornar seu grande modelo de linguagem chamado LLaMA (Large Language Model Meta AI) – que compete com o GPT-4 da OpenAI – de código aberto.

"A plataforma que vencerá será a aberta", disse Yann LeCun, cientista-chefe de IA da Meta, ao NYT, acrescentando que acredita que manter modelos poderosos a portas fechadas é um "grande erro".

Ferramenta de IA criada para adestrar humanos a não serem hostis em discussões online

TX, 14/02/2023 

Por Louis DiPietro

Está arrependido de ter sido hostil online? A ferramenta de IA guia (adestra) os usuários para longe das emoções hostis.

Para ajudar a identificar quando os tensos debates online estão se aproximando de um colapso irremediável, os pesquisadores da Cornell desenvolveram uma ferramenta de inteligência artificial que pode rastrear essas conversas em tempo real, detectar quando as tensões estão aumentando e afastar os usuários do uso de linguagem incendiária.

Uma demonstração convincente de deepfake sacode o público do TED

O apresentador Chris Anderson e Tom Graham falam na SESSÃO 1 no TED2023

Forbes, 20/04/2023 

Por Rob Salkowitz 

Quando Tom Graham, cofundador e CEO da startup de vídeo AI Metaphysic, transformou gradualmente a imagem de vídeo de seu rosto na do diretor do TED, Chris Anderson, em tempo real, enquanto Anderson o entrevistava ao vivo no palco no início desta semana no evento TED2023 em Vancouver, você podia ouvir os suspiros enchendo a sala. A audiência do TED, que você não pode realmente caracterizar como uma multidão de camponeses luditas com forcados, ficou tão alarmada com as implicações dessa tecnologia quanto impressionada com o virtuosismo técnico do aplicativo.

Conselho de Supervisão da Meta expressa preocupação pela ineficiência da censura automatizada por IA

EDT, 23/01/2024 

Por Kris Holt 

A decisão automática da empresa de rejeitar um recurso, após não remover uma postagem de negação do Holocausto no Instagram, levantou preocupações no Conselho de Supervisão do Meta.

O Conselho de Supervisão do Meta expressou preocupações sobre a moderação automatizada, ao anular a decisão da empresa de manter uma postagem de negação do Holocausto no Instagram. A negação do Holocausto é considerada discurso de ódio de acordo com as políticas do Meta. A postagem em questão retratava Squidward, de Bob Esponja, e alegava conter fatos verdadeiros sobre o Holocausto. No entanto, o Conselho de Supervisão afirmou que as alegações "eram flagrantemente falsas ou distorciam fatos históricos".

Próximo passo na vigilância de IA – descobrir quem são seus amigos: Contact Tracing

TX, 03/03/2023 

Por Noah Bierman 

Um homem de cabelos grisalhos caminha pelo saguão de um escritório segurando uma xícara de café, olhando para frente enquanto passa pela entrada.

Ele parece não saber que está sendo rastreado por uma rede de câmeras que podem detectar não apenas onde ele esteve, mas também quem esteve com ele.

CEO da Microsoft diz que estão trabalhando em como lidar com "desinformação e informações falsas" eleitorais

RTN, 02/02/2024 

Por Christina Maas 

As gigantes da tecnologia estão assumindo um papel maior no monitoramento e moderação de formas de discurso online relacionadas a eleições.

As preocupações estão crescendo em relação ao papel das grandes empresas de tecnologia na moderação de "desinformação", particularmente devido ao temor de que essas corporações já possuam um poder e influência significativos que poderiam potencialmente influenciar os resultados políticos, incluindo eleições.

Pesquisadores usam IA para sinalizar “desinformação” em podcasts e pedem que empresas de tecnologia e reguladores “enfrentem esse desafio”

RTT, 01/03/2023 

Por Didic Rankovic 

O podcasting está se tornando um dos principais alvos da censura.

A Brookings Institution parece estar levando muito a sério não apenas o podcast, mas também “a guerra contra o podcasting”.

Um grande artigo (apresentado como resultado de uma pesquisa) publicado no site da organização em fevereiro deste ano acusa alguns podcasters, especialmente aqueles rotulados como “políticos”, de espalhar desinformação praticamente sem controle.

Chile: o novo gabinete marxista do presidente Gabriel Boric e o mito midiático de sua moderação

Panampost, 21/01/2022 

Por José Gregório Martinez 

O presidente eleito do Chile nomeou seu gabinete na sexta-feira, deixando três ministérios para o Partido Comunista, mas a lista de ministros com formação marxista é maior. A suposta moderação se deve à falta de maioria de sua coalizão no Congresso, razão pela qual incluiu partidos de centro-esquerda que não o apoiaram no primeiro turno.

O presidente eleito do Chile, Gabriel Boric, nomeou seu gabinete nesta sexta-feira tentando mostrar uma aparente contenção. Ele fez importantes acenos à centro-esquerda, mas sem deixar de lado seus aliados comunistas e sua ideologia progressista. A imprensa internacional destacou seu governo recém-constituído como o mais jovem e o que mais incluiu mulheres, entre elas duas militantes do Partido Comunista, mas pouco se falou sobre a formação marxista e as polêmicas que vários dos membros dos nove gabinetes têm em seus currículos.

Google aperta controle sobre eleições no Reino Unido com novas táticas de “moderação”

RTN, 02/06/2024 

Por Didi Rankovic 

O Google encontrou mais uma eleição para “apoiar”.

Após a empresa ter feito anúncios nesse sentido relacionados à eleição de junho do Parlamento Europeu, os eleitores do Reino Unido agora também podem aguardar – ou temer, conforme o caso – o papel do gigante tecnológico na próxima eleição geral.

Um post no blog de Katie O’Donovan, Diretora de Assuntos Governamentais e Políticas Públicas do Google UK, anunciou ainda mais “moderação” e uma série de outras medidas, a maioria das quais se tornaram instrumentos testados e comprovados da censura do Google ao longo dos últimos anos.

O multiplayer de Call of Duty usará IA politicamente correta para "moderar" (censurar) chats de voz

Verge, 30/08/2023 

Por Monica Chin 

A tecnologia, fornecida pela Modulate, irá verificar as conversas em busca de falas que violem o código de conduta do jogo.

Jogos de tiro em primeira pessoa como Call of Duty são famosos pela toxicidade de seus lobbies e chats de voz. As pesquisas classificaram a base de fãs da franquia como a mais negativa em todos os jogos; uma rivalidade entre dois jogadores certa vez resultou na convocação de uma equipe da SWAT. A Activision vem tentando reprimir esse comportamento há anos, e parte da solução pode envolver inteligência artificial.