A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

Investigação alega que a China está usando IA para espalhar propaganda pró-Pequim no YouTube

TX, 19/12/2023 

Por David Tuffley 

Uma investigação recente do Australian Strategic Policy Institute (ASPI), revelou uma extensa rede de canais do YouTube que promovem a opinião pública pró-chinesa e anti-EUA no mundo de língua inglesa.

A operação é bem coordenada, utilizando IA generativa para produzir e publicar conteúdo rapidamente, ao mesmo tempo que explora habilmente o sistema de recomendação algorítmica do YouTube.

Qual é o tamanho da rede?

A operação “Shadow Play” envolve uma rede de pelo menos 30 canais no YouTube com cerca de 730 mil assinantes. No momento em que este artigo foi escrito, os canais tinham cerca de 4.500 vídeos entre eles, com cerca de 120 milhões de visualizações.

Conselho de Supervisão da Meta expressa preocupação pela ineficiência da censura automatizada por IA

EDT, 23/01/2024 

Por Kris Holt 

A decisão automática da empresa de rejeitar um recurso, após não remover uma postagem de negação do Holocausto no Instagram, levantou preocupações no Conselho de Supervisão do Meta.

O Conselho de Supervisão do Meta expressou preocupações sobre a moderação automatizada, ao anular a decisão da empresa de manter uma postagem de negação do Holocausto no Instagram. A negação do Holocausto é considerada discurso de ódio de acordo com as políticas do Meta. A postagem em questão retratava Squidward, de Bob Esponja, e alegava conter fatos verdadeiros sobre o Holocausto. No entanto, o Conselho de Supervisão afirmou que as alegações "eram flagrantemente falsas ou distorciam fatos históricos".

Inteligência Artificial gerando conteúdo pornográfico

I.A

YF, 03/09/2022 Com TechCrunch 

Por Kyle Wigger e Amanda Silberling 

A IA está ficando melhor em gerar pornografia. Podemos não estar preparados para as consequências.

Uma mulher ruiva está ao luar, e seu rosto obscurecido. Seu corpo nu parece pertencer a um pôster que você encontraria na parede do quarto de um adolescente na puberdade – isto é, até chegar ao torso, onde três braços saem de seus ombros.

Sistemas baseados em IA, como Stable Diffusion, que traduzem prompts de texto em imagens, têm sido usados ​​por marcas e artistas para criar imagens conceituais, estampas premiadas (embora controversas) e campanhas de marketing completas.

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

Nvidia investe na Cohere, startup de IA generativa vinculada ao Google

CNBC, 08/06/2023 

Por Natalie Rose 

A Cohere, uma startup de inteligência artificial generativa focada em empresas, levantou US$ 270 milhões em uma rodada de capital de risco da Série C, que inclui a gigante de IA Nvidia como investidor.

Enquanto as grandes empresas de tecnologia correm para garantir suas posições nos ecossistemas de IA, os gigantes corporativos estão fazendo vários investimentos em startups. Na nova rodada do Cohere, a Oracle e Salesforce também eram investidores. A rodada de $ 270 milhões foi mais do que Cohere, que tem apenas quatro anos, levantou no total até o momento - $ 175 milhões. A Cohere é uma das empresas em que o novo fundo de IA generativa da Salesforce Ventures está investindo.

Novos padrões para IA e metaverso, além de outras histórias importantes sobre tecnologia

WEF, 25/09/2023 

Por Cathy Li 

• Este resumo quinzenal traz para você as últimas histórias do mundo da tecnologia.

• Principais histórias de tecnologia: China trabalhará em novos padrões para o metaverso; Regulador do Reino Unido estabelece princípios de IA; O uso de criptomoedas está aumentando na Nigéria.

1. China trabalhará nos padrões do metaverso

A China planeja criar um grupo de trabalho para desenvolver padrões para o metaverso, anunciou seu Ministério da Indústria e Tecnologia da Informação (MIIT).

Mark Zuckerberg Esconde Notícias Políticas Antes da Eleição em Favor de Fofocas de Celebridades e Vídeos de Animais

BTB, 25/09/2024 

Por Luk Nolan 

A Meta de Mark Zuckerberg tem reduzido a proeminência do conteúdo político em suas plataformas, incluindo Facebook, Instagram e Threads, à medida que se aproxima a eleição de novembro de 2024. Zuckerberg acredita que o que os americanos realmente precisam antes da eleição mais importante de suas vidas são ainda mais fofocas de celebridades e vídeos de animais.

O New York Times relata que a Meta, empresa-mãe do Facebook, Instagram e Threads, tem implementado mudanças para se distanciar do conturbado mundo da política à medida que a eleição nos EUA de 2024 se aproxima.

Mark Zuckerberg entra na disputa de IA com uma novo produto da Meta: Meet LLaMA

Fortune, 24/02/2023 

Por Kurt Wagner 

A Meta Platforms Inc. introduziu uma ferramenta de pesquisa para construir chatbots baseados em inteligência artificial e outros produtos, buscando criar um burburinho para sua própria tecnologia em um campo recentemente focado nos rivais da Internet Google e Microsoft Corp.

Facebook abriu a caixa de pandora da IA, alertam especialistas

Feito com DALL-E 2

TB, 19/05/2023 

Por Maggie Harrison 

Abra o Gergelim!

A Meta está escancarando a corrida armamentista da IA. Literalmente.

De acordo com uma reportagem do The New York Times, o Facebook está dobrando sua decisão de tornar seu grande modelo de linguagem chamado LLaMA (Large Language Model Meta AI) – que compete com o GPT-4 da OpenAI – de código aberto.

"A plataforma que vencerá será a aberta", disse Yann LeCun, cientista-chefe de IA da Meta, ao NYT, acrescentando que acredita que manter modelos poderosos a portas fechadas é um "grande erro".

Ferramenta de IA criada para adestrar humanos a não serem hostis em discussões online

TX, 14/02/2023 

Por Louis DiPietro

Está arrependido de ter sido hostil online? A ferramenta de IA guia (adestra) os usuários para longe das emoções hostis.

Para ajudar a identificar quando os tensos debates online estão se aproximando de um colapso irremediável, os pesquisadores da Cornell desenvolveram uma ferramenta de inteligência artificial que pode rastrear essas conversas em tempo real, detectar quando as tensões estão aumentando e afastar os usuários do uso de linguagem incendiária.

Google aperta controle sobre eleições no Reino Unido com novas táticas de “moderação”

RTN, 02/06/2024 

Por Didi Rankovic 

O Google encontrou mais uma eleição para “apoiar”.

Após a empresa ter feito anúncios nesse sentido relacionados à eleição de junho do Parlamento Europeu, os eleitores do Reino Unido agora também podem aguardar – ou temer, conforme o caso – o papel do gigante tecnológico na próxima eleição geral.

Um post no blog de Katie O’Donovan, Diretora de Assuntos Governamentais e Políticas Públicas do Google UK, anunciou ainda mais “moderação” e uma série de outras medidas, a maioria das quais se tornaram instrumentos testados e comprovados da censura do Google ao longo dos últimos anos.

CEO da Microsoft diz que estão trabalhando em como lidar com "desinformação e informações falsas" eleitorais

RTN, 02/02/2024 

Por Christina Maas 

As gigantes da tecnologia estão assumindo um papel maior no monitoramento e moderação de formas de discurso online relacionadas a eleições.

As preocupações estão crescendo em relação ao papel das grandes empresas de tecnologia na moderação de "desinformação", particularmente devido ao temor de que essas corporações já possuam um poder e influência significativos que poderiam potencialmente influenciar os resultados políticos, incluindo eleições.

Uma demonstração convincente de deepfake sacode o público do TED

O apresentador Chris Anderson e Tom Graham falam na SESSÃO 1 no TED2023

Forbes, 20/04/2023 

Por Rob Salkowitz 

Quando Tom Graham, cofundador e CEO da startup de vídeo AI Metaphysic, transformou gradualmente a imagem de vídeo de seu rosto na do diretor do TED, Chris Anderson, em tempo real, enquanto Anderson o entrevistava ao vivo no palco no início desta semana no evento TED2023 em Vancouver, você podia ouvir os suspiros enchendo a sala. A audiência do TED, que você não pode realmente caracterizar como uma multidão de camponeses luditas com forcados, ficou tão alarmada com as implicações dessa tecnologia quanto impressionada com o virtuosismo técnico do aplicativo.

Os arquivos do Twitter: como o Twitter manipulou o debate sobre o COVID e a Pandemia

ZH, 26/12/2022 

Por Tyler Durden 

Mais um dia, mais uma exibição de ARQUIVOS DO TWITTER expondo a relação incestuosa entre a Big Tech e o governo.

A edição de hoje, lançada pelo jornalista David Zweig, enfoca 'como o Twitter manipulou o debate sobre o Covid' ao receber orientações dos governos Trump e Biden (ao mesmo tempo em que tenta censurar o ex-presidente). O que é um tanto notável é como os funcionários do governo (e ex-governo) foram agressivos ao tentar sufocar a liberdade de expressão, enquanto os funcionários não vinculados ao governo do Twitter costumavam recuar (e depois desistir totalmente) – um tema que observamos em exibições anteriores. Em um desses casos, o ex-chefe da equipe de confiança e segurança do Twitter, Yoel Roth, diz ao ex-advogado do FBI e então vice-conselheiro geral do Twitter, Jim Baker, para se acalmar após um tuíte de Trump.

Pesquisadores usam IA para sinalizar “desinformação” em podcasts e pedem que empresas de tecnologia e reguladores “enfrentem esse desafio”

RTT, 01/03/2023 

Por Didic Rankovic 

O podcasting está se tornando um dos principais alvos da censura.

A Brookings Institution parece estar levando muito a sério não apenas o podcast, mas também “a guerra contra o podcasting”.

Um grande artigo (apresentado como resultado de uma pesquisa) publicado no site da organização em fevereiro deste ano acusa alguns podcasters, especialmente aqueles rotulados como “políticos”, de espalhar desinformação praticamente sem controle.

Meta Lança Unidade de Censura de Conteúdo em Tempo Real para as Eleições de 2024

RTN, 28/02/2024 

Por Didi Rankovic 

Quando o Facebook (Meta) quer garantir seu "direito de censurar", a empresa se apresenta basicamente como mais uma empresa privada por aí cuidando dos seus próprios negócios.

Mas quando as campanhas eleitorais entram em pleno vapor, especialmente nos EUA, mas também na UE, a forma como o Meta reage, anunciando todo tipo de novas políticas e novas unidades para lidar com informações relacionadas às eleições, mostra que poderia ter uma influência massiva em seu resultado.

A Ucrânia está na vanguarda de pedidos as plataformas de mídia social para censurar “desinformação”

RTT, 01/04/2023 

Por Chistina Maas 

A Ucrânia liderou um apelo coletivo à ação, unindo forças com outras sete nações da Europa Central e Oriental para combater a “desinformação” nas plataformas de mídia social.

Em carta aberta, os primeiros-ministros dessas nações instam empresas de tecnologia proeminentes, como a Meta, a implementar medidas efetivas que coíbam a disseminação de conteúdo enganoso e a interferência estrangeira, que ameaçam a paz, a estabilidade e a democracia.