A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Conselho de Supervisão da Meta expressa preocupação pela ineficiência da censura automatizada por IA

EDT, 23/01/2024 

Por Kris Holt 

A decisão automática da empresa de rejeitar um recurso, após não remover uma postagem de negação do Holocausto no Instagram, levantou preocupações no Conselho de Supervisão do Meta.

O Conselho de Supervisão do Meta expressou preocupações sobre a moderação automatizada, ao anular a decisão da empresa de manter uma postagem de negação do Holocausto no Instagram. A negação do Holocausto é considerada discurso de ódio de acordo com as políticas do Meta. A postagem em questão retratava Squidward, de Bob Esponja, e alegava conter fatos verdadeiros sobre o Holocausto. No entanto, o Conselho de Supervisão afirmou que as alegações "eram flagrantemente falsas ou distorciam fatos históricos".

Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

Investigação alega que a China está usando IA para espalhar propaganda pró-Pequim no YouTube

TX, 19/12/2023 

Por David Tuffley 

Uma investigação recente do Australian Strategic Policy Institute (ASPI), revelou uma extensa rede de canais do YouTube que promovem a opinião pública pró-chinesa e anti-EUA no mundo de língua inglesa.

A operação é bem coordenada, utilizando IA generativa para produzir e publicar conteúdo rapidamente, ao mesmo tempo que explora habilmente o sistema de recomendação algorítmica do YouTube.

Qual é o tamanho da rede?

A operação “Shadow Play” envolve uma rede de pelo menos 30 canais no YouTube com cerca de 730 mil assinantes. No momento em que este artigo foi escrito, os canais tinham cerca de 4.500 vídeos entre eles, com cerca de 120 milhões de visualizações.

Pesquisadores desenvolvem método que aumenta desempenho de censura em plataformas ao vivo

TX, 07/12/2023 

Twitch. Alguns o veem como uma divertida comunidade online de jogadores e fãs bem-humorados de esportes eletrônicos. Para outros, é um fluxo perigoso de conteúdo potencialmente tóxico e discurso de ódio.

No cenário em constante evolução da comunicação digital, a natureza em tempo real das mensagens em plataformas de transmissão ao vivo como Twitch e YouTube Live traz consigo desafios únicos para a moderação de conteúdo. Atualmente, faltam ferramentas eficazes para moderar conteúdo em transmissões ao vivo, porque os modelos existentes foram treinados em plataformas de mídia social que não funcionam em tempo real, como Facebook ou Twitter.

Último lote de arquivos do Twitter mostra CIA e FBI envolvidos na moderação de conteúdo (censura)

NYP, 24/12/2022 

Por Mary Kay Linge 

A CIA tem se intrometido na moderação de conteúdo interno do Twitter há anos, de acordo com os últimos despachos dos “Arquivos do Twitter” de Elon Musk – que também revelaram “montanhas de demandas insistentes de moderação” do Comitê Nacional Democrata, mas não do Partido Republicano.

Dois tópicos separados na investigação profunda em andamento patrocinada por Elon Musk nos documentos internos da mídia social foram divulgados no sábado pelo jornalista independente Matt Taibbi, documentando como a plataforma frequentemente cedeu ao governo e à pressão política.

Governo Liberal do Canadá Avança Projeto de Lei de Censura de "Danos Online"

RTN, 27/02/2024 

Por Cindy Harper 

O Ministro da Justiça do Canadá, Arif Virani, avançou com um projeto de lei altamente controverso, chamado Projeto de Lei C-63, propondo uma nova legislação abrangente destinada a abordar o discurso de ódio online.

Obtivemos uma cópia do projeto de lei para você aqui.

O projeto de lei abrange sete tipos de material prejudicial, desde conteúdo que explora sexualmente ou revitimiza crianças e sobreviventes até conteúdo que promove violência e extremismo.

Coreia do Sul se junta à repressão global ao Telegram, citando deepfakes

CTPH, 03/09/2024 

Por Helen Partz 

A Coreia do Sul se juntou à crescente lista de jurisdições globais que estão lançando investigações contra o Telegram por disseminação de conteúdo ilícito.

As autoridades sul-coreanas estão investigando o Telegram Messenger por supostos crimes envolvendo conteúdo ilícito na plataforma.

A Agência de Polícia Metropolitana de Seul iniciou uma investigação preliminar sobre o Telegram por alegações de "cumplicidade em crimes sexuais com deepfakes", informou a agência de notícias local Yonhap em 3 de setembro.

Inteligência Artificial gerando conteúdo pornográfico

I.A

YF, 03/09/2022 Com TechCrunch 

Por Kyle Wigger e Amanda Silberling 

A IA está ficando melhor em gerar pornografia. Podemos não estar preparados para as consequências.

Uma mulher ruiva está ao luar, e seu rosto obscurecido. Seu corpo nu parece pertencer a um pôster que você encontraria na parede do quarto de um adolescente na puberdade – isto é, até chegar ao torso, onde três braços saem de seus ombros.

Sistemas baseados em IA, como Stable Diffusion, que traduzem prompts de texto em imagens, têm sido usados ​​por marcas e artistas para criar imagens conceituais, estampas premiadas (embora controversas) e campanhas de marketing completas.

Google, Facebook e Twitter deixam de ser plataformas de liberdade de expressão e passam a adotar censura de acordo com documento do Google

Pessoas passam por um prédio de escritórios do Google em Nova York, em 30 de dezembro de 2017

Epoch Times, 11 de outubro de 2018 

Por Petr Svab 

O documento diz que as empresas atenderam os pedidos de usuários, governos e anunciantes que exigem maior censura

Grandes plataformas on-line incluindo Google, YouTube, Facebook e Twitter, mudaram seus princípios que anteriormente eram focados na proteção da liberdade de expressão “para a censura e moderação”, de acordo com um documento de pesquisa do Google que vazou para a Breitbart.

O documento, intitulado “The Good Censor”, argumenta que as plataformas se fixaram entre duas posições incompatíveis: “Criar mercados de ideias não mediados” e “criar espaços bem ordenados para segurança e civilidade”.

Mark Zuckerberg Esconde Notícias Políticas Antes da Eleição em Favor de Fofocas de Celebridades e Vídeos de Animais

BTB, 25/09/2024 

Por Luk Nolan 

A Meta de Mark Zuckerberg tem reduzido a proeminência do conteúdo político em suas plataformas, incluindo Facebook, Instagram e Threads, à medida que se aproxima a eleição de novembro de 2024. Zuckerberg acredita que o que os americanos realmente precisam antes da eleição mais importante de suas vidas são ainda mais fofocas de celebridades e vídeos de animais.

O New York Times relata que a Meta, empresa-mãe do Facebook, Instagram e Threads, tem implementado mudanças para se distanciar do conturbado mundo da política à medida que a eleição nos EUA de 2024 se aproxima.

França: Islamistas do Facebook Atacam em Bandos

Gatestone, 31 de outubro de 2017 

Por Yves Mamou 

• Os "centros moderadores" das empresas de redes sociais estão, via de regra, localizados em países francófonos com mão-de-obra barata, no Norte da África e Madagascar. Na França há fortes rumores segundo os quais os moderadores do Facebook estão localizados em países muçulmanos de língua francesa como a Tunísia, Argélia e Marrocos. O Facebook jamais confirma nem nega a terceirização de seu trabalho de "moderação" a empresas que empregam mão-de-obra muçulmana barata no Norte da África.

• Não causa espécie o fato que os disseminadores de ódio muçulmanos continuem proliferando no Facebook, enquanto os anti-islamistas são hostilizados e veem suas contas excluídas.

• Esses usuários do Facebook, assim como dezenas de outros, são vítimas de "bandos" islamistas. Uma vez que as opiniões e análises desses usuários do Facebook ficam sob a lupa da rede social, eles são acusados de "racistas" e "islamófobos" ao Facebook e as suas contas são então excluídas.

Fatiha Boudjalat, cofundadora do movimento secularista Viv(r)e la République, é uma figura proeminente do anti-islamismo na França. Ela é constantemente entrevistada pelas redes de rádio e TV e seus artigos opinativos são corriqueiramente publicados no Le Figaro. Recentemente, Boudjalat teceu pesadas críticas no Facebook a uma funcionária do governo, islamista, que atende pelo nome de Sonia Nour por ela ter chamado o assassino islamista, de origem tunisina, de duas mulheres em Marselha, de "mártir". Poucas semanas depois, a conta de Boudjalat no Facebook foi excluída.

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

Os arquivos do Twitter: como o Twitter manipulou o debate sobre o COVID e a Pandemia

ZH, 26/12/2022 

Por Tyler Durden 

Mais um dia, mais uma exibição de ARQUIVOS DO TWITTER expondo a relação incestuosa entre a Big Tech e o governo.

A edição de hoje, lançada pelo jornalista David Zweig, enfoca 'como o Twitter manipulou o debate sobre o Covid' ao receber orientações dos governos Trump e Biden (ao mesmo tempo em que tenta censurar o ex-presidente). O que é um tanto notável é como os funcionários do governo (e ex-governo) foram agressivos ao tentar sufocar a liberdade de expressão, enquanto os funcionários não vinculados ao governo do Twitter costumavam recuar (e depois desistir totalmente) – um tema que observamos em exibições anteriores. Em um desses casos, o ex-chefe da equipe de confiança e segurança do Twitter, Yoel Roth, diz ao ex-advogado do FBI e então vice-conselheiro geral do Twitter, Jim Baker, para se acalmar após um tuíte de Trump.

Fundador do Telegram, Pavel Durov, é preso na França, supostamente por se recusar a censurar conteúdo

RTN, 24/08/20242

Por Ken Macon

Pavel Durov, fundador e CEO do aplicativo de mensagens Telegram, foi preso na noite deste sábado, de acordo com a mídia francesa.

O incidente ocorreu no Aeroporto de Le Bourget, quando Durov, acompanhado de um guarda-costas e uma mulher, desembarcou de seu jato particular. Durov, que possui dupla cidadania franco-russa e tem 39 anos, acabava de chegar do Azerbaijão.

Macron quer mais censura no Twitter para impedir que as pessoas digam “coisas malucas” sobre vacinas, pandemias e guerra

RTT, 02/12/2022 

Por Cindy Harper 

Macron diz que há "responsabilidades e limites" à liberdade de expressão.

O presidente francês, Emmanuel Macron, criticou o proprietário do Twitter, Elon Musk, por relaxar as políticas de censura de conteúdo na plataforma, argumentando que o conteúdo no Twitter precisa de mais regulamentação. Macron fez os comentários em uma aparição na ABC News antes de sua visita à Casa Branca.

Macron disse que as democracias estão sob “pressão muito forte” de forças como a mídia social, onde os usuários podem dizer “coisas malucas sobre uma vacina, uma pandemia, a guerra”.

CEO da Microsoft diz que estão trabalhando em como lidar com "desinformação e informações falsas" eleitorais

RTN, 02/02/2024 

Por Christina Maas 

As gigantes da tecnologia estão assumindo um papel maior no monitoramento e moderação de formas de discurso online relacionadas a eleições.

As preocupações estão crescendo em relação ao papel das grandes empresas de tecnologia na moderação de "desinformação", particularmente devido ao temor de que essas corporações já possuam um poder e influência significativos que poderiam potencialmente influenciar os resultados políticos, incluindo eleições.

X Compromete-se a Cumprir a Lei de Censura de "Discurso de Ódio" Online da Irlanda

RTN, 23/02/2024 

Por Cindy Harper 

Em uma recente reunião privada com o Comitê de Mídia do Oireachtas Irlandês (o comitê parlamentar de mídia), X indicou sua disposição para cumprir a próxima legislação de discurso de ódio da Irlanda.

Este anúncio vem como uma surpresa, especialmente à luz do dono da X, Elon Musk, ter expressado anteriormente apoio a ações legais contra essas propostas de leis de discurso online.

Os representantes da empresa, que concordaram em comparecer ao comitê apenas sob condição de privacidade, afirmaram seu compromisso com o proposto Projeto de Lei de Justiça Criminal (Incitação à Violência ou Ódio e Ofensas de Ódio) de 2022.

Novos padrões para IA e metaverso, além de outras histórias importantes sobre tecnologia

WEF, 25/09/2023 

Por Cathy Li 

• Este resumo quinzenal traz para você as últimas histórias do mundo da tecnologia.

• Principais histórias de tecnologia: China trabalhará em novos padrões para o metaverso; Regulador do Reino Unido estabelece princípios de IA; O uso de criptomoedas está aumentando na Nigéria.

1. China trabalhará nos padrões do metaverso

A China planeja criar um grupo de trabalho para desenvolver padrões para o metaverso, anunciou seu Ministério da Indústria e Tecnologia da Informação (MIIT).

Canadá – projeto de lei de censura na Internet C-11 é aprovado na Câmara: o garoto de Davos ataca novamente

Steven Guilbeault proponente do projeto ao lado de Trudeau

PM, 21/06/2022 

Por Roberto Wakerell 

O projeto de lei foi aprovado na contagem de 208 Sims a 117 Nãos, com todos os partidos, exceto os Conservadores, votando a favor.

A altamente criticada legislação de censura à internet dos Liberais de Trudeau, o Projeto de Lei C-11, foi aprovado na Câmara e seguirá para o Senado após uma votação na terça-feira.

O projeto de lei foi aprovado na contagem de 208 Sims a 117 Nãos, com todos os partidos, exceto os Conservadores, votando a favor.

O projeto de lei continua de onde o projeto de lei C-10 parou, que morreu na videira depois que o Parlamento foi dissolvido, levando à eleição federal do ano passado.