A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

O anúncio do Vietnã é o primeiro desse tipo, solidificando a posição rigorosa do país sobre a regulamentação da mídia social. Ao alavancar a tecnologia de IA, essas plataformas agora podem identificar e eliminar proativamente o conteúdo prejudicial, garantindo uma experiência de usuário mais positiva para milhões de pessoas no Vietnã. Embora detalhes específicos sobre a implementação e aplicação desse requisito permaneçam não divulgados, ele ressalta a crescente importância da IA ​​na (censura) moderação de conteúdo.

O Vietnã apelou repetidamente aos gigantes da mídia social, como Meta-Facebook, Google-YouTube e TikTok, para colaborar estreitamente com as autoridades, a fim de erradicar o conteúdo considerado "tóxico". O governo vietnamita expressou sua preocupação com a disseminação de informações ofensivas, falsas e antiestatais, enfatizando a necessidade de cooperação entre essas plataformas e órgãos reguladores para lidar com esse problema de maneira eficaz.

Durante o primeiro semestre deste ano, o Facebook supostamente removeu 2.549 postagens, enquanto o YouTube removeu 6.101 vídeos em resposta a solicitações do governo. Além disso, o TikTok eliminou 415 links que violavam as diretrizes de conteúdo, conforme declaração do ministério da informação. Essas ações destacam o compromisso das plataformas de se alinhar aos padrões e regulamentos de conteúdo do Vietnã.

O movimento do Vietnã no sentido de exigir moderação de conteúdo com tecnologia de IA se alinha com esforços regionais mais amplos no Sudeste Asiático. Os países da região estão atualmente trabalhando no desenvolvimento de diretrizes abrangentes de governança e ética para a tecnologia de IA. Essas diretrizes visam estabelecer “guardas de proteção” que garantam a implantação responsável e ética da IA, principalmente no contexto da moderação de conteúdo. Esse desenvolvimento reflete o crescente reconhecimento da necessidade de regular e aproveitar o potencial da IA ​​em vários setores.

O Vietnã tem sido proativo na promulgação de regulamentos para enfrentar os desafios associados à (dissidência) desinformação e ao conteúdo online. Nos últimos anos, o país introduziu uma lei de segurança cibernética e outras regulamentações voltadas especificamente para plataformas estrangeiras de mídia social. Essas medidas visam combater a disseminação de "informações falsas" e exigem que empresas estrangeiras de tecnologia estabeleçam escritórios de representação locais, e armazenem dados dentro das fronteiras do Vietnã.

Além disso, o Vietnã realizou recentemente uma inspeção abrangente das operações locais do TikTok , descobrindo várias violações. O ministério da informação afirmou que os resultados preliminares indicaram várias violações das diretrizes de conteúdo na popular plataforma de vídeos curtos. Essa inspeção demonstra ainda mais o compromisso do Vietnã em proteger seu (regime) ecossistema online e garantir a conformidade com os regulamentos estabelecidos.

Em um evento de revisão de meados deste ano organizado pelo ministério da informação do Vietnã, foi anunciado que a Netflix, a gigante do streaming dos EUA, havia apresentado os documentos necessários para estabelecer um escritório local no Vietnã. Esse movimento indica a disposição da Netflix em cumprir os regulamentos vietnamitas, e ressalta a importância de uma presença local para plataformas de mídia estrangeiras que operam no país.

Artigos recomendados: Censura e IA

Fonte:https://readwrite.com/the-rise-of-ai-in-detecting-toxic-content-on-social-media-platforms/