Detecção de discurso de ódio por IA para combater estereótipos e desinformação: censura cibernética

Unite, 13/08/2023 

Por Haziqa Sajid 

Hoje, a internet é a força vital da comunicação e conexão global. No entanto, com essa conectividade online sem precedentes, também testemunhamos o lado negro do comportamento humano, ou seja, discurso de ódio, estereótipos e conteúdo nocivo. Essas questões permearam as mídias sociais, fóruns online e outros espaços virtuais, causando danos duradouros aos indivíduos e à sociedade. Daí a necessidade de detecção de discurso de ódio (e censura).

De acordo com o Pew Research Center, 41% dos adultos americanos dizem ter sofrido abuso na Internet pessoalmente e 25% são vítimas de assédio severo.

WordPress lança assistente generativo de IA para aprimorar a escrita de conteúdo

VB, 08/06/2023 

Por Victor Dey 

O WordPress anunciou um assistente de escrita proprietário com IA para ajudar os usuários a criar e editar postagens de blog. A nova ferramenta, chamada Jetpack AI Assistant, já está disponível no WordPress.com e se integra perfeitamente à interface do editor.

Usuários com blogs WordPress hospedados em outras plataformas também podem acessar essa ferramenta utilizando um plug-in Jetpack, que oferece recursos para aprimorar os esforços de marketing, segurança e anti-spam. 

O assistente emprega tecnologia de IA generativa semelhante ao chatbot de modelo de linguagem grande (LLM) da OpenAI, ChatGPT. No entanto, a postagem no blog da empresa não fornece informações específicas sobre a arquitetura de IA.

A ascensão da IA na censura de conteúdo nas redes sociais

RW, 01/07/2023 

Por Aleksey Salaz 

A ascensão da IA ​​na detecção de conteúdo “tóxico” em plataformas de mídia social

Em uma tentativa de manter um ambiente online "seguro e responsável", o Vietnã (exemplo democrático) emitiu recentemente uma ordem exigindo que as plataformas de mídia social transfronteiriças implementem modelos de inteligência artificial (IA), capazes de detectar e remover automaticamente conteúdo “tóxico”. Este desenvolvimento marca um passo significativo nos esforços contínuos do Vietnã para combater a proliferação de conteúdo ofensivo, falso e antiestatal em plataformas como Facebook, YouTube e TikTok.

Novo método de criptografia usa conteúdo gerado por IA para ocultar informações à vista de todos

IE, 07/03/2023 

Por John Loeffler 

Um novo algoritmo de criptografia está entrando em cena e está usando conteúdo gerado por IA para ocultar informações confidenciais de uma maneira que oculta que qualquer coisa está sendo ocultada.

Com o crescimento do ChatGPT e de outros conteúdos generativos de IA online, um benefício não intencional pode ser comunicações digitais mais seguras.

Quão próximos estamos de um detector preciso de notícias falsas com IA?

TX, 06/11/2024 

Por Magda Osman 

Na ambiciosa busca para combater os danos causados por conteúdos falsos nas redes sociais e sites de notícias, cientistas de dados estão sendo criativos.

Embora ainda em fase inicial, os modelos de linguagem de grande escala (LLMs), usados para criar chatbots como o ChatGPT, estão sendo recrutados para identificar notícias falsas. Com uma detecção mais eficiente, sistemas de verificação com IA podem alertar sobre os potenciais danos de deepfakes, propaganda, teorias da conspiração e desinformação, e, no fim, neutralizá-los.

As próximas ferramentas de IA irão personalizar a detecção de conteúdo falso e nos proteger contra ele. Para essa transformação centrada no usuário, a ciência de dados precisa recorrer à ciência comportamental e à neurociência.

O YouTube adicionou recursos de IA para aprimorar e simplificar a criação de vídeos

Decrypt, 21/09/2023 

Por José Antonio Lanz 

O Google revelou novos recursos alimentados por IA para reforçar a criação de vídeos no YouTube, tanto para curtas quanto para clipes longos.

O Google está apostando tudo na inteligência artificial, integrando recursos de IA em todo o seu conjunto de produtos, incluindo Google Docs e Search. A gigante da tecnologia pretende usar IA para aprimorar as experiências do usuário, explorar novas possibilidades criativas e otimizar fluxos de trabalho – e seu alvo mais recente é o YouTube.

Diferença entre IA conversacional e IA generativa

AI, 26/01/2023 

Por Rangoli 

Saiba onde a IA conversacional e generativa estão no ano de 2023

Conversational AI (IA Conversacional) é a inteligência artificial (IA) que pode se envolver em conversas e se refere a ferramentas que permitem aos usuários se comunicar com assistentes virtuais ou chatbots. Eles imitam as interações humanas identificando entradas de fala e texto e traduzindo seu conteúdo para outros idiomas usando grandes quantidades de dados, aprendizado de máquina e processamento de linguagem natural. Enquanto a IA generativa costuma usar técnicas de aprendizado profundo, como redes adversárias generativas (GANs), para identificar padrões e recursos em um determinado conjunto de dados antes de criar novos dados a partir dos dados de entrada.

OpenAI e Associated Press (AP) anunciam parceria para treinar IA em artigos de notícias

VB, 13/07/2023 

Por Sean Michael Kerner 

Em um acordo histórico anunciado hoje, a pioneira em IA generativa OpenAI está fazendo parceria com a Associated Press (AP), um dos serviços de notícias mais antigos e lidos do mundo, estabelecido em 1846. 

A parceria é a primeira desse tipo entre um grande fornecedor de IA e um meio de comunicação e, de certa forma, é o encontro de dois gigantes de seus respectivos setores. Ele verá o conteúdo de texto de licenciamento OpenAI dos arquivos AP que serão usados ​​para treinar modelos de linguagem grandes (LLMs). Em troca, a AP fará uso da experiência e tecnologia da OpenAI – embora a empresa de mídia enfatize claramente em um comunicado que não está usando IA generativa para ajudar a escrever notícias reais.

Investigação alega que a China está usando IA para espalhar propaganda pró-Pequim no YouTube

TX, 19/12/2023 

Por David Tuffley 

Uma investigação recente do Australian Strategic Policy Institute (ASPI), revelou uma extensa rede de canais do YouTube que promovem a opinião pública pró-chinesa e anti-EUA no mundo de língua inglesa.

A operação é bem coordenada, utilizando IA generativa para produzir e publicar conteúdo rapidamente, ao mesmo tempo que explora habilmente o sistema de recomendação algorítmica do YouTube.

Qual é o tamanho da rede?

A operação “Shadow Play” envolve uma rede de pelo menos 30 canais no YouTube com cerca de 730 mil assinantes. No momento em que este artigo foi escrito, os canais tinham cerca de 4.500 vídeos entre eles, com cerca de 120 milhões de visualizações.

RadioGPT: A primeira estação de rádio baseada em IA do mundo está aqui

IE, 26/02/2023 

Por Loukia Papadopoulos 

Isso é uma dica de que a IA estará substituindo RJs no futuro?

Se uma IA pode escrever ensaios e responder a perguntas complexas, por que não pode administrar uma estação de rádio? Essa é a questão que uma empresa de mídia chamada Futuri em Cleveland, Ohio, tentou provar.

Adobe Photoshop adiciona gerador de imagens de IA à medida que as preocupações sobre imagens falsas aumentam

Forbes, 23/05/2023 

Por Molly Bohannon 

A Adobe agora integrou uma ferramenta de IA que permite que as pessoas criem imagens a partir de prompts de texto no Photoshop, anunciou a empresa nesta manhã de terça-feira, tornando-se a mais recente empresa de software a se apoiar em inteligência artificial.

PRINCIPAIS FATOS

Visa anuncia fundo de risco de US$ 100 milhões para impulsionar startups de IA generativas

BNN, 02/10/2023 

Por JN

A ousada mudança da Visa em direção à IA generativa

A Visa, líder global em tecnologia de pagamentos, anunciou uma mudança significativa no mundo da inteligência artificial generativa (IA). A empresa lançou um novo fundo de risco de US$ 100 milhões, destinado a investir em startups generativas de IA. Esta medida ousada representa um compromisso financeiro substancial para com este setor emergente e demonstra a intenção da Visa de ser pioneira na revolução da IA.

Ray Kurzweil rebate apelos para pausar pesquisa de IA

SIJ, 07/05/2023 

Por Roger Montti 

Ray Kurzweil escreve que pausar a pesquisa de IA é impraticável e priva a humanidade de benefícios profundos

Ray Kurzweil, um notável futurista e ex-diretor de engenharia do Google, publicou uma refutação à carta pedindo uma pausa na pesquisa de IA, oferecendo razões pelas quais a proposta é impraticável e priva a humanidade de avanços e inovações médicas que beneficiam profundamente a humanidade.

Carta Internacional para Pausar o Desenvolvimento de IA

Fórum Econômico Mundial Impulsiona o Uso de IA e a Colaboração no Combate à "Desinformação"

RTN, 18/06/2024 

Por Didi Rankovic 

A abordagem dual de promover os benefícios da IA no combate à "desinformação", enquanto alerta contra os perigos da IA em criar essa mesma "desinformação" – continua.

O ponto em que essas duas abordagens convergem é a censura – tanto os "guerreiros contra a desinformação" que querem usar IA em sua luta quanto os alarmistas da IA que afirmam que deepfakes destruirão as democracias, trabalham em direção à "monitorização," "rotulagem," e, finalmente, controle de conteúdo.

E às vezes eles são os mesmos grupos informais, mas poderosos, ou agências governamentais e mídias tradicionais.

Principais startups de IA generativa em jogos (2023)

MT, 04/03/2023 

Por Mansi Rawat 

A IA generativa está revolucionando o setor de jogos de várias maneiras, desde a produção de ambientes de jogo mais realistas e imersivos até o fornecimento de novos níveis de envolvimento e personalização aos jogadores. Os desenvolvedores de jogos podem tornar os jogos mais naturais e responsivos à entrada do jogador, utilizando algoritmos de aprendizado de máquina para gerar conteúdo como diálogo, música e até cenários de jogos completos. 

Como a IA está remodelando a maneira como os filmes são feitos

Fortune, 14/02/2023 

Por John Kell 

Quase 30 anos depois de Tom Hanks e Robin Wright estrelarem o filme vencedor do Oscar Forrest Gump, os atores estão colaborando novamente no próximo filme Here.

Hanks e Wright estão décadas mais velhos desde a última vez que os espectadores os viram compartilhar a tela prateada. 

Inteligência Artificial gerando conteúdo pornográfico

I.A

YF, 03/09/2022 Com TechCrunch 

Por Kyle Wigger e Amanda Silberling 

A IA está ficando melhor em gerar pornografia. Podemos não estar preparados para as consequências.

Uma mulher ruiva está ao luar, e seu rosto obscurecido. Seu corpo nu parece pertencer a um pôster que você encontraria na parede do quarto de um adolescente na puberdade – isto é, até chegar ao torso, onde três braços saem de seus ombros.

Sistemas baseados em IA, como Stable Diffusion, que traduzem prompts de texto em imagens, têm sido usados ​​por marcas e artistas para criar imagens conceituais, estampas premiadas (embora controversas) e campanhas de marketing completas.

O que é Modelo de Linguagem Grande (LLM)?

TechTarget



Por Sean Michael Kerner

Um grande modelo de linguagem (LLM) é um tipo de algoritmo de inteligência artificial (IA) que usa técnicas de aprendizado profundo e conjuntos de dados massivamente grandes para entender, resumir, gerar e prever novos conteúdos. O termo IA generativa também está intimamente ligado aos LLMs, que são, na verdade, um tipo de IA generativa que foi arquitetada especificamente para ajudar a gerar conteúdo baseado em texto.

Ao longo de milênios, os humanos desenvolveram línguas faladas para se comunicar. A linguagem está no centro de todas as formas de comunicação humana e tecnológica; fornece as palavras, a semântica e a gramática necessárias para transmitir ideias e conceitos. No mundo da IA, um modelo de linguagem serve a um propósito semelhante, fornecendo uma base para comunicar e gerar novos conceitos.

O profundo perigo da IA ​​conversacional – Programação Preditiva

VB, 04/02/2023 

Por Louis Rosenberg 

Quando os pesquisadores contemplam os riscos que a IA representa para a civilização humana, frequentemente fazemos referência ao “problema de controle”. Isso se refere à possibilidade de que uma superinteligência artificial possa surgir e seja tão mais inteligente que os humanos que rapidamente perdemos o controle sobre ela. O medo é que uma IA senciente com um intelecto sobre-humano possa perseguir objetivos e interesses conflitantes com os nossos, tornando-se um rival perigoso para a humanidade.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.