IP, 16/01/2024
A OpenAI, fabricante do ChatGPT, disse que introduzirá ferramentas para combater a desinformação antes das dezenas de eleições deste ano em países que abrigam metade da população mundial.
O sucesso explosivo do gerador de texto ChatGPT estimulou uma revolução global da inteligência artificial, mas também desencadeou avisos de que tais ferramentas poderiam inundar a Internet com desinformação e influenciar os eleitores.
Com eleições marcadas para este ano em países como Estados Unidos, Índia e Grã-Bretanha, a OpenAI disse na segunda-feira que não permitirá que sua tecnologia – incluindo ChatGPT e o gerador de imagens DALL-E 3 – seja usada para campanhas políticas.
“Queremos garantir que a nossa tecnologia não seja usada de uma forma que possa prejudicar” o processo democrático, disse a OpenAI numa publicação no blog.
“Ainda estamos trabalhando para entender até que ponto nossas ferramentas podem ser eficazes para a persuasão personalizada”, acrescentou.
“Até sabermos mais, não permitimos que as pessoas criem aplicações para campanhas políticas e lobby.”
A desinformação e a informação imprecisa impulsionadas pela IA são os maiores riscos globais a curto prazo, e podem prejudicar os governos recém-eleitos nas principais economias, alertou o Fórum Econômico Mundial num relatório divulgado na semana passada.
Os receios sobre a desinformação eleitoral começaram há anos, mas a disponibilidade pública de potentes geradores de texto e imagens de IA aumentou a ameaça, dizem os especialistas, especialmente se os usuários não conseguem determinar facilmente se o conteúdo que veem é falso ou manipulado.
A OpenAI disse na segunda-feira que estava trabalhando em ferramentas que anexariam atribuição confiável ao texto gerado pelo ChatGPT, e também dariam aos usuários a capacidade de detectar se uma imagem foi criada usando DALL-E 3.
“No início deste ano, implementaremos as credenciais digitais da Coalition for Content Provenance and Authenticity – uma abordagem que codifica detalhes sobre a proveniência do conteúdo usando criptografia”, disse a empresa.
A coligação, também conhecida como C2PA, visa melhorar os métodos de identificação e rastreio de conteúdos digitais. Seus membros incluem Microsoft, Sony, Adobe e as empresas japonesas de imagem Nikon e Canon.
A OpenAI disse que o ChatGPT, quando questionado sobre questões processuais sobre as eleições nos EUA, como onde votar, direcionará os usuários para sites confiáveis.
“As lições deste trabalho irão informar a nossa abordagem em outros países e regiões”, afirmou a empresa.
Acrescentou que o DALL-E 3 possui “proteções” que impedem os usuários de gerar imagens de pessoas reais, incluindo candidatos.
O anúncio da OpenAI segue etapas reveladas no ano passado pelos gigantes da tecnologia norte-americanos Google e Meta, controladora do Facebook, para limitar a interferência eleitoral, especialmente por meio do uso de IA.
A AFP já desmascarou deepfakes – vídeos adulterados – do presidente dos EUA, Joe Biden, anunciando um recrutamento militar e da ex-secretária de Estado Hillary Clinton endossando o governador da Flórida, Ron DeSantis, para presidente.
Imagens e áudios adulterados de políticos circularam nas redes sociais antes das eleições presidenciais deste mês em Taiwan, descobriu a AFP Fact Check.
Embora grande parte deste conteúdo seja de baixa qualidade e não seja imediatamente claro se foi criado com aplicações de IA, os especialistas dizem que a desinformação está alimentando uma crise de confiança nas instituições políticas.
Artigos recomendados: Censura e Narrativa
Fonte:https://insiderpaper.com/openai-to-launch-anti-disinformation-tools-for-2024-elections/
Nenhum comentário:
Postar um comentário