IP, 23/01/2024
A OpenAI removeu um bot que estava se passando pela voz de um candidato presidencial pouco conhecido dos Estados Unidos, reforçando limites sobre como campanhas políticas podem utilizar suas capacidades de inteligência artificial (IA).
Um grupo político que apoia o Congressista dos EUA, Dean Phillips, havia solicitado a uma startup sediada em Miami para criar um chatbot que permitiria aos usuários participar de um Q&A com o candidato pouco conhecido.
"Recentemente, removemos uma conta de desenvolvedor que estava violando conscientemente nossas políticas de uso da API (ou plataforma), que proíbem campanhas políticas ou a imitação de uma pessoa sem consentimento", informou a OpenAI no sábado ao Washington Post, que foi o primeiro a relatar a história.
O surgimento da IA generativa levantou receios de que as pessoas pudessem usar o ChatGPT e outras plataformas, para semear o caos político por meio de desinformação ou clones de IA, especialmente com várias eleições importantes a serem realizadas em todo o mundo este ano.
Como líder no campo, a OpenAI está sob escrutínio especial em relação a essas preocupações, e a empresa afirmou na semana passada que fornecerá ferramentas aos usuários para diminuir a possibilidade de danos causados por sua tecnologia.
O "Dean-bot" tinha como objetivo ser uma ferramenta informativa na campanha do candidato nas primárias democratas contra o Presidente Joe Biden.
Ele dependia da tecnologia da OpenAI, e a empresa apoiada pela Microsoft agiu rapidamente para removê-lo depois que um artigo no Washington Post forneceu um link para testá-lo.
O grupo político por trás do bot, We Deserve Better, é co-liderado por um ex-funcionário do CEO da OpenAI, Sam Altman, e recebeu financiamento de investidores do Vale do Silício, informou o Post.
Após a reportagem, a Delphi, a startup contratada para criar o bot, foi excluída da plataforma da OpenAI.
A Delphi cria bots que podem imitar a voz de personalidades como influenciadores ou celebridades e depende dos modelos de IA da OpenAI para funcionar.
Após a controvérsia, a Delphi afirmou que, de agora em diante, "proibirá qualquer uso de nossa plataforma por organizações políticas ou indivíduos".
"Acreditávamos, erroneamente, que seria aceitável, nos termos de serviço da OpenAI, ter um comitê de ação política que apoia Dean Phillips criar um clone dele usando nossa plataforma", disse a Delphi no domingo, na plataforma X.
"Nós pedimos desculpas tanto à OpenAI quanto ao We Deserve Better por nosso erro", acrescentou a startup.
Artigos recomendados: Bot e DPF
Fonte:https://insiderpaper.com/openai-bans-bot-impersonating-us-presidential-candidate/
Nenhum comentário:
Postar um comentário