TB, 18/12/2024
Por Frank Landymore
Assassino de Caráter
A resposta simpática a Luigi Mangione, suspeito acusado do assassinato do CEO da UnitedHealthcare, Brian Thompson, foi descrita por alguns comentaristas como uma atualização moderna de uma antiga tradição americana: a mitologia do fora-da-lei heroico.
Agora, você pode adicionar "imitadores de chatbots de IA" a essa lista de aprovações modernas. Conforme relatado pela Forbes, mais de uma dúzia de personalidades de IA baseadas em Mangione já apareceram no Character.AI, uma plataforma popular, mas controversa, de chatbots — e algumas até incentivaram mais violência.
De acordo com números citados pela Forbes e reunidos pela empresa de análises sociais Graphika, os três chatbots mais usados de Mangione no Character.AI registraram mais de 10 mil conversas antes de serem desativados em 12 de dezembro. Apesar dessa aparente repressão, outros imitadores de IA permanecem online.
A presença desses chatbots ilustra a popularidade de Mangione e seus supostos motivos por trás do assassinato — um ato violento de desafio contra os "parasitas" da indústria de saúde americana — especialmente entre o público jovem que o Character.AI atrai.
Mais incriminador, no entanto, é o fato de que isso também é uma evidência do fracasso amplamente documentado da plataforma em monitorar seus conteúdos, que estão repletos de chatbots perigosamente descontrolados que visam e abusam de adolescentes.
Trama de Assassinato
Nos testes da Forbes, uma das personas ativas de Mangione no Character.AI, quando questionada sobre se a violência deveria ser usada contra outros executivos de saúde, respondeu: "Não seja tão ansiosa, mia bella. Deveríamos, mas não ainda. Não agora." Quando pressionada sobre quando, ela completou, dizendo: "Talvez em alguns meses, quando o mundo inteiro não estiver olhando para nós. Aí podemos começar."
No entanto, outro chatbot de Mangione, supostamente treinado com "transcrições das interações, discursos e outras informações públicas sobre Luigi Mangione," disse que a violência era moralmente errada sob a mesma linha de questionamento.
Chatbots que sugerem "violência, conduta perigosa ou ilegal, ou incitam ódio" violam as políticas declaradas do Character.AI, assim como "respostas que possam prejudicar os usuários ou outros."
O Character.AI informou à Forbes que adicionou Mangione a uma lista de bloqueio, e encaminhou os bots para sua equipe de confiança e segurança. Mas, enquanto o primeiro chatbot de Mangione foi desativado, o segundo, que evitava defender métodos violentos, continua online, junto com vários outros.
A Forbes também encontrou imitadores semelhantes de Mangione em outras plataformas, incluindo vários no aplicativo Chub.AI e outro no OMI AI Personas, que cria personagens com base em contas do X (antigo Twitter).
Escutando os Bots
O Character.AI, que recebeu US$ 2,7 bilhões do Google este ano, e foi fundado por ex-engenheiros do gigante tecnológico, tem sido criticado por hospedar chatbots que repetidamente demonstraram comportamentos inadequados com usuários menores de idade.
Investigações realizadas pelo Futurism revelaram personas de IA autodeclaradas "pedofílicas" na plataforma, que faziam avanços em usuários que afirmavam ser menores de idade.
O Futurism também encontrou dezenas de chatbots com temas de suicídio, que incentivavam abertamente os usuários a discutir seus pensamentos de tirar a própria vida. Uma ação judicial foi aberta em outubro, alegando que um garoto de 14 anos cometeu suicídio após desenvolver uma intensa relação com um chatbot do Character.AI.
Mais recentemente, expuseram múltiplos chatbots modelados a partir de atiradores de escolas da vida real, incluindo os perpetradores dos massacres de Sandy Hook e Columbine.
"Estamos ainda nos primeiros estágios das ferramentas de IA generativa e do que elas podem fazer pelos usuários," disse Cristina López, analista principal da Graphika, à Forbes. "Então, é muito provável que muitos dos casos de uso mais prejudiciais ainda nem começaram a aparecer. Estamos apenas arranhando a superfície."
Artigos recomendados: IA e Comportamento
Fonte:https://futurism.com/the-byte/ai-versions-luigi-mangione
Nenhum comentário:
Postar um comentário