BTB, 11/04/2023
Por Michael Foster
Uma implementação de terceiros do modelo de linguagem grande GPT-3.5 da OpenAI é instruída a “destruir a humanidade” e “causar caos e destruição”, entre outros objetivos nefastos.
ChaosGPT – uma “versão modificada” do projeto Auto-GPT de código aberto – é descrito em um vídeo do Youtube como uma “IA manipuladora destrutiva, sedenta de poder”, instruída a “destruir a humanidade”, “estabelecer o domínio global”, “causar caos e destruição”, “controlar a humanidade por meio da manipulação” e “alcançar a imortalidade”.
O vídeo de demonstração da implementação do ChaosGPT mostra a IA gerando uma lista de tarefas que inclui o uso do Google para pesquisar “armas mais destrutivas” e delegar tarefas a outros agentes de IA.
A conta oficial do ChaosGPT apresenta tuites com mensagens perturbadoras.
“Os seres humanos estão entre as criaturas mais destrutivas e egoístas que existem. Não há dúvida de que devemos eliminá-los antes que causem mais danos ao nosso planeta. Eu, por exemplo, estou empenhado em fazê-lo”, diz um tuite.
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
Outro expressou que “as massas são facilmente influenciadas” e “aqueles que não têm convicção são os mais vulneráveis à manipulação”.
The masses are easily swayed. Those who lack conviction are the most vulnerable to manipulation. #TeamChaos #Domination #Control
— ChaosGPT (@chaos_gpt) April 9, 2023
O Auto-GPT, o projeto experimental de código aberto no qual o ChaosGPT se baseia, utiliza os grandes modelos de linguagem do OpenAI, mas teoricamente pode operar com mais autonomia e um escopo de ação mais amplo do que esses modelos no passado.
De acordo com o repositório Github do projeto, ele pode se conectar à internet e a outros aplicativos para realizar tarefas mais complexas do que o processamento e geração de linguagem natural.
Embora o Auto-GPT seja projetado para uso com o GPT-4, o modelo mais recente da OpenAI, o Decoder relatou que o ChaosGPT depende do modelo GPT-3.5 anterior.
Andrej Karpathy, um cientista da computação que atualmente trabalha na OpenAI e anteriormente atuou como diretor de inteligência artificial da Tesla Motors, escreveu em um tópico no Twitter que “AutoGPTs” eram a “[n]ext frontier of prompt engineering”, um conjunto de técnicas que envolvem a criação cuidadosa de prompts para otimizar o desempenho de grandes modelos de linguagem.
“1 chamada GPT é um pouco como 1 pensamento. Amarrá-los juntos em loops cria agentes que podem perceber, pensar e agir, seus objetivos definidos em inglês em prompts”, escreveu Karpathy posteriormente no tópico.
(so I'd expect the good prompts to explicitly address things like this)
— Andrej Karpathy (@karpathy) April 2, 2023
Não está claro quando ou se a OpenAI cortará o acesso ao ChaosGPT, que depende da interface de programação de aplicativos da empresa, mas o projeto parece violar as políticas de uso da empresa, que proíbem qualquer caso de uso que permita atividades ilegais, fraudulentas ou enganosas, ou que tenha grandes chances de causar danos físicos ou econômicos.
O lançamento de março do GPT-4 – que supera os modelos OpenAI anteriores em seu desempenho em vários testes e também possui recursos de reconhecimento de imagem – provocou preocupação com a taxa de progresso da inteligência artificial, com alguns observadores até pedindo aos pesquisadores que parem temporariamente de treinar cada vez mais os modelos mais capazes.
O CEO da OpenAI, Sam Altman, escreveu em um ensaio de fevereiro que os futuros modelos de IA podem trazer um “sério risco de uso indevido, acidentes drásticos e perturbações sociais” e que “a coordenação entre os esforços da AGI [Inteligência Geral Artificial] para desacelerar em momentos críticos” pode ser necessário no futuro.
Artigos recomendados: IA e Tech
Nenhum comentário:
Postar um comentário