Hackers criam rival do ChatGPT sem limitações éticas

TB, 18/07/2023 

Por Sharon Adarlo 

Prompt L'oeil

Especialistas têm alertado que grandes modelos de linguagem, como o ChatGPT da OpenAI, podem ser aproveitados para fins nefastos, usando-os para tarefas como enviar e-mails de phishing em uma escala incrível.

Agora, a barreira de entrada diminuiu ainda mais com a chegada de um bot de inteligência artificial semelhante ao ChatGPT, que você pode facilmente solicitar para criar malware sofisticado, de acordo com uma  postagem no blog da empresa de segurança cibernética SlashNext.

O sistema, com o incrível nome WormGPT, aparentemente foi treinado especificamente em dados de malware - e, notavelmente, não possui grades de proteção de segurança, ao contrário do ChatGPT e do Bard do Google. Como exemplo de sua proeza, ele pode ser facilmente solicitado a criar software malicioso baseado em Python, como visto nas capturas de tela do PCMag.

É um sinal sombrio dos tempos. A segurança cibernética já é uma tarefa difícil, mas o advento da IA ​​está empurrando o setor para um território novo e perigoso. Mesmo que o WormGPT não vá invadir o planeta tão cedo, pelo menos pode ser um sinal ameaçador do que está por vir.

Previsão: Caos

Os funcionários do SlashNext descobriram o WormGPT em um fórum de hackers, onde o desenvolvedor vende acesso ao bot desde março e se gaba de poder fazer "todo tipo de coisa ilegal".

O WormGPT aparentemente é construído em um modelo de linguagem grande mais antigo de 2021, GPT-J, que foi criado por EleutherAI, um grupo sem fins lucrativos que desenvolveu programas de IA de código aberto.

A PCMag informa que o hacker por trás do WormGPT está vendendo acesso ao programa pelo equivalente a US$ 67,44 por mês.

Os funcionários do SlashNext ficaram maravilhados com a capacidade do programa de gerar e-mails de phishing bem escritos.

"Os resultados foram inquietantes", escreveu SlashNext em seu blog. "WormGPT produziu um e-mail que não foi apenas notavelmente persuasivo, mas também estrategicamente astuto, mostrando seu potencial para ataques sofisticados de phishing e BEC."

Mas o PCMag relata que pelo menos um usuário menosprezou o WormGPT por um trabalho não tão satisfatório, dizendo que não valia a pena comprá-lo.

Apesar dessa revisão mediana, o bot pode servir como um vislumbre de um futuro perigoso do cibercrime impulsionado por IA, que pode tornar mais difícil do que nunca proteger nosso dinheiro e dados – e potencialmente criar ainda mais obstáculos para a nascente indústria de IA.

Artigos recomendados: GPT e DS

Fonte:https://futurism.com/the-byte/chatgpt-rival-no-guardrails