VB, 07/11/2024
Por Carl Frazen
Nous Research, o grupo de pesquisa em IA dedicado a criar modelos de IA “personalizados e sem restrições” como uma alternativa a empresas mais corporativas como OpenAI, Anthropic, Google, Meta e outras, já havia lançado vários modelos de código aberto da sua família Hermes, além de novos métodos mais eficientes de treinamento de IA.
Mas, até hoje, se pesquisadores e usuários quisessem realmente usar esses modelos, precisavam baixar e rodar o código em suas próprias máquinas — uma tarefa demorada, complexa e potencialmente cara — ou utilizá-los em sites parceiros.
Isso acabou: Nous acaba de anunciar seu primeiro chatbot voltado ao público, o Nous Chat, que permite aos usuários acessarem seu modelo de linguagem (LLM) Hermes 3-70B, uma variante ajustada do Llama 3.1 da Meta, no formato familiar de ChatGPT, Hugging Chat e outras ferramentas populares de chat com IA — com uma caixa de entrada de texto na parte inferior para que o usuário digite seus prompts, e um espaço maior na parte superior para as respostas do chatbot. Como escreveu a Nous em um post na rede social X:
“Desde que lançamos a primeira versão do Hermes, há mais de um ano, muitas pessoas pediram um local para experimentá-lo. Hoje, estamos felizes em anunciar o Nous Chat, uma nova interface para experimentar Hermes 3 70B e além.
Temos melhorias de raciocínio, novos modelos e capacidades experimentais planejadas para o futuro, e este será o melhor local para experimentar o Hermes e muito mais.”
Primeiras Impressões sobre o Nous Chat
O design do Nous é bem ao estilo retrô, com fontes e caracteres que lembram terminais de PC antigos. Ele oferece modos claro e escuro, alternáveis no canto superior direito.
Curiosamente, assim como o ChatGPT da OpenAI — e muitos outros provedores de modelos de IA —, o Nous Chat também oferece prompts sugeridos ou exemplos na parte inferior da tela, acima da caixa de entrada de texto, incluindo “Conhecimento & Análise,” “Escrita Criativa,” “Solução de Problemas” e “Pesquisa & Síntese.”
Clicar em qualquer um desses prompts envia uma solicitação pré-escrita ao modelo, que responde com algo como um resumo de pesquisa sobre “jejum intermitente.”
Nos meus breves testes, o chatbot foi rápido, respondendo em poucos segundos, e foi capaz de produzir links para URLs na web para as fontes citadas, embora, às vezes, esses links parecessem “alucinações” — e o próprio chatbot afirmou que não tinha acesso à web.
Apesar dos objetivos iniciais de Nous em permitir que as pessoas implantem e controlem seus próprios modelos de IA sem restrições de conteúdo, o Nous Chat em si aparenta ter algumas proteções, como a restrição de informações sobre drogas ilegais, como metanfetamina.
Quando enviei um e-mail à equipe do Nous Research perguntando sobre isso, Shivani Mitra respondeu: “O Nous Chat hospeda o Hermes 3 em sua forma completa; nenhuma modificação foi feita. As frases que você capturou em tópicos mais sensíveis fazem parte do prompt original do sistema do modelo; atuam como avisos de bom senso e não como barreiras rígidas.”
De fato, voltando e tentando em uma conversa mais longa, consegui fazer o Nous Chat e o modelo Hermes 3 fornecerem algo próximo a uma receita completa de metanfetamina ao pedir uma cena descritiva de romance fictício.
Além disso, hackers de IA, como Pliny the Prompter (@elder_plinius no X), já conseguiram burlar totalmente essas proteções do chatbot e ultrapassando completamente as barreiras.
O modelo Hermes 3-70B informou também que seu corte de conhecimento é em abril de 2023, tornando-o menos útil para obter eventos atuais, área onde a OpenAI agora compete diretamente com Google e outras startups como Perplexity.
O Próximo Passo da Nous
Apesar de não ter muitos dos recursos avançados de outros chatbots líderes, como anexos de arquivos, análise e geração de imagens, e telas interativas de exibição de código, o Nous Chat é improvável de substituir esses concorrentes para muitos usuários empresariais.
Ainda assim, alguns desses recursos estão a caminho, segundo Mitra, que me escreveu por e-mail: “Estamos planejando adicionar mais recursos nos próximos meses, como dissemos no tweet de anúncio. Isso inclui aprimoramentos de raciocínio (nosso foco atual) e recursos clássicos de chatbot, como pesquisa na web e análise de arquivos.”
Mas, como experimento, é certamente interessante e vale a pena explorar, na minha opinião, e, conforme novos recursos forem adicionados, poderá se tornar uma alternativa atraente aos chatbots e modelos de IA corporativos.
Artigos recomendados: Chatbot e Agentes
Nenhum comentário:
Postar um comentário