Claude AI, rival do ChatGPT, pode compreender um livro inteiro em segundos

IE, 15/05/2023 

Por Ameya Pleja 

Os recursos do ChatGPT em comparação são minúsculos mesmo ao usar o GPT-4.

Claude AI, o rival do ChatGPT da Anthropic, agora pode compreender um livro contendo cerca de 75.000 palavras em questão de segundos. Este é um grande salto para os chatbots, à medida que as empresas buscam tecnologia que possa produzir grandes informações rapidamente.

Desde o lançamento do ChatGPT, também vimos empresas como Bloomberg e JP Morgan Chase buscarem aproveitar o poder da IA para entender melhor o mundo das finanças. Embora esse processo tenha levado pelo menos alguns meses, o Anthropic, com sua IA de Claude, pode reduzir o tempo necessário para apenas alguns segundos.

Como a Anthropic sobrecarregou sua IA

Em termos computacionais, um token é um fragmento de palavras usado para simplificar o processamento de dados. A quantidade de tokens que um modelo de linguagem grande (LLM) pode processar em um determinado momento é chamada de janela de contexto, que é semelhante à memória de curto prazo.

Um ser humano médio pode ler 100.000 tokens em cerca de cinco horas. No entanto, este é apenas o tempo necessário para ler os tokens, e mais tempo pode ser necessário se alguém tiver que lembrar e analisar essas informações.

O GPT-4 LLM da OpenAI tem uma janela de contexto de 4.096 tokens (3.000 palavras) quando usado com o ChatGPT, mas isso pode aumentar para 32.768 tokens ao usar a API GPT-4. A janela de contexto do ClaudeAI era de cerca de 9.000 tokens, mas a empresa agora a aumentou para 100.000 tokens (75.000 palavras).

Para demonstrar como isso melhora o desempenho da IA, a Anthropic carregou todo o texto de O Grande Gatsby (72.000 tokens) com uma linha modificada do original. A IA foi encarregada de detectar a diferença, o que fez em apenas 22 segundos, afirmou a empresa em um comunicado à imprensa.

Isso pode não soar muito impressionante para aqueles que usaram processadores de texto para encontrar diferenças entre dois textos. Onde a IA supera os processadores de texto é a capacidade de responder a perguntas sobre o texto e analisá-lo em profundidade.

A Anthropic está olhando para empresas que precisam de um grande número de documentos a serem processados para usar sua IA em vez disso e fazer perguntas específicas sobre o caminho a seguir. Como qualquer chatbot, Claude pode ser solicitado a procurar informações específicas e retornar resultados, como um assistente humano faria.

A Anthropic também usou IA para processar uma transcrição de uma gravação de seis horas de um podcast e resumi-la e responder a perguntas. A empresa está confiante de que o mesmo pode ser aplicado a relatórios financeiros e documentos legais, bem como melhorar o código ou responder a perguntas técnicas.

Claude AI com uma janela de contexto melhorada está disponível via Claude API, para o qual há uma lista de espera.

Artigos recomendados: IAC e BC

Fonte:https://interestingengineering.com/innovation/claude-ai-churns-books-in-seconds