Os recursos do ChatGPT em comparação são minúsculos, mesmo ao usar o GPT-4.
Claude AI, o rival do ChatGPT da Anthropic, agora pode compreender um livro contendo cerca de 75.000 palavras em questão de segundos. Este é um grande avanço para os chatbots, pois as empresas buscam tecnologias que possam produzir grandes quantidades de informações rapidamente.
Desde o lançamento do ChatGPT, também vimos empresas como Bloomberg e JP Morgan Chase buscarem alavancar o poder da IA para entender melhor o mundo das finanças. Embora esse processo tenha levado pelo menos alguns meses, o Anthropic, com seu Claude AI, pode reduzir o tempo para apenas alguns segundos.
Como a Anthropic potencializou sua IA
Em termos de computação, um token é um fragmento de palavras usadas para simplificar o processamento de dados. A quantidade de tokens que um modelo de linguagem grande (LLM) pode processar em um determinado momento é chamada de janela de contexto, que é semelhante à memória de curto prazo.
Um humano médio pode ler 100.000 tokens em cerca de cinco horas. No entanto, este é apenas o tempo necessário para ler os tokens e pode ser necessário mais tempo se for necessário lembrar e analisar essas informações.
O GPT-4 LLM da OpenAI tem uma janela de contexto de 4.096 tokens (aproximadamente 3.000 palavras) quando usado com o ChatGPT, mas isso pode aumentar para 32.768 tokens ao usar a API GPT-4. A janela de contexto da ClaudeAI era de cerca de 9.000 tokens, mas a empresa agora aumentou para 100.000 tokens (75.000 palavras).
Para demonstrar como isso melhora o desempenho da IA, a Anthropic carregou todo o texto de O Grande Gatsby (72.000 tokens) com uma linha modificada do original. A IA foi encarregada de detectar a diferença, o que fez em apenas 22 segundos, afirmou a empresa em um comunicado à imprensa.
Isso pode não parecer muito impressionante para aqueles que usaram processadores de texto para encontrar diferenças entre dois textos. Onde a IA supera os processadores de texto é a capacidade de responder a perguntas sobre o texto e analisá-lo em profundidade.
A Anthropic está olhando para empresas que precisam de um grande número de documentos a serem processados para usar sua IA e fazer perguntas específicas a Claude sobre o caminho a seguir. Como qualquer chatbot, Claude pode ser solicitado a procurar informações específicas e retornar resultados, como faria um assistente humano.
A Anthropic também usou IA para processar a transcrição de uma gravação de seis horas de um podcast, resumi-la e responder a perguntas. A empresa está confiante de que o mesmo pode ser aplicado a relatórios financeiros e documentos jurídicos, além de melhorar o código ou responder a perguntas técnicas.
O Claude AI com uma janela de contexto aprimorada está disponível por meio da API do Claude, para a qual há uma lista de espera.
Publicado em 17/05/2023 21h23
Artigo original: