Anthropic apresenta Prompt Caching para chatbot Claude, reduzindo custos e tempos de resposta.

A Anthropic apresenta um novo recurso, Prompt Caching, para seu chatbot de IA Claude, reduzindo os custos em até 90% e os tempos de resposta em duas vezes. O recurso permite que os desenvolvedores armazenem instruções detalhadas, respostas de exemplo e informações relevantes, beneficiando projetos complexos e empresas de todos os tamanhos. Atualmente em fase beta pública através da API da Anthropic, o Prompt Caching melhora o desempenho em usos como conversas estendidas, processamento de grandes documentos e assistentes de codificação.

August 14, 2024
4 Artigos

Leitura adicional