O que é uma Context Window?
A quantidade limitada de texto que um modelo de linguagem pode processar e lembrar em uma única interação.
Propósito
A Context Window define os limites de memória imediata de um modelo, determinando quanta informação prévia pode influenciar respostas atuais e quão longas podem ser conversas contínuas.
Funcionamento
A Context Window funciona como uma memória de trabalho limitada onde texto mais antigo é "esquecido" quando novos tokens excedem o limite, exigindo estratégias de gerenciamento para conversas longas.
Exemplo
Um modelo com context window de 4.000 tokens que pode lembrar aproximadamente as últimas 3.000 palavras de uma conversa, mas "esquece" mensagens mais antigas quando o limite é ultrapassado.
Relacionado
Relacionado com Limitações de Memória, Tokens, Gerenciamento de Contexto, Arquitetura Transformer e Otimização de Conversas Longas.
Daha fazlasını öğrenmek ister misiniz?
Context Window (Janela de Contexto) konusunu daha derinlemesine incelemek — ya da bu tür bir eğitimi ekibinize getirmek — isterseniz, hadi konuşalım. Ekiplerin bu kavramları anlamasına ve uygulamasına yardımcı oluyorum. Sizden haber almayı çok isterim!
O que é Ancoragem em IA?
Ancoragem (Grounding) refere-se ao processo de conectar sistemas de IA com...
O que é um Loop de Feedback em IA?
Um Loop de Feedback é um processo cíclico onde sistemas de IA coletam infor...
O que é Contexto em IA?
Contexto em IA refere-se às informações circundantes, situacionais e histór...
O que é um GPU Cluster?
Um GPU Cluster ou Cluster GPU é uma coleção de múltiplas unidades de proces...
O que é Auto-jogo em IA?
Auto-jogo (Self-Play) é uma técnica de treinamento onde um sistema de IA ap...