Co to jest Context Window?
Maksymalna ilość tekstu, którą model AI może przetworzyć jednocześnie.
Cel
Celem Context Window jest określenie zakresu informacji, które model może uwzględnić przy generowaniu odpowiedzi, balansując między możliwościami pamięci a wydajnością obliczeniową modelu.
Funkcja
Context Window funkcjonuje jak "ruchome okno" pamięci, gdzie najstarsze informacje są usuwane, gdy okno się zapełnia, a nowe informacje są dodawane, utrzymując stały rozmiar kontekstu dostępnego dla modelu.
Przykład
Model z context window o rozmiarze 4096 tokenów może "pamiętać" około 3000-4000 słów wcześniejszej rozmowy. Gdy rozmowa przekroczy tę długość, najwcześniejsze części zostaną "zapomniane".
Powiązane
- Tokens
- Memory Management
- Model Architecture
- Long Context Models
Quer saber mais?
Se você quiser se aprofundar em Context Window —ou levar esse tipo de formação para a sua equipe— vamos conversar. Eu ajudo equipes a entender e aplicar esses conceitos. Vou adorar receber o seu contato!
Co to jest Large Language Model (LLM)?
Large Language Model (LLM) to bardzo duży model sztucznej inteligencji tren...
Co to jest GPT?
GPT (Generative Pre-trained Transformer) to architektura modelu językowego...
Co to jest Safety Layer?
Safety Layer to warstwa bezpieczeństwa w systemach AI, która monitoruje, fi...
Co to jest Probabilistyczny?
Probabilistyczny to właściwość systemów sztucznej inteligencji, które operu...
Co to jest Architektura Multi-Agent?
Architektura Multi-Agent to system składający się z wielu autonomicznych ag...