Was ist ein Context Window?
Die maximale Anzahl von Tokens oder Informationen, die ein KI-Modell gleichzeitig verarbeiten und berücksichtigen kann.
Definition
Ein Context Window (Kontextfenster) ist die maximale Anzahl von Tokens, Wörtern oder Informationseinheiten, die ein KI-Modell gleichzeitig in seinem "Gedächtnis" behalten und bei der Generierung von Antworten berücksichtigen kann.
Zweck
Das Context Window bestimmt, wie viel vorherige Unterhaltung, Dokumente oder Informationen ein KI-Modell nutzen kann, um kohärente, kontextbewusste Antworten zu generieren.
Funktion
Context Windows funktionieren durch die Begrenzung der Eingabelänge, die ein Modell verarbeiten kann, wobei bei Überschreitung ältere Informationen "vergessen" werden, um Platz für neue zu schaffen.
Beispiel
GPT-4 hat ein Context Window von etwa 128.000 Tokens, was bedeutet, dass es sich an ungefähr die letzten 100 Seiten Text in einer Unterhaltung erinnern kann, bevor ältere Informationen verloren gehen.
Verwandt
Context Windows sind eng mit Token Limits, Memory Management, Long-Context Models und verschiedenen Techniken zur Kontexterweiterung verbunden.
Chcesz dowiedzieć się więcej?
Jeśli chcesz zgłębić temat Context Window (Kontextfenster) — lub wprowadzić tego rodzaju szkolenia w swoim zespole — porozmawiajmy. Pomagam zespołom zrozumieć i stosować te koncepcje w praktyce. Z chęcią poznam Twoją historię!
Was ist ein Large Language Model (LLM)?
Ein Large Language Model (LLM) oder Großes Sprachmodell ist ein KI-Modell m...
Was ist Kontext in der KI?
Kontext in der KI bezieht sich auf die Hintergrundsinformationen, vorherige...
Was ist RAG?
RAG (Retrieval-Augmented Generation) ist eine Technik, die die Textgenerier...
Was sind Embeddings?
Embeddings sind numerische Darstellungen von Wörtern, Sätzen, Bildern oder...
Was ist Natural Language Processing (NLP)?
Natural Language Processing (NLP) oder Natürliche Sprachverarbeitung ist ei...