Was ist ein Context Window?
Die maximale Anzahl von Tokens oder Informationen, die ein KI-Modell gleichzeitig verarbeiten und berücksichtigen kann.
Definition
Ein Context Window (Kontextfenster) ist die maximale Anzahl von Tokens, Wörtern oder Informationseinheiten, die ein KI-Modell gleichzeitig in seinem "Gedächtnis" behalten und bei der Generierung von Antworten berücksichtigen kann.
Zweck
Das Context Window bestimmt, wie viel vorherige Unterhaltung, Dokumente oder Informationen ein KI-Modell nutzen kann, um kohärente, kontextbewusste Antworten zu generieren.
Funktion
Context Windows funktionieren durch die Begrenzung der Eingabelänge, die ein Modell verarbeiten kann, wobei bei Überschreitung ältere Informationen "vergessen" werden, um Platz für neue zu schaffen.
Beispiel
GPT-4 hat ein Context Window von etwa 128.000 Tokens, was bedeutet, dass es sich an ungefähr die letzten 100 Seiten Text in einer Unterhaltung erinnern kann, bevor ältere Informationen verloren gehen.
Verwandt
Context Windows sind eng mit Token Limits, Memory Management, Long-Context Models und verschiedenen Techniken zur Kontexterweiterung verbunden.
더 알고 싶으신가요?
Context Window (Kontextfenster)에 대해 더 깊이 알아보고 싶거나 이런 교육을 팀에 도입하고 싶으시다면, 이야기 나눠요. 저는 팀이 이러한 개념을 이해하고 적용할 수 있도록 돕고 있습니다. 연락 주시면 정말 기쁘겠습니다!
Was ist RAG?
RAG (Retrieval-Augmented Generation) ist eine Technik, die die Textgenerier...
Was sind Embeddings?
Embeddings sind numerische Darstellungen von Wörtern, Sätzen, Bildern oder...
Was ist Natural Language Processing (NLP)?
Natural Language Processing (NLP) oder Natürliche Sprachverarbeitung ist ei...
Was ist Kontext in der KI?
Kontext in der KI bezieht sich auf die Hintergrundsinformationen, vorherige...
Was ist ein Prompt?
Ein Prompt ist eine Texteingabe, Anweisung oder Frage, die einem KI-Modell,...