Mi a Context Window?
Az AI modell által egy időben feldolgozható maximális szövegmennyiség.
Meghatározás
A Kontextusablak (Context Window) azt a maximális szövegmennyiséget jelenti (tokenekben mérve), amit egy AI modell egy időben képes feldolgozni és figyelembe venni válaszgenerálás során.
Cél
A kontextusablak mérete határozza meg, hogy mennyi korábbi beszélgetés, dokumentum vagy egyéb információ lehet aktív egy adott AI interakció során.
Működés
A modell a kontextusablakon belüli összes tokent figyeli, de ha túllépi a limitet, a legrégebbi információk "kiesnek" és nem vehetők figyelembe.
Példa
Egy 4000 tokenes kontextusablakkal rendelkező modell körülbelül 3000 szót tud egyszerre kezelni, beleértve a promptot és a választ is.
Kapcsolódó
- Tokenek
- Kontextus
- Large Language Model
- Memória Korlátozások
Vuoi saperne di più?
Se vuoi approfondire Kontextusablak —o portare questo tipo di formazione nel tuo team— parliamone. Aiuto i team a comprendere e applicare questi concetti. Mi farebbe piacere sentirti!
Mi a Context az AI-ban?
A Kontextus az AI-ban mindazokat az információkat jelenti, amelyek egy AI m...
Mi a Probabilistic az AI-ban?
A Valószínűségi (Probabilistic) AI rendszer olyan, amely a döntéshozatal so...
Mi az Ambient AI?
Az Ambient AI egy olyan mesterséges intelligencia paradigma, amely láthatat...
Mi a Grounding az AI-ban?
A Megalapozás (Grounding) az AI kontextusában azt jelenti, hogy a mesterség...
Mi a RAG (Retrieval-Augmented Generation)?
A RAG (Retrieval-Augmented Generation) egy AI technika, amely a generatív m...