Co je context window?

Context Window je omezená délka vstupního textu nebo dat, kterou AI model dokáže současně zpracovat a na kterou dokáže reagovat v jedné interakci.

Context Window definuje rozsah informací, které model dokáže "pamatovat" a použít při generování odpovědí, což ovlivňuje kvalitu dlouhých konverzací.

Velikost context window je určená architekturou modelu a computational limity. Když se překročí, starší informace se "zapomínají".

Model s context window 4000 tokenů dokáže zpracovat přibližně 3000 slov textu. Delší dokumenty musí být rozděleny nebo sumarizovány.

Context Window souvisí s Token Limits, Memory Management, Long-form Conversation a Model Architecture.