Что такое Context Window?

Максимальный объём текста, который модель ИИ может обработать за один раз.

🤖

Определение

Context Window — максимальный объём текста (токенов), который языковая модель ИИ может учитывать при генерации ответа, подобно кратковременной памяти модели.

🎯

Назначение

Размер контекстного окна определяет, насколько длинные диалоги, документы или входные данные может обрабатывать модель; больший размер позволяет решать более сложные задачи.