Co to jest Context Window?

Maksymalna ilość tekstu, którą model AI może przetworzyć jednocześnie.

🤖

Definicja

Context Window to maksymalna liczba tokenów (słów lub części słów), którą model językowy może przetworzyć jednocześnie jako kontekst wejściowy, określająca jak dużo wcześniejszej rozmowy lub tekstu model może "pamiętać" podczas generowania odpowiedzi.

🎯

Cel

Celem Context Window jest określenie zakresu informacji, które model może uwzględnić przy generowaniu odpowiedzi, balansując między możliwościami pamięci a wydajnością obliczeniową modelu.

⚙️

Funkcja

Context Window funkcjonuje jak "ruchome okno" pamięci, gdzie najstarsze informacje są usuwane, gdy okno się zapełnia, a nowe informacje są dodawane, utrzymując stały rozmiar kontekstu dostępnego dla modelu.

💡

Przykład

Model z context window o rozmiarze 4096 tokenów może "pamiętać" około 3000-4000 słów wcześniejszej rozmowy. Gdy rozmowa przekroczy tę długość, najwcześniejsze części zostaną "zapomniane".

🔗

Powiązane

  • Tokens
  • Memory Management
  • Model Architecture
  • Long Context Models
🍄

Quer saber mais?

Se você quiser se aprofundar em Context Window —ou levar esse tipo de formação para a sua equipe— vamos conversar. Eu ajudo equipes a entender e aplicar esses conceitos. Vou adorar receber o seu contato!