Vad är ett Context Window?
Context Window är gränsen för hur mycket text en AI-modell kan komma ihåg och bearbeta samtidigt.
Definition
Context Window är den maximala mängden text (mätt i tokens) som en AI-modell kan bearbeta och komma ihåg i en enda interaktion eller session.
Syfte
Context Window definierar hur långa konversationer, dokument eller uppgifter en AI-modell kan hantera utan att förlora viktig information från början.
Funktion
När context window nås, "glömmer" modellen den äldsta informationen för att göra plats för ny text, vilket kan påverka sammanhang och kontinuitet.
Exempel
GPT-4 har ett context window på cirka 32 000 tokens, medan vissa modeller har upp till 2 miljoner tokens, vilket möjliggör bearbetning av hela böcker.
Relaterat
Tokens, Memory (AI Memory), Attention Mechanism, Long Context Models
Wil je meer weten?
Als je dieper wilt ingaan op Context Window —of dit soort training naar je team wilt brengen— laten we praten. Ik help teams deze concepten te begrijpen en toe te passen. Ik hoor graag van je!
Vad är Hallucination inom AI?
Hallucination inom AI är när ett AI-system genererar information som verkar...
Vad är AI-minne?
AI-minne är systemets förmåga att lagra, komma åt och använda tidigare info...
Vad är Human-in-the-Loop (HITL)?
Human-in-the-Loop (HITL) är en metodik där människor är aktivt integrerade...
Vad är Evals?
Evals (evaluations) är systematiska tester och bedömningsmetoder som använd...
Vad är Chain of Thought (CoT)?
Chain of Thought (CoT) är en AI-teknik som uppmuntrar språkmodeller att utt...