Hvad er et context window?
Den begrænsede mængde information (tokens) som en AI-model kan "huske" og behandle på én gang under en samtale eller opgave.
Definition
Context Window er den begrænsede mængde information (målt i tokens), som en AI-model kan holde i sin "hukommelse" og aktivt behandle på én gang under en samtale eller opgave.
Formål
Context Window definerer grænserne for, hvor meget sammenhæng og historik en AI-model kan overveje, når den genererer responser, hvilket påvirker dens evne til at følge lange samtaler.
Funktion
Context Window fungerer som en glidende "hukommelse", hvor ældre information gradvist "glemmes", når nye beskeder tilføjes, og det samlede antal tokens når modellens grænse.
Eksempel
GPT-4 har et context window på ca. 128.000 tokens. Når en samtale overstiger dette, "glemmer" modellen de ældste dele for at gøre plads til ny information.
Relateret
Context Window er relateret til tokens, memory, conversation flow og large language models.
Vil du vide mere?
Hvis du vil gå mere i dybden med Context Window —eller bringe denne form for træning til dit team— så lad os tale sammen. Jeg hjælper teams med at forstå og anvende disse begreber. Jeg vil meget gerne høre fra dig!
Hvad er Natural Language Processing?
Natural Language Processing (NLP) er et AI-felt, der fokuserer på at give c...
Hvad er AI Memory?
AI Memory (Hukommelse) er AI-systemers evne til at fastholde, gemme og genk...
Hvad er Vibe Marketing?
Vibe Marketing er en marketing tilgang, der fokuserer på at skabe og kommun...
Hvad er en AI Swarm?
En AI Swarm (Sværm) er et kollektiv af mange relativt simple AI-agenter, de...
Hvad er Zero-Shot Learning?
Zero-Shot Learning er en AI-teknik, hvor modeller kan udføre opgaver eller...