Vad är ett Context Window?
Context Window är gränsen för hur mycket text en AI-modell kan komma ihåg och bearbeta samtidigt.
Definition
Context Window är den maximala mängden text (mätt i tokens) som en AI-modell kan bearbeta och komma ihåg i en enda interaktion eller session.
Syfte
Context Window definierar hur långa konversationer, dokument eller uppgifter en AI-modell kan hantera utan att förlora viktig information från början.
Funktion
När context window nås, "glömmer" modellen den äldsta informationen för att göra plats för ny text, vilket kan påverka sammanhang och kontinuitet.
Exempel
GPT-4 har ett context window på cirka 32 000 tokens, medan vissa modeller har upp till 2 miljoner tokens, vilket möjliggör bearbetning av hela böcker.
Relaterat
Tokens, Memory (AI Memory), Attention Mechanism, Long Context Models
Vill du veta mer?
Om du är nyfiken på att lära dig mer om Context Window, kontakta mig på X. Jag älskar att dela idéer, svara på frågor och diskutera nyfikenheter om dessa ämnen, så tveka inte att titta förbi. Vi ses!
Vad är Ground Truth?
Ground Truth är den korrekta, objektivt verifierade informationen som använ...
Vad är multimodal AI?
Multimodal AI är system som kan bearbeta, förstå och generera flera typer a...
Vad är en resonerande modell?
En resonerande modell är en typ av AI-system som kan utföra systematiskt, s...
Vad är Ambient AI?
Ambient AI är artificiell intelligens som är så naturligt och sömlöst integ...
Vad är ett GPU Cluster?
Ett GPU Cluster är en samling av flera grafikkort (GPUs) som är sammankoppl...