Vad är ett Context Window?
Context Window är gränsen för hur mycket text en AI-modell kan komma ihåg och bearbeta samtidigt.
Definition
Context Window är den maximala mängden text (mätt i tokens) som en AI-modell kan bearbeta och komma ihåg i en enda interaktion eller session.
Syfte
Context Window definierar hur långa konversationer, dokument eller uppgifter en AI-modell kan hantera utan att förlora viktig information från början.
Funktion
När context window nås, "glömmer" modellen den äldsta informationen för att göra plats för ny text, vilket kan påverka sammanhang och kontinuitet.
Exempel
GPT-4 har ett context window på cirka 32 000 tokens, medan vissa modeller har upp till 2 miljoner tokens, vilket möjliggör bearbetning av hela böcker.
Relaterat
Tokens, Memory (AI Memory), Attention Mechanism, Long Context Models
Vill du veta mer?
Om du vill fördjupa dig i Context Window —eller ta den här typen av utbildning till ditt team— låt oss prata. Jag hjälper team att förstå och tillämpa dessa begrepp. Jag vill gärna höra från dig!
Vad är mellanprogramvara?
Mellanprogramvara (middleware) är programvara som fungerar som en mellanlig...
Vad är personifiering inom AI?
Personifiering inom AI är designprocessen att tillskriva AI-system mänsklig...
Vad är naturlig språkbehandling?
Naturlig språkbehandling (NLP) är ett tvärvetenskapligt fält inom artificie...
Vad är GPT?
GPT (Generative Pre-trained Transformer) är en typ av stor språkmodell som...
Vad är Ground Truth?
Ground Truth är den korrekta, objektivt verifierade informationen som använ...