Hva er et kontekstvindu i AI?
Den maksimale mengden tekst eller informasjon en AI-modell kan prosessere og huske samtidig i en enkelt interaksjon.
Definisjon
Context Window (Kontekstvindu) refererer til den maksimale mengden tekst, data eller informasjon som en AI-modell kan prosessere, huske og referere til samtidig i en enkelt sesjon eller interaksjon.
Formål
Kontekstvinduer definerer begrensningene for hvor mye historikk og informasjon en AI-modell kan holde "i minnet" når den genererer svar, noe som påvirker kontinuitet og relevans.
Funksjon
Kontekstvinduer fungerer som en begrenset minnebuffer hvor ny informasjon gradvis erstatter gammel informasjon når grensen nås, styrt av modellens arkitektur og beregningskapasitet.
Eksempel
GPT-3.5 har et kontekstvindu på 4096 tokens, mens GPT-4 kan håndtere opptil 32k tokens, noe som betyr det kan huske mye lengre samtaler eller dokumenter.
Relatert
Kontekstvindu er relatert til tokens, modell-arkitektur, minnehåndtering, samtalehistorie og begrensninger i språkmodeller (LLM).
Vil du lære mer?
Hvis du ønsker å gå dypere inn i Context Window - Kontekstvindu —eller bringe denne typen opplæring til teamet ditt— la oss snakke sammen. Jeg hjelper team med å forstå og anvende disse begrepene. Jeg vil veldig gjerne høre fra deg!
Hva betyr deterministisk i AI-sammenheng?
Deterministisk i AI-sammenheng refererer til systemer, algoritmer eller mod...
Hva er embeddings i AI?
Embeddings (Innbydninger) er numeriske vektorrepresentasjoner av data som t...
Hva er en GPU-kluster?
En Cluster GPU (GPU-kluster) er et nettverk av flere grafikkbehandlingsenhe...
Hva er guardrails i AI?
Guardrails (Sikkerhetsgelænder) i AI refererer til innebygde sikkerhetssyst...
Hva er en AI-agent?
En AI-agent er et autonomt AI-system som kan oppfatte omgivelser, ta beslut...