Mikä on Context Window?
AI-mallin kyky käsitellä tietty määrä tekstiä kerralla.
Määritelmä
Context Window on AI-mallin maksimimäärä tokeneja (sanoja, merkkejä) joita se voi käsitellä yhdessä pyyntö-vastaus -syklissä, sisältäen sekä syötteen että tulosteen.
Tarkoitus
Context Window määrittää kuinka pitkiä dokumentteja malli voi käsitellä, kuinka paljon keskusteluhistoriaa se muistaa ja kuinka monimutkaisia tehtäviä se voi ratkaista.
Toiminta
Context Window toimii rajoittamalla AI:n "muistikapasiteettia" - kun raja ylittyy, malli "unohtaa" vanhimmat tiedot ja keskittyy viimeisimpiin.
Esimerkki
GPT-4:llä context window on noin 128 000 tokenia, mikä vastaa noin 300 sivua tekstiä yhden keskustelun aikana.
Liittyvät
- Tokens
- Memory
- Context
- Model Limitations
Haluatko tietää lisää?
Jos haluat tietää lisää aiheesta Context Window, ota yhteyttä minuun X:ssä. Rakastan jakaa ideoita, vastata kysymyksiin ja keskustella aiheista, joten älä epäröi tulla mukaan. Nähdään pian!
Mikä on Deterministic?
Deterministinen AI-järjestelmä tuottaa aina identtisen tuloksen samoilla sy...
Mikä on Inference?
Päättely (Inference) on prosessi, jossa koulutettu AI-malli käyttää oppimaa...
Mikä on Generative UI?
Generatiivinen UI on AI-pohjainen lähestymistapa käyttöliittymien luomiseen...
Mikä on Generative AI?
Generatiivinen AI on tekoälyn osa-alue, joka keskittyy uuden, alkuperäisen...
Mikä on Agent?
Agentti on itsenäinen AI-järjestelmä, joka voi suorittaa tehtäviä, tehdä pä...