Mikä on Context Window?
AI-mallin kyky käsitellä tietty määrä tekstiä kerralla.
Määritelmä
Context Window on AI-mallin maksimimäärä tokeneja (sanoja, merkkejä) joita se voi käsitellä yhdessä pyyntö-vastaus -syklissä, sisältäen sekä syötteen että tulosteen.
Tarkoitus
Context Window määrittää kuinka pitkiä dokumentteja malli voi käsitellä, kuinka paljon keskusteluhistoriaa se muistaa ja kuinka monimutkaisia tehtäviä se voi ratkaista.
Toiminta
Context Window toimii rajoittamalla AI:n "muistikapasiteettia" - kun raja ylittyy, malli "unohtaa" vanhimmat tiedot ja keskittyy viimeisimpiin.
Esimerkki
GPT-4:llä context window on noin 128 000 tokenia, mikä vastaa noin 300 sivua tekstiä yhden keskustelun aikana.
Liittyvät
- Tokens
- Memory
- Context
- Model Limitations
Haluatko tietää lisää?
Jos haluat syventyä aiheeseen Context Window —tai tuoda tämän tyyppistä koulutusta tiimillesi— jutellaan. Autan tiimejä ymmärtämään ja soveltamaan näitä käsitteitä. Kuulisin mielelläni sinusta!
Mikä on Deterministic?
Deterministinen AI-järjestelmä tuottaa aina identtisen tuloksen samoilla sy...
Mikä on Safety Layer?
Turvallisuuskerros (Safety Layer) on AI-järjestelmän komponentti, joka toim...
Mikä on Machine Learning?
Machine Learning (ML) on tekoälyn osa-alue, jossa tietokoneet oppivat ja pa...
Mikä on Model?
Malli (Model) on koulutettu AI-järjestelmä, joka on oppinut tunnistamaan ka...
Mikä on Few-Shot Learning?
Few-Shot Learning on AI:n kykyä oppia ja suorittaa uusia tehtäviä käyttäen...