Mikä on Context Window?
AI-mallin kyky käsitellä tietty määrä tekstiä kerralla.
Määritelmä
Context Window on AI-mallin maksimimäärä tokeneja (sanoja, merkkejä) joita se voi käsitellä yhdessä pyyntö-vastaus -syklissä, sisältäen sekä syötteen että tulosteen.
Tarkoitus
Context Window määrittää kuinka pitkiä dokumentteja malli voi käsitellä, kuinka paljon keskusteluhistoriaa se muistaa ja kuinka monimutkaisia tehtäviä se voi ratkaista.
Toiminta
Context Window toimii rajoittamalla AI:n "muistikapasiteettia" - kun raja ylittyy, malli "unohtaa" vanhimmat tiedot ja keskittyy viimeisimpiin.
Esimerkki
GPT-4:llä context window on noin 128 000 tokenia, mikä vastaa noin 300 sivua tekstiä yhden keskustelun aikana.
Liittyvät
- Tokens
- Memory
- Context
- Model Limitations
Chcete se dozvědět více?
Pokud se chcete ponořit hlouběji do tématu Context Window — nebo přinést tento druh školení do svého týmu — pojďme si promluvit. Pomáhám týmům pochopit a uplatnit tyto koncepty v praxi. Rád se vám ozvu!
Mikä on Deterministic?
Deterministinen AI-järjestelmä tuottaa aina identtisen tuloksen samoilla sy...
Mikä on Safety Layer?
Turvallisuuskerros (Safety Layer) on AI-järjestelmän komponentti, joka toim...
Mikä on Prompt Bar?
Kehotepalkki (Prompt Bar) on käyttöliittymäelementti, johon käyttäjä kirjoi...
Mikä on Generative AI?
Generatiivinen AI on tekoälyn osa-alue, joka keskittyy uuden, alkuperäisen...
Mikä on Grounding?
Grounding on AI-mallin kyky yhdistää abstraktit symbolit, käsitteet ja kiel...