Kontextfönster

Engelsk term: Context window
Svensk term: Kontextfönster

Vad är Kontextfönster?

Ett kontextfönster är som en AI-modells korttidsminne: det bestämmer hur mycket information modellen kan 'komma ihåg' och bearbeta samtidigt. Tänk dig att du läser en bok. Kontextfönstret är hur många sidor du kan hålla öppna och referera till samtidigt. Ett större kontextfönster gör att AI:n kan hantera längre texter och mer komplexa konversationer.

Två staplar som visar kontextfönstret. Den första rymmer instruktioner, chatten, en bifogad fil och svaret. I den andra har chatten blivit lång, och den äldre delen har komprimerats till ett kort sammandrag så att resten får plats. — Allt modellen ser i en konversation delar på samma utrymme. När det tar slut komprimeras ofta den äldre delen av chatten till ett sammandrag, och då följer inte alla detaljer med.

Kontextfönstret är inte samma sak som det modellen lärde sig under träningen. Träningsdatan är det modellen lärde sig en gång för alla, innan du började använda den. Kontextfönstret är det den ser just nu i den här konversationen: dina meddelanden, filer du bifogat, instruktioner och dess egna tidigare svar. Allt det räknas i tokens och delar på samma utrymme.

När fönstret blir fullt måste något ge vika. Ofta komprimeras den äldre delen av chatten till ett kort sammandrag, antingen automatiskt eller när du själv ber om det. I andra verktyg får du börja om i en ny chatt. Ett sammandrag rymmer inte alla detaljer, så instruktioner du gav tidigt i en lång konversation kan sluta följas, och ett stort dokument kan vara för långt för att läsas in i sin helhet.

Ursprung och källa

Allmänt använd inom NLP sedan tidigt 2000-tal; populariserades med LLM:er

Se även

Läs mer

Anthropic Docs: Context windows

Nu kan du det här ordet.

Hur många fler har du koll på? Spela Ordkollen →