Modeller och tekniker
Kontextfönster (Context Window)
Kontextfönstret är hur mycket text ett AI-verktyg kan hålla i huvudet på en gång: din fråga, det du klistrat in och allt ni sagt tidigare i samma samtal. När fönstret är fullt faller det äldsta bort, och verktyget minns det inte längre.
Vad kontextfönstret förväxlas med
Minne mellan samtal. Vissa verktyg sparar sådant du berättat till nästa gång du loggar in. Det är en annan funktion. Kontextfönstret gäller ett samtal i taget.
Filstorlek. Fönstret mäts i tokens, inte i megabyte. Ett bildtungt dokument kan vara stort på disken och litet i fönstret, och tvärtom.
Hur långt svar du kan få. In och ut är två skilda gränser. Den för svaret är oftast mycket mindre än den för det du matar in.
Var du möter ordet kontextfönster
När ett långt samtal plötsligt svarar som om det glömt vad ni kom överens om i början. När en inklistrad rapport blir avhuggen på mitten. När ett verktyg vägrar ta emot ett underlag och bara säger att det är för långt. Ordet står sällan i felmeddelandet, men det är nästan alltid förklaringen.
Vad du kan göra med det
Två saker hjälper direkt. Starta ett nytt samtal när ämnet byts i stället för att fortsätta i ett som redan är långt. Och lägg det viktigaste sist, eftersom det som står nära slutet väger tyngre i svaret än det som står i början.
Ska du arbeta med ett långt underlag, dela upp det och låt verktyget sammanfatta varje del för sig innan du ber om helheten. Det är också det säkraste sättet att märka om något föll bort.
Vidare
Tokenisering förklarar vad ett token är och varför fönstret mäts i dem. Prompt om det du skriver till verktyget. Se kurserna