Hvorfor "glemmer" en KI-chatbot hva du sa tidligere?

Kort oppsummert

En KI-chatbot har ikke hukommelse slik vi vanligvis tenker på det. Hver gang du sender en melding, leser den hele samtalen på nytt, men dette “arbeidsminnet”, kalt kontekstvinduet, har en fast størrelse. Blir samtalen lang nok, faller de eldste delene ut, omtrent som om de aldri ble sagt. Det er noe annet enn “husk meg”-funksjonene enkelte chatboter har.

Chatboten leser ikke samtalen slik du tror

Det er lett å se for seg en KI-chatbot som en som lytter hele tiden og gradvis blir bedre kjent med deg etter hvert som samtalen går. Men slik fungerer det ikke i praksis.

Hver gang du sender en ny melding, sender systemet egentlig hele den synlige samtalen til modellen på nytt, fra første til siste melding. Så ber det modellen lage et svar ut fra alt sammen. Modellen “husker” altså ikke forrige melding i vanlig forstand. Den leser den på nytt hver eneste gang, sammen med alt annet som er sagt så langt.

Hva er et kontekstvindu, egentlig?

Alt modellen kan lese og bruke i ett svar, kalles kontekstvinduet. Det er et slags arbeidsminne med en fast, målbar størrelse. Størrelsen måles i “tokens”, som er små tekstbiter på omtrent størrelse med deler av ord. Akkurat som en boks bare har plass til en viss mengde innhold før den er full, har kontekstvinduet en øvre grense.

Så lenge samtalen din er kortere enn denne grensen, har modellen tilgang til alt du har sagt. Problemet oppstår når samtalen vokser forbi grensen, for da må noe vike. Som regel er det de eldste delene av samtalen som faller ut først, altså det du sa lengst tilbake i tid. Navnet du oppga i starten av en lang samtale, kan derfor ha “rullet ut” av vinduet før du er femti meldinger inn i den.

Kontekstvinduet har alltid en fast øvre grense, akkurat som en boks som bare har plass til en viss mengde innhold.

Det er ikke bare et spørsmål om plass

Det er en ekstra vri her som gjør problemet litt mer snikende enn “boksen er full”. Språkmodeller bruker nemlig ikke hele kontekstvinduet like godt, selv når alt teknisk sett får plass. Det viser en mye sitert artikkel med tittelen “Lost in the Middle”, skrevet av forskere fra Stanford University og University of California, Berkeley. Modellene er markant flinkere til å hente frem informasjon som ligger helt i starten eller helt på slutten av en lang samtale, enn informasjon som ligger et sted midt i.

En detalj du nevnte midt i en lang samtale, kan altså bli dårligere brukt enn noe du sa helt i begynnelsen eller helt nylig. Det gjelder selv om alt fortsatt er innenfor kontekstvinduet. “Glemsel” handler dermed ikke bare om at noe faller helt ut. Det handler også om at noe blir vanskeligere for modellen å finne jo lenger unna starten eller slutten av samtalen det ligger.

Den samme svakheten er grunnen til at en AI kan streve med å holde styr på en hel bok den skriver. Enten den lange teksten er en samtale eller et manuskript, er det detaljene midt i som modellen håndterer dårligst.

Hvorfor blir ikke dette bare løst med et større vindu?

Kontekstvinduene til de store chatbotene har blitt betydelig større de siste årene og fortsetter å vokse. Med et større vindu kan samtalen bli lengre før noe begynner å falle ut, og for de fleste vanlige samtaler blir problemet i praksis mindre.

Det løser likevel ikke problemet fullstendig, av to grunner. For det første koster det mer regnekraft å behandle et større vindu, så det er ikke gratis å bare gjøre det uendelig stort. For det andre viser “lost in the middle”-forskningen at svakheten med informasjon midt i en lang tekst ikke forsvinner av seg selv bare fordi vinduet blir romsligere. Et større vindu utsetter altså problemet mer enn det fjerner det helt.

Forskjellen på kontekstvindu og “minnefunksjoner”

Mange blir forvirret av at flere chatboter i tillegg har en egen “minne”-funksjon, og ChatGPT er en av dem. Den lagrer utvalgte fakta om deg, som navnet ditt eller noen preferanser, og tar dem med på tvers av helt separate samtaler.

Dette er en annen mekanisme enn kontekstvinduet. Minnefunksjonen lagrer et lite, nøye utvalgt sett med informasjon permanent i en egen database og legger det inn i hver ny samtale du starter. Kontekstvinduet er derimot det som skjer løpende inne i én enkelt samtale, og det påvirkes ikke av om minnefunksjonen er slått på eller av. Derfor kan en chatbot huske navnet ditt fra en helt annen samtale takket være minnefunksjonen. Samtidig er det mulig at den “glemmer” noe du sa for tjue meldinger siden i samtalen du står i nå, fordi det har falt ut av kontekstvinduet.

	Kontekstvindu	Minnefunksjon
Hva det lagrer	Hele den løpende samtalen	Et lite, kuratert utvalg fakta
Hvor lenge det varer	Kun innenfor én samtale	På tvers av separate samtaler
Hva som skjer når det er fullt	De eldste delene faller ut	Fortsetter å mate inn i nye samtaler

Kontekstvinduet nullstilles for hver ny samtale. Minnefunksjonen lagrer i stedet et lite utvalg fakta på tvers av samtaler.

Hva kan du gjøre med det i praksis?

Gjenta viktig informasjon hvis samtalen blir lang. Trenger du at et navn, et tall eller en beslutning fra tidligere i samtalen skal telle med, er det trygere å nevne det på nytt enn å anta at modellen fortsatt har det tilgjengelig.

Start en ny samtale for et nytt tema. En lang, sammenhengende samtale om flere ulike ting bruker opp kontekstvinduet raskere enn nødvendig. Med én samtale per tema får modellen bedre plass til det som faktisk er relevant der og da.

Be modellen oppsummere underveis. I lengre arbeidsøkter kan du be chatboten lage et kort sammendrag av det dere har kommet frem til, og lime det inn igjen senere ved behov. Slik kan du enkelt “redde” viktig informasjon før den faller ut av vinduet.

Vanlige spørsmål

Er dette det samme problemet som AI-hallusinasjoner?

Nei, det er to forskjellige ting. Hallusinasjon betyr at en modell legger frem feil informasjon som om den var sikkert riktig. “Glemsel” på grunn av kontekstvinduet betyr derimot at informasjonen rett og slett ikke lenger er tilgjengelig for modellen når den svarer.

Hvorfor merker jeg dette mer i noen chatboter enn andre?

Ulike modeller har ulikt store kontekstvinduer og ulik evne til å bruke innholdet i dem godt. En chatbot med et større vindu holder typisk styr på en lengre samtale før noe begynner å falle ut. Men i svært lange samtaler er ingen modell upåvirket av problemet.

Kan jeg be chatboten “huske” noe for alltid?

Chatboter med en egen minnefunksjon kan lagre konkrete fakta du ber dem huske, og ta dem med på tvers av samtaler. Det betyr likevel ikke at hele den løpende samtalen blir tilgjengelig for alltid. Forskjellen på kontekstvinduet og de egne “minnefunksjonene” er forklart lenger opp.

Blir dette et mindre problem i fremtiden?

Sannsynligvis noe mindre, etter hvert som kontekstvinduene vokser og modellene blir bedre til å bruke hele vinduet. Ut fra dagens forskning er det likevel ingen grunn til å tro at problemet forsvinner helt med det første. Det henger nemlig sammen med hvordan disse modellene behandler tekst, ikke bare med hvor stort vinduet er.

Oppsummering og kilder

Det viktigste å huske:

En chatbot leser hele samtalen på nytt for hvert svar. Den lagrer den ikke løpende slik et menneske husker en samtale
Kontekstvinduet har en fast størrelse, og eldre deler av en lang samtale kan falle ut når den blir full
Forskning (“lost in the middle”) viser at informasjon midt i en lang samtale brukes dårligere enn informasjon i start eller slutt
Dette er en annen mekanisme enn “minnefunksjoner” som lagrer utvalgte fakta på tvers av separate samtaler

Kilder brukt i denne artikkelen:

Sist oppdatert: August 2026

Hvorfor "glemmer" en KI-chatbot noen ganger hva du sa tidligere i samtalen?