Okno kontekstu (context window): co to jest i dlaczego AI zapomina?
Okno kontekstu to limit tekstu, który AI widzi naraz, Twoje pytanie i cała dotychczasowa rozmowa. Gdy limit się wyczerpie, AI zaczyna "zapominać".
Wyobraź sobie...
Rozmawiasz przez szybę, na której mieści się tylko ostatnich 20 wiadomości. Gdy napiszesz 21., pierwsza znika.
AI działa tak samo, ma limit tego, ile tekstu widzi jednocześnie. Dlatego przy długich rozmowach AI "zapomina" co mówiłeś na początku.
To nie jest bug. To ograniczenie techniczne. Im większe okno kontekstu, tym dłuższe dokumenty i rozmowy AI obsłuży.
Okno kontekstu mierzy się w tokenach, jednostkach tekstu, z których AI składa słowa. Każdy model ma swój limit: jedne mieszczą krótki artykuł, inne całą książkę. Wszystko, co wysyłasz do AI (Twoje pytanie, historia rozmowy, wklejone dokumenty), musi się zmieścić w tym oknie.
Gdzie to spotkasz?
- ChatGPT mówi "ta rozmowa jest za długa" – wyczerpało się okno kontekstu
- Wrzucasz 200-stronicowy PDF i AI odpowiada tylko o ostatnich rozdziałach – reszta "wypadła" z okna
- Claude ma okno 200k tokenów (~150 000 słów) – może przeczytać całą książkę naraz
- Gemini oferuje do 1M tokenów – teoretycznie mieści kilka książek jednocześnie
Najczęstsze pytania o okno kontekstu
Dlaczego AI zapomina co mówiłem wcześniej?
Bo okno kontekstu się wyczerpało. AI widzi tylko ostatni fragment rozmowy. Rozwiązanie: podsumowuj kluczowe ustalenia co kilka wiadomości, albo użyj modelu z większym oknem (np. Claude, 200k tokenów, GPT-4o, 128k tokenów).
Ile tekstu mieści okno kontekstu?
Zależy od modelu. GPT-4o: 128k tokenów (~96 000 słów). Claude: 200k tokenów (~150 000 słów). Gemini: do 1M tokenów. Dla porównania: średnia książka ma ok. 60 000–80 000 słów.
Jak radzić sobie z ograniczonym oknem kontekstu?
(1) Zaczynaj nową rozmowę na nowy temat. (2) Na początku rozmowy podaj kluczowy kontekst. (3) Podsumowuj ustalenia co kilka wiadomości. (4) Dla długich dokumentów, użyj RAG zamiast wrzucania całego pliku.