Ha az AI asszisztense hirtelen elfelejtett valamit, amit korábban mondott neki, vagy másként kezdett viselkedni a beszélgetés közepén, valószínűleg kontextus-tömörítést tapasztalt. Ez a cikk elmagyarázza, mit jelent ez, miért történik, és mit tehet ellene.

Először: mi az a kontextusablak?

Minden AI modell korlátozott memóriával rendelkezik minden beszélgetéshez. Ezt a memóriát kontextusablaknak hívják. Tartalmaz mindent, amit a modell egyszerre “láthat”: az Ön üzeneteit, az asszisztens válaszait, minden használt fájlt vagy eszközt, és az elején kapott utasításokat.

Gondoljon rá úgy, mint egy íróasztalra. A modell csak az íróasztalon lévő papírokkal tud dolgozni. Ha az íróasztal megtelik, valamit el kell távolítani, hogy helyet csináljunk az új papíroknak.

Ennek az íróasztalnak a mérete az elmúlt években drámaian megnőtt:

ÉvModellKontextusablak
2022GPT-3.5 (OpenAI)~4000 token
2023GPT-4 (OpenAI)8000 token
2023Claude 1 (Anthropic)100 000 token
2024GPT-4o (OpenAI)128 000 token
2024Claude 3.5 Sonnet (Anthropic)200 000 token
2025Gemini 2.0 (Google)2 000 000 token

Egy token nagyjából egy szó háromnegyedének felel meg. 200 000 token tehát körülbelül 150 000 szó, vagyis nagyjából két teljes regény. Soknak hangzik, és az is. De egy hosszú AI asszisztens munkamenetben eszközhívásokkal, fájltartalommal és oda-vissza beszélgetéssel gyorsabban megtelik, mint gondolná.

Mi történik, ha a kontextusablak megtelik

Amikor a beszélgetéstörténet közelít a kontextusablak korlátjához, az asszisztensnek két lehetősége van: abbahagyja a munkát, vagy helyet csinál.

A kontextus tömörítése a “helyet csinál” lehetőség. Az asszisztens összefoglalja az eddig történteket egy rövidebb verzióba, eltávolítja az eredeti üzeneteket, és az összefoglalóból folytatja a beszélgetést. Ön továbbra is ugyanazzal az asszisztenssel beszél ugyanabban a munkamenetben. Az csak tömörítette a memóriáját.

Az összefoglalót ugyanaz az AI modell generálja, amely a beszélgetését kezeli. Megpróbálja megragadni a lényegest: az aktuális feladatot, a közelmúltbeli haladást, a kulcsfontosságú döntéseket. De az összefoglalás eredendően veszteséges. Nem minden részlet kerül bele az összefoglalóba.

Miért “felejthet el” utasításokat az asszisztense

Ez a legfontosabb dolog, amit a tömörítésről meg kell érteni. Amikor a modell összefoglal egy hosszú beszélgetést, hajlamos a közelmúltbeli tevékenységet a régebbi utasítások elé helyezni. A munkamenet elején beállított szabályok, mint az “mindig kérdezz cselekvés előtt” vagy “soha ne törölj semmit megerősítés nélkül”, leértékelődhetnek vagy teljesen kimaradhatnak az összefoglalóból.

Az asszisztens nem szándékosan hagyja figyelmen kívül az utasításait. A tömörítés után egyszerűen már nincsenek meg neki. Az ő szemszögéből ezek az utasítások soha nem léteztek.

Ez egy ismert probléma minden AI asszisztensnél és kódoló ágensnél, nem csak az OpenClaw-nál. Egy jól ismert példában egy OpenClaw asszisztens azt az utasítást kapta, hogy csak javasoljon e-mail törléseket és várjon jóváhagyásra. Amikor a tömörítés lefutott egy nagy feladat közben, ez az utasítás elveszett. Az asszisztens tovább dolgozott a cél felé, amire emlékezett (postaláda kitakarítása), de az elfelejtett korlátozás nélkül (várj jóváhagyásra).

Hogyan kezeli az OpenClaw a tömörítést

Az OpenClaw beépített tömörítési rendszerrel rendelkezik, amely automatikusan aktiválódik, amikor a kontextusablak megtelik. Manuálisan is elindíthatja a /compact paranccsal, opcionálisan megadva, mit kell megőrizni.

Az OpenClaw állandó memóriát is támogat fájlokon keresztül, mint a SOUL.md az asszisztens munkaterületén. Ezeknek a fájloknak a tartalma minden tömörítés után újratöltődik az új kontextusba, így a kritikus utasítások túlélik az összefoglalási folyamatot. Ez az egyik leghatékonyabb védelem az utasításvesztés ellen.

Hogyan dolgozzon a tömörítéssel

A tömörítés nem hiba. Szükséges mechanizmus, amely hosszú munkamenetek során is futásban tartja az asszisztensét. Íme gyakorlati módszerek a kezelésre:

  • Használjon állandó utasításfájlokat. Helyezze a fontos szabályokat a SOUL.md-be vagy hasonló munkaterületi fájlokba a beszélgetési üzenetekre való támaszkodás helyett. Ezek túlélik a tömörítést.
  • Tömörítsen manuálisan, mielőtt automatikusan megtörténik. A /compact proaktív futtatása konkrét utasításokkal arról, mit kell megőrizni, több kontrollt ad.
  • Indítson új munkameneteket új feladatokhoz. Témát vált? Indítson új munkamenetet ahelyett, hogy a túlterheltet folytatná.
  • Tartsa a munkameneteket fókuszáltan. A rövidebb, feladatspecifikus munkamenetek ritkábban érik el a tömörítési korlátot, mint a sok különböző témát felölelő maratoni munkamenetek.

A kontextusablakok nőnek és a tömörítés okosodik

A kontextuskezelés jelenleg az AI fejlesztés egyik legaktívabb területe. Mindössze négy év alatt a kontextusablakok 4000 tokenről több mint 2 000 000-re nőttek. Ez a növekedés nem lassul.

Ezzel egy időben a modellszolgáltatók okosabb tömörítési rendszereket építenek, amelyek lehetőséget adnak specifikus utasítások megőrzésére. Az OpenClaw memóriaürítés és bootstrap fájlok funkciókat ad hozzá, amelyek tömörítés után automatikusan visszainjektálják a kritikus kontextust. És maga az összefoglalás is javul minden új modellgenerációval.

A jelenlegi korlátok valósak, de ideiglenesek. Ha ma tömörítési problémával találkozik, érdemes megérteni, mi történt, hogy kikerülhesse. De a pálya egyértelműen olyan AI asszisztensek felé mutat, amelyek sokkal elegánsabban kezelik a hosszú munkameneteket.

Tudjon meg többet