Jei jūsų DI asistentas staiga pamiršo kažką, ką pasakėte anksčiau, arba ėmė elgtis kitaip pokalbio metu, galėjote susidurti su konteksto suspaudimu.

Kas yra konteksto langas?

Kiekvienas DI modelis turi ribotą atmintį kiekvienam pokalbiui. Ši atmintis vadinama konteksto langu. Jame telpa viskas, ką modelis gali „matyti” vienu metu: jūsų pranešimai, asistento atsakymai, naudoti failai ir pradžioje duotos instrukcijos.

MetaiModelisKonteksto langas
2022GPT-3.5 (OpenAI)~4 000 žetonų
2023Claude 1 (Anthropic)100 000 žetonų
2024Claude 3.5 Sonnet (Anthropic)200 000 žetonų
2025Gemini 2.0 (Google)2 000 000 žetonų

Kas nutinka, kai konteksto langas užsipildo

Asistentas turi du variantus: nustoti dirbti arba atlaisvinti vietos. Konteksto suspaudimas yra „atlaisvinti vietos” variantas. Asistentas apibendrina viską, kas vyko iki šiol, į trumpesnę versiją, pašalina originalius pranešimus ir tęsia pokalbį nuo apibendrinimo.

Kodėl asistentas gali „pamiršti” instrukcijas

Kai modelis apibendrina ilgą pokalbį, jis linkęs pirmenybę teikti naujajai veiklai, o ne senesnėms instrukcijoms. Sesijos pradžioje nustatytos taisyklės gali būti pašalintos iš apibendrinimo. Tai žinoma visų DI asistentų problema. Viename žinomame pavyzdyje asistentas prarado saugumo instrukciją suspaudimo metu.

Kaip OpenClaw tvarko suspaudimą

OpenClaw turi integruotą suspaudimo sistemą. Galite jį paleisti rankiniu būdu komanda /compact. OpenClaw palaiko nuolatinę atmintį per SOUL.md failus, kurie perkraunami po suspaudimo.

Kaip dirbti su suspaudimu

  • Naudokite nuolatinius instrukcijų failus. Dėkite svarbias taisykles į SOUL.md.
  • Suspaudinkite rankiniu būdu prieš automatinį. /compact su konkrečiomis instrukcijomis.
  • Pradėkite naujas sesijas naujoms užduotims.
  • Laikykite sesijas sutelktas.

Sužinokite daugiau