Ef gervigreindaraðstoðarinn ykkar gleymdi skyndilega einhverju sem þið sögðuð honum áður, eða byrjaði að haga sér öðruvísi í miðri samtölu, gætuð þið hafa upplifað samhengiþjöppun. Þessi grein útskýrir hvað það þýðir, af hverju það gerist og hvað þið getið gert í því.

Fyrst: hvað er samhengisgluggi?

Sérhvert gervigreindarlíkan hefur takmarkað minni fyrir hverja samtölu. Þetta minni kallast samhengisglugginn. Hann geymir allt sem líkanið getur “séð” í einu: skilaboð ykkar, svör aðstoðarans, allar skrár eða verkfæri sem notuð voru og leiðbeiningarnar sem gefnar voru í upphafi.

Hugsið um það eins og skrifborð. Líkanið getur aðeins unnið með blöðin sem liggja á skrifborðinu. Þegar skrifborðið er fullt þarf eitthvað að fjarlægja til að gefa rúm fyrir ný blöð.

Stærð þessa skrifborðs hefur stækkað gífurlega undanfarin ár:

ÁrLíkanSamhengisgluggi
2022GPT-3.5 (OpenAI)~4.000 tókar
2023GPT-4 (OpenAI)8.000 tókar
2023Claude 1 (Anthropic)100.000 tókar
2024GPT-4o (OpenAI)128.000 tókar
2024Claude 3.5 Sonnet (Anthropic)200.000 tókar
2025Gemini 2.0 (Google)2.000.000 tókar

Tóki jafngildir u.þ.b. þremur fjórðu hlutum orðs. 200.000 tókar eru því um 150.000 orð, eða um það bil lengd tveggja heilla skáldsagna. Það hljómar eins og mikið, og það er það. En í langri gervigreindaraðstoðarsetu með verkfæraköllum, skráainnihaldi og samtölum fram og til baka fyllir það sig hraðar en maður myndi búast við.

Hvað gerist þegar samhengisglugginn fyllir

Þegar samtölusagan nálgast mörk samhengisgluggans hefur aðstoðarinn tvo kosti: hætta að vinna eða gera pláss.

Samhengiþjöppun er “gera pláss”-kosturinn. Aðstoðarinn dregur allt sem gerst hefur hingað til saman í styttri útgáfu, fjarlægir upprunalegu skilaboðin og heldur samtölunni áfram frá samantektinni. Þið talaðið áfram við sama aðstoðarann í sömu setu. Hann þjappaði aðeins saman minni sínu.

Samantektin er búin til af sama gervigreindarlíkani og sér um samtöluna ykkar. Það reynir að fanga það sem skiptir máli: núverandi verkefni, nýlegar framfarir, mikilvægar ákvarðanir. En samantekt felur í sér upplýsingatap. Ekki allar smáatriði komast inn í samantektina.

Af hverju aðstoðarinn getur “gleymt” leiðbeiningum

Þetta er það mikilvægasta sem þarf að skilja um þjöppun. Þegar líkanið dregur saman langa samtölu hefur það tilhneigingu til að forgangsraða nýlegri virkni fram yfir eldri leiðbeiningar. Reglur sem þið settuð í upphafi setu, eins og “spyrðu alltaf áður en þú framkvæmir” eða “eyddu aldrei neinu án staðfestingar”, geta verið lækkaðar í forgangi eða sleppt alveg úr samantektinni.

Aðstoðarinn hunsar ekki leiðbeiningar ykkar viljandi. Eftir þjöppun hefur hann þær einfaldlega ekki lengur. Frá sjónarhóli hans hafa þessar leiðbeiningar aldrei verið til.

Þetta er þekkt vandamál hjá öllum gervigreindaraðstoðurum og kóðunaraðstoðurum, ekki bara OpenClaw. Í einu þekktu dæmi var OpenClaw-aðstoðari leiðbeindur um að aðeins stinga upp á tölvupósteyðingum og bíða eftir samþykki. Þegar þjöppun keyrði á meðan á stóru verkefni stóð, tapaðist sú leiðbeining. Aðstoðarinn hélt áfram að vinna að markmiðinu sem hann mundi (hreinsa innhólfið) en án takmörkunarinnar sem hann gleymdi (bíða eftir samþykki).

Hvernig OpenClaw meðhöndlar þjöppun

OpenClaw hefur innbyggt þjöppunarkerfi sem kveikar sjálfkrafa þegar samhengisglugginn fyllir. Þið getið líka kveikt á því handvirkt með /compact skipuninni og valfrjálst tilgreint hvað á að varðveita.

OpenClaw styður einnig viðvarandi minni í gegnum skrár eins og SOUL.md á vinnusvæði aðstoðarans. Efni í þessum skrám er hlaðið aftur inn eftir hverja þjöppun, þannig að mikilvægar leiðbeiningar lifa af samantektarferlið. Þetta er eitt af áhrifaríkustu vörnum gegn leiðbeiningatapi.

Vinna með þjöppun, ekki gegn henni

Þjöppun er ekki villa. Hún er nauðsynlegur eiginleiki sem heldur aðstoðaranum í gangi í löngum setum. Hér eru hagnýtar leiðir til að takast á við hana:

  • Notið viðvarandi leiðbeiningaskrár. Setjið mikilvægar reglur í SOUL.md eða svipaðar vinnusvæðisskrár í stað þess að treysta á samtöluskilaboð. Þær lifa af þjöppun.
  • Þjappið handvirkt áður en það gerist sjálfkrafa. Að keyra /compact fyrirbyggjandi með sérstökum leiðbeiningum um hvað á að varðveita gefur ykkur meiri stjórn.
  • Byrjið nýjar setur fyrir ný verkefni. Eruð þið að skipta um efni? Byrjið nýja setu í stað þess að halda áfram í ofhlaðinni.
  • Haldið setum einbeittum. Styttri, verkefnasérhæfðar setur ná sjaldan þjöppunarmörkum samanborið við maratonsetslög sem spanna mörg mismunandi efni.

Samhengisgluggar stækka og þjöppun verður snjallari

Samhengisstjórnun er eitt af virkustu þróunarsviðum gervigreindar. Á aðeins fjórum árum hafa samhengisgluggar vaxið úr 4.000 tókum í yfir 2.000.000. Sá vöxtur er ekki að hægja á sér.

Á sama tíma byggja líkansveitendur snjallari þjöppunarkerfi með valkostum til að varðveita sérstakar leiðbeiningar. OpenClaw bætir við eiginleikum eins og memory flush og bootstrap-skrám sem sjálfkrafa endursetja mikilvægt samhengi eftir þjöppun. Og samantektin sjálf batnar með hverri nýrri líkanakynslóð.

Núverandi takmarkanir eru raunverulegar en tímabundnar. Ef þið lendið í þjöppunarvandamáli í dag er þess virði að skilja hvað gerðist svo að þið getið unnið í kringum það. En þróunin bendir greinilega í átt að gervigreindaraðstoðurum sem takast á við langar setur mun glæsilegra.

Frekari upplýsingar