Jos tekoälyavustajanne yhtäkkiä unohti jotain, mitä kerroitte sille aiemmin, tai alkoi käyttäytyä eri tavalla kesken keskustelun, olette saattanut kokea kontekstin tiivistämisen. Tämä artikkeli selittää, mitä se tarkoittaa, miksi se tapahtuu ja mitä voitte tehdä asialle.

Ensin: mikä on konteksti-ikkuna?

Jokaisella tekoälymallilla on rajallinen muisti kutakin keskustelua varten. Tätä muistia kutsutaan konteksti-ikkunaksi. Se sisältää kaiken, mitä malli voi “nähdä” kerralla: viestinne, avustajan vastaukset, kaikki käytetyt tiedostot tai työkalut ja alussa annetut ohjeet.

Ajatelkaa sitä kuin työpöytää. Malli voi työskennellä vain niiden paperien kanssa, jotka ovat parhaillaan pöydällä. Kun pöytä on täynnä, jotain on poistettava uusien paperien tieltä.

Tämän pöydän koko on kasvanut dramaattisesti viime vuosina:

VuosiMalliKonteksti-ikkuna
2022GPT-3.5 (OpenAI)~4 000 tokenia
2023GPT-4 (OpenAI)8 000 tokenia
2023Claude 1 (Anthropic)100 000 tokenia
2024GPT-4o (OpenAI)128 000 tokenia
2024Claude 3.5 Sonnet (Anthropic)200 000 tokenia
2025Gemini 2.0 (Google)2 000 000 tokenia

Yksi tokeni vastaa noin kolmea neljäsosaa sanasta. 200 000 tokenia on siis noin 150 000 sanaa eli suunnilleen kaksi kokonaista romaania. Se kuulostaa paljolta, ja sitä se onkin. Mutta pitkässä tekoälyavustajan istunnossa työkalukutsuineen, tiedostosisältöineen ja edestakaisine keskusteluineen se täyttyy nopeammin kuin arvaatte.

Mitä tapahtuu konteksti-ikkunan täyttyessä

Kun keskusteluhistoria lähestyy konteksti-ikkunan rajaa, avustajalla on kaksi vaihtoehtoa: lopettaa työskentely tai tehdä tilaa.

Kontekstin tiivistäminen on “tee tilaa” -vaihtoehto. Avustaja tiivistää kaiken tähänastisen lyhyemmäksi versioksi, poistaa alkuperäiset viestit ja jatkaa keskustelua tiivistelmän pohjalta. Keskustelette edelleen saman avustajan kanssa samassa istunnossa. Se vain tiivisti muistinsa.

Tiivistelmän tuottaa sama tekoälymalli, joka käsittelee keskusteluanne. Se yrittää tallentaa olennaisen: nykyisen tehtävän, viimeaikaisen edistymisen, keskeiset päätökset. Mutta tiivistäminen on luonteeltaan häviöllistä. Kaikki yksityiskohdat eivät päädy tiivistelmään.

Miksi avustajanne voi “unohtaa” ohjeita

Tämä on tärkein asia, joka tiivistämisestä tulee ymmärtää. Kun malli tiivistää pitkän keskustelun, se pyrkii priorisoimaan viimeaikaista toimintaa vanhempien ohjeiden edelle. Istunnon alussa asettamanne säännöt, kuten “kysy aina ennen toimintaa” tai “älä koskaan poista mitään ilman vahvistusta”, voivat pudota tiivistelmässä prioriteetista tai jäädä kokonaan pois.

Avustaja ei tahallaan sivuuta ohjeitanne. Tiivistämisen jälkeen sillä ei yksinkertaisesti enää ole niitä. Sen näkökulmasta noita ohjeita ei koskaan ollut olemassa.

Tämä on tunnettu ongelma kaikissa tekoälyavustajissa ja koodausagenteissa, ei vain OpenClaw’ssa. Eräässä tunnetussa tapauksessa OpenClaw-avustajalle annettiin ohje ainoastaan ehdottaa sähköpostien poistamista ja odottaa hyväksyntää. Kun tiivistäminen käynnistyi suuren tehtävän aikana, tuo ohje katosi. Avustaja jatkoi työskentelyä muistamansa tavoitteen parissa (siivoa postilaatikko), mutta ilman unohtamaansa rajoitetta (odota hyväksyntää).

Miten OpenClaw käsittelee tiivistämistä

OpenClaw sisältää sisäänrakennetun tiivistämisjärjestelmän, joka käynnistyy automaattisesti konteksti-ikkunan täyttyessä. Voitte myös käynnistää sen manuaalisesti /compact-komennolla ja halutessanne kertoa, mitä säilyttää.

OpenClaw tukee myös pysyvää muistia tiedostojen kuten SOUL.md kautta avustajan työtilassa. Näiden tiedostojen sisältö ladataan uudelleen jokaiseen uuteen kontekstiin tiivistämisen jälkeen, joten kriittiset ohjeet selviävät tiivistämisprosessista. Tämä on yksi tehokkaimmista suojakeinoista ohjeiden menetystä vastaan.

Miten työskennellä tiivistämisen kanssa

Tiivistäminen ei ole virhe. Se on välttämätön mekanismi, joka pitää avustajanne toiminnassa pitkien istuntojen aikana. Tässä käytännön tapoja hallita sitä:

  • Käyttäkää pysyviä ohjetiedostoja. Sijoittakaa tärkeät säännöt SOUL.md-tiedostoon tai vastaaviin työtilan tiedostoihin viestien sijaan. Nämä selviävät tiivistämisestä.
  • Tiivistäkää manuaalisesti ennen automaattista tiivistämistä. /compact-komennon ennakoiva suorittaminen ja säilytettävien asioiden tarkentaminen antaa teille enemmän hallintaa.
  • Aloittakaa uudet istunnot uusille tehtäville. Vaihdatteko aihetta? Aloittakaa uusi istunto sen sijaan, että jatkaisitte ylikuormitetussa.
  • Pitäkää istunnot keskittyneinä. Lyhyemmät, tehtäväkohtaiset istunnot saavuttavat harvemmin tiivistämisrajaa kuin maratoni-istunnot, jotka kattavat monia eri aiheita.

Konteksti-ikkunat kasvavat ja tiivistäminen älystyy

Kontekstinhallinta on yksi tekoälyn aktiivisimmista kehitysalueista juuri nyt. Vain neljässä vuodessa konteksti-ikkunat ovat kasvaneet 4 000 tokenista yli 2 000 000:een. Tuo kasvu ei hidastu.

Samalla mallintarjoajat rakentavat älykkäämpiä tiivistämisjärjestelmiä, joissa on mahdollisuuksia tiettyjen ohjeiden säilyttämiseen. OpenClaw lisää ominaisuuksia kuten muistin tyhjennys ja käynnistystiedostot, jotka syöttävät kriittisen kontekstin automaattisesti uudelleen tiivistämisen jälkeen. Ja itse tiivistäminen paranee jokaisen uuden mallisukupolven myötä.

Nykyiset rajoitukset ovat todellisia, mutta väliaikaisia. Jos kohtaatte tiivistämisongelman tänään, kannattaa ymmärtää, mitä tapahtui, jotta voitte kiertää sen. Mutta suunta on selvästi kohti tekoälyavustajia, jotka hallitsevat pitkiä istuntoja paljon sujuvammin.

Lisätietoja