AIの記憶は、全部ためればいいわけじゃない

「全部覚えています」は、一見たのもしく聞こえます。

でも、実際に任せてみると、そうとも限りませんでした。覚えている量が増えるほど、取り違えも増えていく。記憶は、ためればためるほど良くなる、という単純な話ではなかったのです。

今回は、記憶を「倉庫」ではなく「層のあるもの」として扱うと何が変わるのか、具体的な失敗から整理します。

量を増やすと、かえって判断がぶれる

記憶が多いAIに任せていて、何度か困った場面があります。

たとえば、検討の途中で一度だけ口にした案を、確定事項のように持ち出してくる。すでに方針が変わった古い前提のまま、次の手を組み立ててくる。あるいは、別の作業で話した事情を、関係のない場面に持ち込んでくる。

どれも「忘れていた」のではなく、「覚えすぎていて、扱いを間違えた」失敗でした。全部を同じ重さで覚えていると、何を信じて動くかの判断がぶれます。記憶の価値は、量ではなく、整理のされ方で決まる。そう考えるようになりました。

人も、聞いた話をすべて鵜呑みにはしません。

「とりあえず覚えておく話」と、「何度も確かめて確信した話」を、無意識に分けています。一度聞いただけの噂で重要な判断はしないし、繰り返し確かめた事実なら前提にして動きます。

AIの記憶にも、同じ区別がいると感じました。入ってきたばかりの情報と、確立した前提を、同じ確度で扱ってはいけない。「覚えている」ことと、「それを信じて動く」ことの間に、一段階の確かめが必要です。

そこで、記憶をフラットな倉庫ではなく、層のあるものとして扱います。

入ってきたばかりの話は、まず仮置きにする。すぐには判断の土台に使いません。繰り返し出てきて確かだと分かったことだけが、確定の層に上がっていく。そして、今の作業に直接効くものは、すぐ手の届くところに置いておく。

こうしておくと、AIは「何を信じて動くか」を選びやすくなります。新しく聞いた一言で、確立していた前提が簡単に上書きされることもなくなる。仮の話は仮として持ち、確かなことだけが判断に効く。この段差が、安定を生みます。

層をつくるなら、上げるだけでなく、降ろす仕組みもいります。

一度は確定だった前提でも、方針が変われば古くなります。それを確定の層に置きっぱなしにすると、AIは古い地図のまま走り続けます。だから、新しい事実と矛盾した前提は、確定から仮へ、あるいは過去の記録へと降ろしていく。覚え続けることと同じくらい、更新して降ろすことが、記憶を生かし続けます。

覚えることと同じくらい、混ぜないことが大事でした。

用途や相手が違えば、参照していい記憶も変わります。仕事の文脈と、別の作業の文脈。個人の話と、チームの話。すべてを一つの記憶にためて、どの場面でも全部を引っぱり出すと、関係のない文脈が判断に混ざります。

どの層の、どの記憶を、どの場面で使うか。境界が引かれているからこそ、必要なものだけを取り出せます。整理とは、ためた記憶に「いつ使うか」の線を引くことでもあります。

記憶は、ためる対象ではなく、整理する対象。仮・確定・実働の層を分け、古いものは降ろし、場面ごとに線を引く。それだけで「何を信じて動くか」の精度が変わる。

「たくさん覚えています」よりも、「大事なことを取り違えません」。任せる側が安心できるのは、たぶん後者です。Agent Memoriesでは、記憶を単なる保存ではなく知能の一部として設計するために、この層の作り方を実録で確かめています。

Agent Memoriesでは、AI運用で起きた判断、失敗、記憶の設計を実録として残しています。