記憶を積んだAIは、同じ失敗を繰り返さなくなる — 自社運用の実録

以前は一度で直らなかった作業が、いまは一発で固まることが増えました。

AIが急に賢くなったからではありません。私たち自身がAIにためてきた記憶、とくに「過去にどこで失敗し、どう避けたか」の記録が積み上がったからです。

Agent Memoriesは、AIに永続的な記憶を持たせるためのサービスです。その記憶のしくみを、私たちは自分たちの日々の運用でそのまま使っています。この記事は、その自社運用で実際に効いたことの実録です。

いちばん価値が高い記憶は「失敗の記録」だった

記憶というと、うまくいった手順や正解の保存を思い浮かべがちです。けれど、運用していて効きが大きかったのは、成功事例よりも失敗の記録のほうでした。

成功した手順は、結果を見れば外からでも真似できます。最新の賢いモデルも、しばらくすれば誰でも使えるようになります。一方で「その運用が過去にどんな失敗を踏み、何をやらないと決めたか」は、外からは見えません。

成功事例は真似される。失敗の記録は、踏んだ本人にしか残らない。

だから記憶のなかでいちばん価値が高いのは、「やらないこと」を確定させた失敗の結晶です。これは単なる反省メモではなく、次の判断を最初から正しい側に寄せるための制約になります。

記憶が効くようにするために、私たちが日常的にやっている運用は、突き詰めると3つです。

新しい作業に入るとき、いきなり手を動かしません。まず、関連する過去の記録と手順書に目を通します。

こうすると、すでに解決済みの問題を毎回ゼロから探り直さずに済みます。「この作業は前にこうやって失敗した」「この手順はこの順番でないと崩れる」という記録が先に入るので、同じ落とし穴を避けた状態で着手できます。

過去にいちばん多かった失敗は、「コードや存在の確認だけで、できたと報告してしまう」ことでした。実際の画面や公開後の結果を見ずに完了を宣言すると、見た目の崩れや取り違えがそのまま残ります。

そこで、見た目を持つ成果物は必ず実物を確認してから報告する、という線を記憶に固定しました。確認の手順そのものが記録として残るので、次回も同じ検証を省かずに通せます。

同じような作業のたびに少しずつ違うやり方をすると、結果が安定せず、失敗の出方も毎回変わります。

そこで、同種の作業は一つのテンプレートに集約し、変えるのは中身の差分だけにしました。型が記憶として残っていると、品質のばらつきが減り、どこで失敗しやすいかも型の側に蓄積されていきます。

誤解されやすいのですが、これは「賢いモデルは要らない」という話ではありません。

最新のモデルは、できることの天井を確かに上げてくれます。けれど、その天井に毎回届かせるのは、記憶と検証の運用です。記憶がなければ、どれだけ賢いモデルでも、毎回はじめましての状態から手探りで進み、同じ失敗を繰り返します。

賢さは「一回の出力の上限」を決め、記憶は「次の出力を前回より良くできるか」を決めます。役割が違うので、片方だけでは足りません。モデルは選び直せますが、積み上げた記憶は、置き場所を間違えると引き継げません。記憶を外に持つ設計が要るのは、このためです。

特別なツールがなくても、考え方は今日から真似できます。私たちが実際に守っているのは、次の4つです。

大切なのは、成功手順を増やすことより、「やらないこと」を確定させていくことです。失敗の記録が増えるほど、AIは同じ場所でつまずかなくなります。

記憶を積んだAIが同じ失敗を繰り返さなくなるのは、賢くなったからではありません。過去の失敗が記録として残り、次の判断を最初から縛ってくれるからです。

そして、その失敗の記録こそが、外から真似されにくい価値になります。成功事例とモデルはいずれ追いつかれますが、自分たちが踏んだ失敗と回避策は、積み上げた本人の側にしか残りません。Agent Memoriesは、その記憶を会話の外に積み上げるための場所です。

一回あたりの出力の質は上がります。ただし、過去の失敗を覚えていなければ、同じ落とし穴は繰り返します。減るのは「届く高さ」で、減らないのは「同じ失敗の再発」です。再発を止めるのは記憶の役割です。

会話履歴は、やり取りをそのまま並べた記録です。記憶は、そこから「次の判断に使える形」に整理したものです。とくに「やらないこと」を確定させた失敗の記録は、履歴を全部読み返さなくても効く、凝縮された判断材料になります。

全部をそのまま残すと重くなります。そこで、よく効く失敗ほど索引に近い層へ昇格させ、めったに使わないものは奥へ退避させます。量ではなく、必要なときに正しく取り出せる整理が要点です。

記憶を「全部ためる」のではなく層で分ける考え方は、こちらにまとめています。