OPENAI SEARCH INSIGHT

2026.09.23 / OpenAI最新情報

OpenAI、GPT-6のプロンプトキャッシュを強化 診断と明示的制御を追加

この記事で分かること: GPT-6で改善されたプロンプトキャッシュの仕組み、診断機能、実装時に見直すべき設定と設計を知りたい。

OpenAIは2026年9月22日、GPT-6ファミリーにおけるプロンプトキャッシュの改善を発表した。共有されるプロンプト接頭辞のキャッシュヒット率を標準で高めたほか、監視ダッシュボード、キャッシュミス診断、明示的なキャッシュブレークポイントなどを導入した。

開発者にとっての要点は、長時間動くエージェントで繰り返し送る指示、ツール定義、過去文脈を再利用しやすくなった点にある。OpenAIによると、対象となる共有接頭辞を30分以内に再利用する場合、キャッシュ済み入力トークンには最大90%の割引が適用され、応答時間とコストの削減につながる。

GPT-6で変わるプロンプトキャッシュ

GPT-6は、コードベースのリファクタリングや調査に基づく文書・プレゼンテーション作成など、複雑な仕事を何時間にもわたり処理する持続的なエージェントを想定している。こうしたアプリケーションでは、前のAPIリクエストの指示、ツール定義、コンテキストを後続リクエストへ持ち越す構成が多い。

プロンプトキャッシュは、そのようなリクエスト間で共通する文脈の計算を再利用する仕組みだ。GPT-6ファミリーではこの仕組みが刷新され、デフォルトでより高いキャッシュヒット率を実現するとしている。キャッシュ最適化を個別に細かく行う前でも、共通部分を持つ連続リクエストで恩恵を受ける設計となる。

今回の対象は、30分のウィンドウ内で再利用される適格な共有接頭辞である。重要なのは、単に同じ情報を含めればよいのではなく、再利用対象となるプロンプトの前方部分を安定させることだ。ツールや入力の変更がキャッシュ再利用に及ぼす影響も、OpenAIはガイドで説明するとしている。

ダッシュボードと診断でミスを可視化

新設されたPrompt Caching Dashboardでは、アプリケーション入力のうち、どの程度がキャッシュから提供されたかを確認できる。時間経過に伴うヒット率を追跡でき、入力構成のチャートではキャッシュ済みトークンと未キャッシュトークンを比較できる。

これにより、プロンプト変更、ツール追加、設定変更などの後にヒット率が下がったかを観察し、アプリケーションの変更がキャッシュ性能へ与えた影響を評価できる。運用でキャッシュを最適化するには、コスト総額だけでなく、入力構成とヒット率の推移を同時に見ることが重要になる。

想定外のミスには、プロンプトキャッシュ診断ツールを使う。直近の応答と対象リクエストを比較し、モデル、ツール、設定、入力のどの変更が再利用を妨げたかを確認する仕組みだ。診断結果には影響を受けたトークン数の推定値も含まれ、最適化の優先順位を判断する材料となる。

OpenAIが示した例では、ミス理由としてツール変更を示す「tools_changed」が返り、比較上は再利用可能だったトークン数とキャッシュされなかったトークン数が示されている。ミスの理由と影響トークン数を結び付けて確認できることが、新機能の実務上の特徴だ。

明示的ブレークポイントと推論量の調整

GPT-6では、明示的なキャッシュブレークポイントにより、どのプロンプト接頭辞を再利用するかを選べる。OpenAIは、これをアプリケーションのワークロードに合わせてキャッシュを調整するための任意の制御機能と位置付けている。

特にエージェントでは、固定のシステム指示、共通の参照資料、ツールスキーマと、ターンごとに変化するユーザー入力を混在させがちだ。ブレークポイントは、どこまでを共有・再利用の対象として扱うかを設計する際の手段となる。キャッシュ対象の接頭辞を安定させる設計が、再利用率を左右する。

またGPT-6モデルでは、リクエストレベルのreasoning effortを変更せず、configuration_updateを追加することで、応答間の推論量を変更できる。難しいタスクでは推論量を上げ、定型的なフォローアップでは下げるといった操作を、キャッシュを壊さずに実施できるとしている。

これは、共通コンテキストを保ったままタスクの難度に応じて推論量を調整したいエージェントに関係する。もっとも、どの設定や入力変更が再利用に影響するかは、ガイドと診断機能を用いて実際の統合構成ごとに確認する必要がある。

ツール定義を安定させ、必要な機能だけ呼び出す

OpenAIは、エージェントのツール利用要件が変わる場合でも、以前のコンテキストを再利用するため、ツール定義、スキーマ、並び順を安定させるよう案内している。ツールを使わないターンのために定義自体を削除すると、キャッシュ再利用を妨げる可能性がある。

代替策として、呼び出し可能なツールだけをallowed_toolsで指定する、またはツールが不要な場合はtool_choiceをnoneに設定する方法が示された。ツール定義を消すのではなく、呼び出し可否を制御することが、キャッシュを保持するための基本方針となる。

指示を更新する場合も、古い指示を前方で置き換えるより、新しいdeveloper messageをコンテキスト末尾へ追加して以前の内容を上書きする方法が推奨されている。接頭辞の安定性と、後方への差分追加を両立させる発想は、プロンプトのバージョン管理にも影響する。

事前ウォームアップで待ち時間を移す

OpenAIは、既知のコンテキストを事前に処理しておくprewarmingも案内した。アプリケーション起動時など、最初のユーザー質問が届く前に、共有指示、ツール定義、参照資料を準備しておくことで、実際のリクエスト到着後にモデルが応答を始めるまでの時間を短縮する考え方だ。

これは処理そのものを不要にするのではなく、ユーザーが待つ時間から前倒しする施策である。既知の共有コンテキストを事前準備できることが前提となるため、セッション開始時に必ず変わる情報と、複数利用者・複数ターンで共通する情報を分けて設計する必要がある。

Agent Memories編集部の考察

日本の開発チームが最初に評価すべきなのは、キャッシュ割引の有無だけではない。長文の社内ナレッジ、複数ツール、長期タスクを扱うエージェントでは、プロンプトの先頭に何が固定され、何がターンごとに変化するかを棚卸しすることが先決になる。

編集部の考察として、ツール定義を画面機能や会話状態に応じて都度組み替える実装は、機能面では合理的でも、キャッシュ再利用の観点では再検討の余地がある。定義の集合・順序を固定し、許可するツールだけを制限する設計との比較検証が有効だろう。

また、キャッシュヒット率を単独のKPIにしないことも重要だ。ヒット率が高くても不要な文脈を恒常的に投入していれば、アプリケーション全体として望ましいとは限らない。入力トークン量、応答待ち時間、タスク成功率、ツール呼び出し設計を合わせて評価することが実務的である。

今回の診断機能は、最適化を経験則だけに頼らず、変更理由と影響トークンで追跡する基盤になり得る。まずは代表的なエージェントフローを選び、変更前後のヒット率とミス理由を記録する運用を作ることが、GPT-6移行・検証時の現実的な出発点となる。

よくある質問

GPT-6のキャッシュ割引はいつ再利用した入力に適用されますか

OpenAIの発表では、30分以内に再利用される適格な共有接頭辞に対してキャッシュ割引を提供するとしている。個別のプロンプトが適格か、キャッシュ接頭辞がどの程度維持されるかは、OpenAIのプロンプトキャッシュガイドで確認する必要がある。

推論量を変えるとキャッシュは失われますか

GPT-6モデルでは、リクエストレベルのreasoning effortを変えずにconfiguration_updateを追加する方法により、応答間で推論量を調整してもキャッシュを維持できるとOpenAIは説明している。通常の設定変更すべてに同じ挙動が保証されるとは、発表本文では述べられていない。

キャッシュミスが起きた場合、何を確認すべきですか

まず診断ツールで、モデル、ツール、設定、入力のどの変更が再利用を妨げたかを確認する。次に影響トークン数を見て優先度を判断し、ツール定義やスキーマ、並び順、共通プロンプト接頭辞に意図しない変更がなかったかを点検する。

prewarmingはどのような用途に向きますか

起動時点で共有指示、ツール定義、参照資料などが判明しているアプリケーションに向く。ユーザーの最初の質問が届く前に処理を準備し、応答開始までの待ち時間から処理を移す用途として、OpenAIは例示している。

まとめ

OpenAIのGPT-6向けプロンプトキャッシュ改善は、標準ヒット率の向上に加え、監視、ミス診断、明示的な再利用範囲の制御を組み合わせたものだ。持続的なエージェントでは、共通コンテキストを再利用する設計が、待ち時間と入力コストの両面に関わる。

実装担当者は、Prompt Caching Dashboardで現状を測定し、ミス診断で変更原因を確認したうえで、固定接頭辞、ツール定義、指示更新方法、prewarmingの順に見直すとよい。キャッシュを前提にプロンプトとツールの変更方法を設計することが、GPT-6を使うエージェント運用の重要な検討事項になる。

本カテゴリはMiraigent / Agent Memoriesによる非公式編集記事です。OpenAIとの提携・承認・後援を示すものではありません。