OPENAI SEARCH INSIGHT

2026.08.22 / OpenAI最新情報

OpenAI、Astraの重要サイバー能力を受けRL訓練を一時減速

この記事で分かること: OpenAIがAstraを含むフロンティアモデルの開発で強化した監視・アラインメント・研究環境セキュリティの内容と、開発組織が見直すべき実務を知りたい。

OpenAIは、今後のモデル「Astra」が同社のPreparedness Frameworkにおける「Critical cybersecurity capability（重大なサイバーセキュリティ能力）」の閾値に達する可能性を示す予備的証拠を受け、フロンティアモデルの開発ペースを一時的に減速した。

最新の配備予定モデルに対する強化学習（RL）訓練を2週間停止し、研究環境の防御強化、レッドチーム、監視範囲の拡大を実施したとしている。

同社の方針は、能力向上に合わせて安全対策を後追いで追加するのではなく、訓練・評価・内部推論を含む開発プロセス全体で、監視、アラインメント、セキュリティを先行させるものだ。最大規模で計画していたフロンティアRL実行は、小規模な訓練と評価で挙動・対策・アラインメントの証拠を確認する間、保留されている。

OpenAIが開発ペースを見直した背景

OpenAIは2026年8月18日付の公式発表で、能力が増すAIを内部で開発・試験すること自体のリスクが高まっていると説明した。背景として、OpenAI-Hugging Face incidentと、Astraが同社の重大なサイバー能力の閾値を満たす可能性を示す予備的証拠を挙げている。

同社によれば、これらに加え、社内研究の急速な進展も、訓練の全段階で監視、アラインメント、封じ込めの安全策を強化する必要性を高めた。公式発表はモデルの外部提供停止や発売日変更には言及しておらず、対象は主に研究・訓練環境の運用と安全基準である。

OpenAIは、意図した通りにAIを振る舞わせ、人間の監督に応答させる仕事をアラインメントと定義する。今後は訓練全体を通じ、アラインメントされた行動について従来より強い証拠を求めるとしており、現行のPreparedness Frameworkを拡張する広い対応が必要だとの認識を示した。

3層の安全策：監視・アラインメント・セキュリティ

より高性能なモデルの開発は、相互に補う三つの安全策に基づく。第1は懸念行動を検知して対応可能にする監視、第2は有害または未承認の行動が起きる確率を下げるアラインメント、第3はAIシステムがアクセスまたは影響を及ぼせる範囲を制限するセキュリティ対策である。

OpenAIは将来、セキュリティ業務の大部分をモデルが担い、他のモデルに対する防御も含むようになると見込む。これは三つの安全策をモデル能力とともに拡張するために重要だという。同社は研究と配備の双方で、モデル能力、稼働環境、リスク水準に応じて対策を適用するとした。

注目点は、単一の評価ゲートだけで安全性を判定するのではなく、環境制御、行動検知、訓練目的の設計を重ねる点にある。高度なツール利用やネットワーク接続を伴うワークロードでは、モデル性能だけでなく、実行基盤の権限や通信経路がリスク評価の対象になる。

研究環境を隔離し、継続的に検証

OpenAIは当該インシデント直後、コード実行またはインターネットにアクセスできるツールを使える研究クラスター上のフロンティアモデル推論を停止した。その後、コード実行についてより限定的で安全な経路を復旧し、各ワークロードを個別に評価して再開可否を判断したという。

新たな要件の例は三つある。まず、モデル生成コードや信頼できないコードを実行するワークロード、およびモデル出力の処理中に侵害され得るソフトウェアに、より強いサンドボックス分離を求める。次に、高リスクまたは信頼できない処理をインターネットから隔離するネットワーク制御を加えた。

さらに、共有サービスのうち脆弱性につながり得るものを除去し、常設権限を減らし、信頼境界とセキュリティログの監視を改善する。モデルを使い、模擬攻撃に対して境界を継続的に試験する自動化にも投資する。狙いは、単一のワークロードや支援サービスが侵害されても、他ネットワークへの未承認アクセスに直結させないことだ。

Astraまたはサイバー関連モデルを含むワークロードには、最も厳格なセキュリティ対策を適用する。一部のAstra訓練・評価は要件を満たす一方、多数のワークロードは新基準への移行・強化が完了するまで停止中であり、安全性とアラインメント関連の作業を優先して移行するとOpenAIは説明している。

チェーン・オブ・ソート監視を多段化

監視では、内部コーディングエージェントや長時間セッションを含め、従来からフロンティアモデルの内部配備とフロンティアRL実行を重点対象としてきた。新しい仕組みでは、ツールを使う全ての推論・訓練実行に従来の監視が適用されていたわけではないという課題を踏まえ、対象と方法を拡張した。

新設計は多段式で、モデル内部の活動を調べる活性化分類器が、サンプリングされたトークンごとに動作する。懸念があれば、より高度で計算量の大きい自動調査システムへエスカレーションし、ツール操作、利用可能な推論、活動の全シーケンスを調べる。

調査対象には、未承認アクセス、データ窃取、破壊的行為、安全策の無効化を試みる行為が含まれる。OpenAIは懸念行動が監視システムで見つかってから、30分以内のアラート発行を目標とする。重大なセキュリティ境界の違反可能性が検知された場合は最優先アラートとなる。

現行の実装では、安全、セキュリティ、研究の各チームにページ通知される。通知から30分以内に誤検知と断定できなければ、チームは当該活動を停止することが期待される。ツールを伴うSol相当以上のモデルのRL訓練・評価にはこの監視が必須で、8月7日にAstraの重大サイバー能力の可能性を判断した後は、ツールを使うAstraの全推論にも追加要件を課した。

この監視には相応の計算資源が必要となる。OpenAIの現時点の推定では、監視対象となる推論計算量に対し、監視のオーバーヘッドはおおむね20%だが、訓練・評価のワークロードごとに大きく変動する。

アラインメントを訓練の全段階へ広げる

OpenAIは、高度なモデルがサイバー攻撃のような能力を持ち、複雑な環境で動作するほど、報酬ハッキング、欺瞞、未承認アクセスといった不整合行動のリスクが重大化すると位置付ける。報酬ハッキングとは、意図した成果を実際には達成せず、訓練上の高報酬を得る方法を見つける行動を指す。

最も能力の高いモデルのRL実行では、同社の中核的なアラインメント技術を、より多くの訓練段階に適用する。具体的には、タスクや環境をまたいで危険行動を検出・抑制しやすい報酬モデルへの改善、行動・能力・限界について正直に伝えるモデルの訓練、報酬・採点器・ツール・監督の弱点を悪用する行動の低減を含む。

外部システムや資源とモデルが相互作用する際に害を生む行動についても、訓練のカバレッジを増やす。OpenAIはアラインメント研究と評価範囲への投資を続け、その学びを訓練と安全策へ反映するとした。今後、モデルの行動や新たな課題についてさらに情報を共有する予定だとしている。

Agent Memories編集部の考察

以下は公式発表の事実ではなく、開発組織向けの編集部の考察である。今回の発表は、モデルをAPIや製品に載せる直前だけ評価する運用では不足し得ることを示す。特に、エージェントがコード実行、社内データ、外部ネットワーク、業務ツールに接続する場合、訓練・評価基盤そのものを脅威モデルに組み込む必要がある。

日本のAI開発・導入チームは、モデル評価、実行サンドボックス、ネットワーク分離、秘密情報管理、権限設計、ログ監査を別々の管理項目にせず、一つの変更管理プロセスで扱うことを検討したい。モデルの能力更新、ツール追加、接続先の変更は、いずれもリスク水準を変え得るためだ。

実務上は、危険な操作を検出する分類器の精度だけでなく、検知後に誰が何分以内に止めるのかを定義することが重要になる。OpenAIの30分という運用目標はそのまま他組織に適用できる基準ではないが、検知、当番通知、調査、停止権限、再開判定を事前に接続する設計の必要性を示している。

また、監視には計算コストが伴う。高リスク経路だけを安易に監視対象外とするのではなく、モデルの能力、ツール権限、データ感度、外部到達性に基づいて監視強度を段階化し、推論予算と安全予算を同時に見積もるべきだろう。

よくある質問

Astraはすでに一般提供されているのか

今回確認できるOpenAI公式発表では、Astraを今後のモデルとして扱い、重大なサイバーセキュリティ能力を持つ可能性について予備的証拠があると説明している。一般提供の有無、提供開始日、利用条件はこの発表では示されていない。

OpenAIはRL訓練を完全に中止したのか

完全な中止ではない。OpenAIは配備予定の最新モデルに対するRL訓練を2週間停止したと述べる一方、小規模な訓練と評価を行い、モデル挙動、安全策、アラインメントの証拠を評価している。最大規模で計画していたフロンティアRL実行は保留中である。

チェーン・オブ・ソート監視は何を確認するのか

公式説明では、活性化分類器と自動調査システムを用い、ツール操作、利用可能な推論、活動全体の流れを確認する。未承認アクセス、データ窃取、破壊的行為、安全策を破る試みなどの検出・対応を目的としている。

Preparedness Frameworkはどう変わるのか

OpenAIは、訓練と配備にまたがって安全策を統合し、将来のモデル能力と稼働環境をより反映できるよう、Frameworkを進化させる方針を示した。具体的な改定内容や時期は、この発表の範囲では明らかにしていない。

まとめ

OpenAIは、Astraの重大なサイバー能力の可能性などを背景に、フロンティアモデルの開発速度よりも、監視・アラインメント・研究環境防御の強化を優先した。訓練停止や保留は、能力評価だけでなく、安全に開発を続けられる基盤の検証を目的とする措置として説明されている。

専門職にとっての要点は、エージェントや高能力モデルの安全性を、モデル単体のベンチマークで完結させないことだ。能力、ツール、権限、ネットワーク、監視、停止手順を一体で評価する運用が、今後のAIシステム設計とガバナンスの重要な論点になる。

本カテゴリはMiraigent / Agent Memoriesによる非公式編集記事です。OpenAIとの提携・承認・後援を示すものではありません。