AI

本番ネットワークを操作するAIに、人の承認をコードで強制

この記事のポイント

  1. 実現したこと

    ネットワーク障害対応AIが装置の状態と直近の変更を突き合わせ、障害分類と要約の記入まで進める。

  2. 実現の仕組み

    人の権限内で、認可と呼び出し記録を備えた型付きツールを通して装置へアクセスする。

  3. 得られた結果

    Microsoftの実装では、本番環境を変更する操作が実行エンジンで止まり、人の承認を待つ。

  4. 従来との違い

    成功を重ねた推論経路は定型手順へ変換し、モデルを呼び出さずに実行する。

明るいネットワーク設備室で、診断完了を示す青緑色の箱が進む一方、変更を表す橙色の箱はサーバーラック前の遮断バーで止まり、人の手が承認ボタンに触れようとしている編集イラスト。
AI生成画像

ネットワーク障害の診断をAIが進めても、本番環境を変更する直前には実行基盤が処理を止める。Microsoftが構築した障害対応エージェントは、この承認待ちをコードで強制し、モデルが修正方法を判断する処理と、実際に操作を許可する処理を分けている。

装置の状態と変更履歴から障害を絞り込む

Microsoftによると、構築したネットワーク障害対応エージェントは、装置の状態を取得し、テレメトリーと直近の変更を突き合わせて障害を分類する。その結果を要約し、インシデントへ書き込むところまで処理する。

この一連の処理を動かす実行基盤は、主として決定的なワークフローで構成される。モデルによる処理は限定した工程に組み込み、スキーマで検証する。モデルの出力をそのまま自由な操作へつなげず、周囲のソフトウェアが実行経路を制御する構成だ。

呼び出した人の権限をツール操作の上限にする

実行経路から使える権限は、エージェントを呼び出した人の権限に制限する。サービス用の実行主体が必要な場合も、人とエージェントの権限のうち厳しい方を適用する。ツールごとのアクセス方針は担当チームが管理し、そのチームのレビューを必須とするプルリクエストを通して変更する。マージでアクセスを付与し、変更を取り消すと撤回する。

操作の入口は、単一の型付きツールインターフェースにまとめる。各ツールを個別に認可し、呼び出しを構造化して記録する。自由に操作できるシェルは与えず、コマンドラインを使う場合も、用途を限定したツールとしてこの入口の背後に置く。

本番環境の変更直前に実行エンジンが止める

認可されたツールであっても、本番環境を変更する操作には別の境界を設ける。Microsoftの実装では、診断は自動で進む一方、変更操作は人の承認を待つ。停止を強制するのは実行エンジンのコードであり、モデルへの指示文ではない。

承認待ちを省略する許可も、手順と操作の種類ごとに判断する。モデルの能力が高いことだけを理由に、この境界を通過させる扱いにはしない。

成功した推論経路をモデル不要の定型手順へ移す

Microsoftは、同じ推論経路が十分な回数成功すると、その経路を決定的なプレイブックへ変換しているとしている。プレイブックは対応を定型化した実行手順で、モデル呼び出しなしで動く。

この変換により、繰り返す対応を実行する経路から、その都度のモデル推論が外れる。成功した経路を再利用する段階では、生成された判断を毎回受け取る処理から、固定した手順を実行する処理へ移している。