Technology

AIが改修したエージェント基盤、長い会話の前処理を約4割短縮

この記事のポイント

  1. 実現したこと

    AIモデルGemini 4 Argonが一晩の自律作業で見つけた最適化が、エージェント開発基盤ADKの公式コードへ反映された。

  2. 実現の仕組み

    セッション全体のコピーをやめ、取得時に返すイベントだけをコピーして処理量を減らす。

  3. 得られた結果

    Googleの測定では、150ターン後のモデル要求までの前処理が200ミリ秒から122ミリ秒へ短縮した。

  4. 従来との違い

    ADKの読み込み時に先行していた認証やLLMフローなどの読み込みを、初回使用時へ移した。

明るい机の上で、長いセッションを表すイベントカードの束から一部だけがノートパソコン上へコピーされ、棚のモジュール用フォルダーが初回使用まで閉じている様子を描いた編集イラスト。
AI生成画像

AIエージェント開発基盤ADKで、会話履歴のコピー範囲とモジュールの読み込み時点が変わった。Googleによると、改修はGemini 4 Argonが生成したもので、長いセッションのモデル要求前処理を測る試験では約4割の時間短縮を示した。

既存アプリを保つ目標で一晩の自律改修

改修対象のAgent Development Kit(ADK)は、AIエージェントの構築、評価、配備に使うオープンソースのPythonフレームワークだ。Googleは、既存アプリを壊さずに基盤側の余分な処理時間を減らすという1段落の目標と、開発ルールをAIモデルGemini 4 Argonへ与えた。

Googleによると、モデルは開発環境Google Antigravityで一晩自律的に作業し、最適化を見つけた。その変更は、ADKの公式リポジトリへ反映されている。

会話履歴のコピーを返却するイベントへ絞る

メモリー上でセッションを管理するInMemorySessionServiceは、読み取りのたびにセッション全体を深くコピーしていた。改修後は、セッション取得処理のget_sessionで返すイベントだけをコピーし、一覧取得処理のlist_sessionsではイベントをコピーしない。コピー範囲の縮小に加え、EventとSessionの深いコピー処理自体も高速化した。

Googleの測定では、150ターン後の最初のモデル要求までの時間が200ミリ秒から122ミリ秒へ39%短縮した。これは、何も処理しないモデルと即座に戻るツールでADK側のオーバーヘッドだけを測り、ガベージコレクションを無効にした試験で、数値は6〜12回の中央値である。

認証や実行フローの読み込みを初回使用まで遅らせる

コピー処理と並ぶ変更は、ADKを読み込む際のモジュール読み込みだ。従来はOpenTelemetry、認証、ライブモードを含むLLMフローを先行して読み込んでいたが、改修後はそれぞれを初めて使う時点まで読み込みを遅らせる。

Googleが新しいプロセスで測定したADKの読み込み時間は、1.22秒から0.97秒へ21%短縮した。6〜12回の中央値で比較した結果であり、ここで測っているのはADKの読み込みに要する時間である。

158ターン全体は14%短縮、起動直後の要求はほぼ横ばい

改修はモデルへ送信する要求を変えず、基盤側の処理を変更している。Googleがモデルとツールの処理時間を除いた条件で測った158ターン全体の実行時間は、65.6秒から56.1秒へ14%短縮した。

一方、新しいプロセスの起動から最初のモデル要求までを含めると、時間は3.07秒から3.09秒となり、1%増えた。どちらも6〜12回の中央値であり、ADK単体の読み込み時間の短縮は、起動直後のモデル要求までの短縮にはつながっていない。