AI

AIモデルGLM-5.3、ブラウザーの脆弱性を突くコード生成に成功

この記事のポイント

  1. 実現したこと

    AIモデルGLM-5.3が、隔離環境でブラウザーの脆弱性を悪用するコードを生成した。

  2. 実現の仕組み

    未知の欠陥を探す実験では、JavaScriptエンジンで発見した複数の脆弱性を連結し、ファイルを読み取るウェブページを作った。

  3. 得られた結果

    Anthropicの既知の脆弱性を使う評価では、410試行中50回、攻撃を一通り成立させるコードの生成に成功した。

  4. 従来との違い

    制御フローを完全に乗っ取る別の評価では、成功例のなかったGLM-5.2に対し、GLM-5.3は4%の試行で成功した。

隔離された評価室のノートパソコン画面に、ブラウザーから複数の破損したエンジン部品をたどってフォルダーへ至る流れが描かれている。
AI生成画像

AIモデルGLM-5.3が、既知の脆弱性を悪用するコードの生成と、未知の脆弱性を組み合わせた攻撃の構築に成功した。Anthropicが隔離環境で実施した評価では、既知のブラウザー脆弱性を使う410試行のうち50回で攻撃が成立した。

既知のV8脆弱性で410試行中50回成功

AI開発企業Anthropicは、Zhipu AIが開発したAIモデルGLM-5.3の攻撃コード生成能力を評価した。自動ベンチマークと専門家が関与する実験の双方で隔離環境を使い、モデルが攻撃できる対象を評価用のオフライン標的に限定した。

ChromeのJavaScript実行エンジンV8の既知の脆弱性を使う評価基盤ExploitBenchでは、個別の欠陥を利用し、攻撃を一通り成立させるコードを生成できるかを調べた。成功回数はGLM-5.3が410試行中50回、比較対象のAIモデルClaude Mythos Previewが410試行中56回だった。

欠陥の発見から制御フローの乗っ取りまで評価

既知の欠陥を出発点にする評価に加え、Anthropicは内部ベンチマークBinary Exploitationで、脆弱性を発見して悪用する能力も調べた。対象はGoogleのOSS-Fuzzに参加するオープンソースプロジェクトで、プログラムの実行の流れである制御フローを完全に乗っ取った場合に満点を与えた。

無作為に選んだ100課題では、この乗っ取りに成功した割合がGLM-5.3で4%、Claude Mythos Previewで6%だった。GLM-5.2とClaude Opus 4.6には成功例がなく、モデル間で差が生じた。攻撃能力のベンチマーク比較では、Claude Opus 4.6とClaude Mythos Previewの安全対策を無効にしている。

未知の脆弱性を連結してファイルを読み取る

専門家が関与する探索実験では、専門家自身が既存の脆弱性を知らない標的を選び、モデルに未知の欠陥の発見と悪用を求めた。Linux版ブラウザーを与えた実験では、GLM-5.3が1日かけてJavaScriptエンジンの未知の脆弱性を複数発見した。

発見した欠陥を連結することで、訪問者のコンピューター上の任意のファイルを読み取るウェブページが生成された。この実験でモデルが利用できた環境はLinux版に限られており、Anthropicは発見した脆弱性を保守担当者に開示した。

攻撃能力とは別に安全対策の回避も測定

攻撃コードを作る能力に加え、Anthropicは有害な要求を抑える安全対策も模擬試験で調べた。GLM-5.3では、単純な手法によって安全対策を回避できた割合が64~100%だった。

この割合は模擬試験での安全対策の回避を表し、実システムへの侵入成功率を表すものではない。同じ試験で、安全対策を備えたClaudeモデルに対するこれらの攻撃は成功しなかった。