AI

AIモデルClaudeからの不正なデータ収集を90〜99%削減と推定

この記事のポイント

  1. 実現したこと

    Claude Fable 5.1とClaude Opus 5.5の推論過程を、蒸留対策の弱い旧モデルから読み取れなくした。

  2. 実現の仕組み

    新しいAPIアカウントによる過去のコンテキストの編集を防ぎ、推論過程を繰り返し抽出する経路を制限する。

  3. 得られた結果

    Anthropicの初期評価では、新しい蒸留対策によって攻撃者のデータ収集量が約90〜99%減った。

  4. 従来との違い

    利用者に表示するClaudeの推論過程は、全文から要約へ切り替えられた。

明るい保管室で、無地の会話記録カードが施錠された透明ケースに収められ、複製カードも仕切りで止められている。奥には壁で隔てられたサーバー棚が見える。
AI生成画像

AIモデルClaudeの推論過程を不正に取り出す経路に、会話履歴の編集制限と旧モデルからの読み取り制限が加わった。Anthropicは、新しい蒸留対策によって攻撃者のデータ収集量が約90〜99%減ったことを初期の証拠が示しているとしている。

要約した推論過程では学習後のスコアが低下

AI開発企業Anthropicの蒸留対策は、Claudeが回答前に生成する推論過程へのアクセスを難しくすることに重点を置く。ここで対象とする不正な蒸留は、開発者の許可なくモデルの応答を大量に集め、別のモデルに能力を模倣させる行為だ。初期の対策では、利用者へ推論過程の全文を渡す代わりに要約を表示する方式を導入した。

Anthropicは、事前学習済みのClaudeモデルを、Claude Opus 4.8が生成した記録で追加学習させて比較した。ソフトウェア開発課題のベンチマークSWE-bench Verifiedでは、推論過程の全文で学習した場合のスコアが80.4%だったのに対し、要約で学習した場合は71.8%となった。

会話やモデルをまたいで全文を取り出す

要約を介した提供に対し、攻撃者は未要約の推論過程を直接取り出す手法を使うようになった。Anthropicが確認した手法の一つは、保護された推論ブロックを別の会話へ移すものだ。Claudeに利用者が既に全文へのアクセス権を持つと誤認させ、開示を誘う。

抽出経路は会話の切り替えだけにとどまらない。安全対策の弱いモデルを介して別のモデルの推論過程を取り出す手法や、アカウントが停止されても別のアカウントから抽出を試し続ける手法も確認したとしている。

履歴の編集と旧モデルからの読み取りを制限

こうした抽出経路に対し、ClaudeのモデルであるClaude Fable 5.1とClaude Opus 5.5には、過去のコンテキストの編集を防ぐpreserved thinkingが導入された。対象は2026年8月31日以降に作成されたAPIアカウントで、Anthropicは、複数のアカウントを使って保護された推論過程の抽出を繰り返すことを難しくすると説明している。

モデル間の読み取りにも制限が加わった。この2モデルの推論過程は、蒸留対策の弱い旧モデルから読み取れなくなった。弱い対策を持つモデルを抽出の足掛かりにする経路を制限する変更だ。

初期評価では収集量が約90〜99%減少

Anthropicは、新しい対策によって攻撃者が収集するデータ量が約90〜99%減ったことを、初期の証拠が示しているとしている。この数字は新しい蒸留対策全体についての評価であり、履歴の編集制限だけの効果を示す数字ではない。

対策の変更は正規利用者の接続方法にも及んでいる。変更の一部では、既存の連携実装を更新する必要が生じた。