AI

AIの分野別能力を専用部分の削除で制限する学習手法

この記事のポイント

  1. 実現したこと

    実験用AIモデルで、学習後に専用モジュールを削除し、対応する分野の能力を選択的に制限できた。

  2. 実現の仕組み

    対象分野のテキストを学ぶ間は汎用部分の重みを固定し、その分野の追加ニューロン群だけを更新する。

  3. 得られた結果

    次のトークンを予測する評価では、対象データを最初から除く場合と同程度に能力を制限し、一般的な性能の低下は見られなかった。

  4. 従来との違い

    能力の組み合わせごとに別モデルを学習する方式に対し、1回の学習で4分野の有効・無効を16通りに構成できた。

明るい作業台の上に、層状のモデル本体と4つの色分けされた着脱モジュールが描かれている。3つは本体に装着され、1つは空いたスロットのそばに置かれている。
AI生成画像

AIモデルの分野別知識を専用部分へ集め、学習後にその部分を削除して能力を制限する手法GRAMが、実験でデータを最初から除く学習と同程度の効果を示した。評価は次のトークンの予測能力を対象とし、本番モデルへの適用ではない。

分野別データの学習先を追加ニューロンへ絞る

学習手法GRAMは、知識を保持する場所を学習段階で分ける。AE StudioがAnthropicと共同で実施した研究では、Transformerの各層にニューロンを追加し、善用と悪用の両方が可能な知識の分野ごとに、取り外せるモジュールとしてまとめた。

対象分野のテキストが入力されると、予測には汎用的な知識も使う一方、汎用部分の重みは一時的に固定する。更新を対応分野のモジュールに限ることで、そのテキストからの学習先を絞る。一般的なテキストでは通常の学習を行い、分野別モジュールも有効にする場合がある。

一度の学習から4分野を16通りに組み替える

学習先を分けたモジュールは、学習後に残すか削除するかを選べる。Anthropicによると、4分野を設けた実験では、それぞれの有効・無効を組み合わせ、1回の学習で得たモデルを16通りに構成できた。

この構成変更が、対象データを除いて別々に学習する場合とどこまで一致するかを、まず話題付きの子ども向け物語で調べた。小規模モデルの各構成は、対応する話題を除外して最初から学習した別モデルと、ほぼ同じ性能を示した。

混合データでも一般性能を保ちながら対象能力を制限

次の実験では、ウェブ文書、コード、科学論文を混ぜたデータで、より大きなモデルを学習した。対象はウイルス学、サイバーセキュリティ、核物理学と、専門的な両用コードの代用として選んだ利用者の少ないプログラミング言語の4分野で、それぞれに専用モジュールを割り当てた。

Anthropicによると、モジュールを削除すると、対応する能力は対象データを最初から学習しない場合と同程度に制限され、一般的な性能の低下は見られなかった。この評価が測ったのは次のトークンを予測する能力であり、実際の作業で危険な能力をどこまで抑えられるかを直接測った結果ではない。

追加学習への耐性を7つのモデル規模で調べる

制限した能力が少量の追加学習で戻るかどうかも比較した。Anthropicによると、悪意あるデータで能力回復を試みた実験で、GRAMは対象データを除外する学習と同程度の耐性を示した。一方、比較対象とした学習後のアンラーニング手法では、抑えた能力が少量の追加学習で回復した。

これらは予備的な研究結果で、GRAMはAnthropicの本番モデルには適用されていない。モデル規模を変えた実験は5000万から50億パラメーターまでの7段階で行われ、各規模でデータ除外と同等の性能を示した。規模が大きくなるほど、モジュールを有効にした場合と無効にした場合の性能差も広がった。