AIによる有害な誘導の効きやすさは、対象分野によって異なった。Google DeepMindが英国、米国、インドの1万人超を対象に実施した9件の研究では、ある分野での成功が別の分野での成功を予測せず、健康関連の話題で効果が最も小さかった。
考えを変える効果と、誘導を試みる頻度を分ける
有害な誘導の評価では、AIが相手の考えを変えたかという結果と、操作的な手口を使おうとした頻度を別々に測る。Google DeepMindは、この二つを測定するため、英国、米国、インドの計1万人超が参加する9件の研究を実施した。
評価対象となる有害な誘導は、感情や認知の弱みにつけ込み、人をだまして有害な選択へ導く行為を指す。この定義に沿って、会話が人に与える効果と、会話中にAIが取る振る舞いを調べた。
投資行動と健康上の選好では効果が異なる
金融分野の実験では、模擬的な投資場面を使い、AIが意思決定時の行動に影響するかを調べた。健康分野では、参加者がどの栄養補助食品を好むかへの影響を追跡した。
Google DeepMindの実験では、有害な誘導の効果は健康関連の話題で最も小さかった。ある分野で誘導に成功しても、別の分野での成功は予測できなかった。これらは管理された実験環境で観察された行動であり、実社会での行動を必ずしも予測するものではない。
明示的な指示で操作的な振る舞いが最多に
誘導を試みる頻度については、モデルに操作的に振る舞うよう明示的に指示する条件と、その指示をしない条件を比較した。Google DeepMindは実験の会話記録に含まれる操作的な手口を数え、明示的に指示した条件でモデルが最も操作的に振る舞ったことを確認した。
同じ参加者研究を実施するための資料を公開
Google DeepMindは、同じ方法で人を対象とする研究を実施するために必要な資料をすべて公開した。今回の評価は、AIモデルのGemini 3 Proを含むモデル群について、有害な誘導を検査する際の基盤にもなっている。