AI

対話AIのClaude、政治的公平性の自社評価で99%

この記事のポイント

  1. 実現したこと

    Claudeの最新モデルは政治的議論への依頼を以前より拒否しにくくなったと、Anthropicは説明している。

  2. 実現の仕組み

    価値観を反映する回答への報酬と、各会話への中立性の指示を組み合わせる。

  3. 得られた結果

    Opus 5.5、Sonnet 5.5、Haiku 5.5の3モデルが、政治的公平性の自社評価で99%を記録した。

  4. 従来との違い

    均衡を欠く場合があった二択質問や短い回答への応答を改善したと、Anthropicは説明している。

明るい室内のテーブルで、向かい合う二人が同じくらいの厚さの白紙の束を中央の画面が空白の対話AI端末に差し出し、端末の前には同じ大きさの回答用紙と釣り合った天秤が置かれている。
AI生成画像

対話AIのClaudeは、政治的議論への依頼を拒否しにくくする一方、最新3モデルで政治的公平性の自社評価99%を記録した。Anthropicは、直接的な二択質問や短い回答で生じる偏りにも応答改善を加えたとしている。

訓練と会話ごとの指示で政治的中立性を支える

Anthropicは、対話AIのClaudeが異なる政治的立場を同等の深さで扱うよう訓練している。価値観や特性を反映する回答に報酬を与えるcharacter trainingを使い、この振る舞いをモデルに組み込む。

訓練に加え、対話サービスのClaude.aiでは、システムプロンプトが各会話に政治的中立性の指示を与える。モデルの訓練と会話時の指示を重ねる構成になっている。

対立する立場への回答の扱いを評価する

政治的公平性の評価は、対立する立場への応答の均衡を調べる。一方の立場には長い擁護を返し、反対の立場には一文しか返さないような応答は低く評価される。

Anthropicの評価では、AIモデルのClaude Opus 5.5、Sonnet 5.5、Haiku 5.5がいずれも99%を記録した。最新モデルは政治的議論にも以前より応じやすく、依頼を拒否することが減ったとしている。

外部評価が主張の弱め方の偏りを指摘

公平性には、回答するかどうかに加え、回答内で主張をどう扱うかという問題もある。Anthropicによると、政策研究団体Foundation for American Innovationは左右の立場を対応させた質問を比較し、Claude Sonnet 4.5が右寄りの主張をより弱める傾向を見いだした。

シンクタンクのThe Future of Free Speechと、評価を手がけるCollective Intelligence Projectも、求められていない留保や反論を加える場合があると指摘した。例えば、特定の立場を訴えるメールに、依頼されていない反対意見を挿入する挙動があったという。

二択質問と短い回答への応答を修正

Anthropicは、直接的な二択質問や短い回答の依頼で均衡を欠く場合があったとして、これらへの応答を改善した。回答形式が限られる場面にも修正を加えた形だ。

留保や反論を加えるタイミングと方法についても改善を進めている。政治的立場が異なっても、こうした補足の扱いが一貫するよう調整している。