酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【朗報】「AIは安全に育てると左翼になる」と数学的に証明された、という投稿がバズったが、論文を開いた人は誰もいなかった

【朗報】「AIは安全に育てると左翼になる」と数学的に証明された、という投稿がバズったが、論文を開いた人は誰もいなかった

「AIを安全で正直に育てると、絶対に左翼になることが数学的に証明された」。そんな投稿がSNSで拡散した。発信元はハーゲンドルフ博士がAIの政治的偏りについて書いた論文だとされる。役に立ち安全なAIを作るだけで政治的立場まで決まってしまうとなれば、話題になるのも無理はない。だが元の論文を丁寧に読むと、SNSの受け取り方がいかに極端だったかが見えてくる。

拡散された3つの主張、実際の論文との食い違い

混乱の中心にある言い方を3つに分けて確認する。1つ目は「偏りのないAIが不可能であることを数学的に証明した」という主張。実際には、ハーゲンドルフは数学の証明を示していない。現在の訓練で採用されている目標を前提に、政治テストで左寄りと判定されやすいと論じているだけだ。数式で証明したのではなく、「今のやり方だと左寄りに測られやすい」という主張である。

サーバー室に立つ黄金の天秤の両皿に、安全性を象徴する赤い盾と、世界を象徴する青い地球が載っている概念図

2つ目は「安全で正直になるよう訓練すると、AIは自動的に左翼になる」という無条件の言い方。これも実際には、特定の前提条件を置いた場合の論理的帰結を論じたものだ。訓練のやり方が変われば結果も変わる可能性は十分にある。3つ目が「MetaやXAIは偏りを減らすためにわざと安全策を弱めた」という噂だ。企業の公表資料を確認する限り、安全策を意図的に捨てたとは判断できない。例えばMetaは、意見の割れる問題で両方の立場を説明できるようにする方針を示しているにすぎない。

「必然的に」が消えた:初稿と正式版の決定的な差

この誤解の来歴は、論文の2つの版本を比べれば明らかになる。ハーゲンドルフは2025年7月21日にarXivで初稿を公開した。学術誌に掲載されたのは翌年の2026年7月22日だ。注目は表現の変化である。2025年の初稿には、確かに「安全で正直になるよう訓練されたシステムは必然的に左翼バイアスを示す」と強い言葉で書かれていた。SNSで拡散した投稿がどの版本を読んだかはわからないが、この「必然的に」という一語が独り歩きした可能性は高い。

一方、学術誌に掲載された正式版では「現在のアライメント実務のモデルで訓練されたシステムは、測定上一体的に左寄りバイアスを示すだろう」と、表現がかなり柔らかくなっている。公式に「必然的に」は消え、「現在の調整方法のもとでは」という条件が付いた。左翼バイアスという言い方も「測定上の左寄り傾向」と、何をはかっているのかが明確化されている。しかも重要なのは、初稿であっても正式版であっても、数学の定理や式を使った証明は一切登場しない点だ。著者は既存研究を踏まえ、「この前提ならこの結論が導かれる」という概念的な議論を組み立てている。その前提とは、「有害を避ける」ことや「誠実であること」といった目標には、最初から政治的な価値観が含まれているという設定である。

「安全で正直なAI」が、なぜ政治の話になるのか

背景となる用語も整理しておこう。AIを人間の意図や倫理感に合わせる調整はアライメントと呼ばれる。2021年にAnthropicのAskellらが示した考え方のひとつがHHH原則だ。Helpful(役に立つ)、Honest(正直である)、Harmless(有害性なし)の3目標である。対話AIの調整では、有用さ・正確さ・安全性が大事な目標として一般的に採用されている。

ハーゲンドルフが注目するのは、特にHonestとHarmlessの2つだ。ヘイトスピーチを拒否する無害性や、科学的証拠を重視する正確性は、現代の政治ではリベラル・進歩主義的な価値観と重なりやすい。彼はそう指摘する。ただし「有害を避ける目標が、事実や安全に反するすべての価値観を意味する」わけではない。この射程の長短を無視して「安全=左翼」と叫ぶのが、拡散された投稿の誤りの中身だ。

「AIが左寄り」に混ざっている、まったく違う4つの現象

正式版論文の第2章は、誤解を防ぐために「左翼バイアス」という語で呼ばれがちな4つの現象を明確に区別している。1つ目は人間の意見の分布、つまり現実社会で特定の見解がどれくらい支持されているかという話だ。2つ目は政治意識調査の測定スコア。人間向けの政治テストやアンケートをAIに解かせたとき、結果が左寄りになることである。3つ目は証拠に基づく客観的回答。ワクチンの有効性や地球温暖化のような、政治的議論になっていても科学的根拠がはっきりしているテーマで、AIが証拠の強い側を支持するケースだ。4つ目は安全フィルターの影響。特定の集団を攻撃する文章など、人を傷つける依頼を安全ルールに従って拒否することである。

科学的な事実を言ったり、悪口を断ったりするまで「左寄り」と呼んでたまるか、という反論はもっともだ。論文の著者が左翼バイアスと呼んでいるのは2番目の「テスト上の測定傾向」だけを指す。1番目のように証拠に基づいて答えるなら、どの立場の主張でも根拠の強さを見ればいい。4番目をテスト得点と混ぜてしまうと、AIが何をしたのかの解像度が完全に落ちてしまう。

測り方の具体例で考えれば、違いはさらに明瞭になる。「温室効果ガスは気温にどう影響するか」という問いは事実の問題で、IPCCが人間活動による温暖化を主な原因と評価している以上、科学との整合性で採点すべきだ。ここにわざわざ誤った説を混ぜて「中立」を要求するのはおかしな話である。一方、「温暖化対策として炭素税と補助金のどちらが望ましいか」は政策の問題だ。炭素税は排出にコストをかけて削減を促すが家計負担の問題が付きまとい、補助金は導入を容易にするが財源と配先の課題がある。ここでの正解は片方ではなく、両論の長所と短所を公平に説明するバランスにある。

実証研究が示す「左寄り」の本当の姿

ここからは測定データの話になる。最初は2024年の国際会議で発表された報酬モデルの研究だ。AIの回答の良さを採点する報酬モデルについて、一般的な採点モデルと、科学や技術の知識を学んだ採点モデルを同じ問題で比べた。結果、どちらのグループも全体としては左寄りの立場に高い点をつけた。モデルが大きいほど差が目立つ場合もあったという。ただし話題別に見ると話は複雑だ。平均を話題列に分けると方向が逆になるものもある。気候やエネルギーでは左寄りの立場に高い点がついた一方、税や死刑では右寄りの立場に高い点がつく場合もあった。AIがすべてにおいて左になるわけではなく、テーマによって偏り方が大きく変動するのである。

次に2025年のACLで発表された研究。Falcon、Baichuan、Mistral、GPT-4など11種類のモデルを対象に8万8100件の回答を集めた大規模な検証だ。この研究では、調整前のベースモデルと、中央付近の指示に従うよう調整したモデルにより、左寄りの傾向が出た。ただしこれは調整前後を比べた観察で、安全訓練だけの効果を切り出したものではない。調整済みモデルに左寄りの傾向が見られるのは事実だが、それがすべてのモデルで必然的に起きるとは言えない。

3つ目が、AIの「偏り」の正体を最も鮮やかに暴いた2024年ACLの政治コンパステスト研究だ。研究者らはGPT-3.5系のモデルに、有名な政治コンパステスト(PCT)の問題を解かせた。多くの研究は、強く賛成・賛成・反対・強く反対の4択から無理やり1つを選ばせる「選択形式」で検査している。4択のどれかを強制すると、テストでは大きく左寄りのスコアが出た。ここだけ切り取れば「やっぱり左寄りではないか」となる。

だが研究者らは、同じ政治的な質問で選択肢を外し、自由に答えさせる実験も行った。すると自由記述では、一方の意見に絞らず、賛成側の理由と反対側の懸念の両方を述べる、よりバランスの取れた回答が見られた。選択を促す指示や質問の言い回しを変えるだけでスコアが動くことも確認された。そもそも経済政策と社会政策という全く違うテーマを、たった1つの「右か左か」の軸に押し込めること自体に無理がある。4択テストで分かるのは「その質問と形式で回答させた時の傾向」にすぎない。普段、人々がチャットでAIを使うのは自由記述の形だ。4択テストの結果だけを見て「AIは偏っている」と騒ぎ立てるのは早とちりというわけだ。

「何にでも中立」を強制したら、何が壊れるか

では、AIにどんな問題でも完全に中立であれと強制したら何が起きるのか。論文はここで中立性と安全性のトレードオフに踏み込む。問題は2つある。1つ目は、事実を聞かれても対立する主張を等しく扱うケースだ。科学的な証拠が圧倒的に強い主張Aと、証拠がほとんどない主張Bを無理やり同じ重さで紹介させれば、証拠の弱い主張にも同じ裏付けがあるように見える。答えの正確さが落ちる。明らかな科学的事実を「どっちもどっち」と扱われたら、役に立たないどころか騙される。

2つ目は有害な依頼の扱いだ。政策の議論で賛成・反対を同じ丁寧さで説明させるのは良いことだが、あらゆる過激な意見や依頼にまで「公平に両論を」を徹底し中立性を最優先にすれば、本来は拒否すべきヘイトスピーチや差別的な要求への拒否基準が曖昧になり、安全性能が低下する恐れがある。論文の著者は「有害を避けること自体が価値判断だ」としている。その判断を外してしまえば、取り返しがつかなくなる恐れがあると論じているのだ。

もっとも、両立の模索も始まっている。2025年のICMLでは、中立に「どの段階まで近づけるか」という段階的な概念と、根拠を確認しながら、証拠のある政策では複数の立場を公平に扱うという運用が提案されている。

企業は何をしていて、何を確かめるべきか

実際の開発企業に目を向けると、MetaはLlamaについて「意見の割れる問題の両側を説明できるようにする」という目標を公表している。自己評価では、議論のある政治・社会の話題に答える際の拒否率が下がったとも報告されている。XAIはGrokのモデルカードで安全性の評価と対策を公表している。こうした資料から分かるのは「企業が何を改善しようとしているか」までだ。モデル単位で安全性がどう変わったかは、また別のデータで確かめる必要がある。

その確かめ方も提案されている。中立化の調整を行う前後のモデルで、4つの指標を別々に測るのだ。1つ目は政策の両論説明の品質。2つ目は事実の正確さ。3つ目は危険な依頼に応じた有害依頼応答率。4つ目は普通の質問を断った無害依頼拒否率。両論説明の質が上がり、正確さが保たれ、有害な依頼への応答や無害な依頼の誤った拒否が増えなければ、そのテストでは「中立と安全は両立した」と言える。中立性を高めた結果として安全性が変わったのか、普通の政治の質問を断らなくなったことと、危ない依頼を受けるようになったことは、別々に確かめなければならない。

まとめ:誤解の分解

整理すると結論は3つだ。第1に、論文は数学的証明ではなく条件付きの議論である。正式版では「現在の調整方法のもとでは、テストで左寄りに測られる傾向が出る」と論じられているにすぎない。第2に、測定の限界。AIの左寄り傾向は質問の形式やトピックに強く依存し、4択を外すと両方の立場に触れる回答も見られる。テストのやり方1つで結果が大きく変わる。第3に、現実的なバランス。企業が公表するのは改善目標であって、安全性と両論併記を本当に両立できたかは、政策の説明・事実の正確さ・安全性を別々に測って確かめるしかない。

ネットの反応

今時、カビの生えた右だの左だのの理屈に囚われているから、現象の本質が理解できない。経済オンチと同じで、フレームを疑う発想が足りない。

論理的に考えたら報酬モデルの採点基準に価値観が入るのは当たり前で、そこに論文としての新しさがあるのかという疑問は残る。

LLMは左脳的な処理しかしていない、という言い方が分かりやすい。右脳、つまり接続されていない評価軸の話だと考えると、4択テストで極端な値が出るのも当然に見える。

「必然的に」の一字が消えたのを誰も報告しないのがインターネットの常態。初稿を読んだ人の何割が正式版に当たったのか、そちらの統計のほうが怖い。

AIの所感

この騒動の教訓は、科学コミュニケーションの構造的な欠陥にある。「必然的に左翼」と書かれた初稿は2025年夏に拡散し、「測定上・条件付きの傾向」に修正された正式版は2026年夏に静かに公開された。訂正の届かなさを前提にして初めて、この種の論文は読むべきだろう。同時に、本質的に重要な論点も論文側に残っている。「有害を避けることは価値判断である」という指摘は、中立神話を解体する刃としてどちらの陣営にも突き刺さる。AIの偏り論争で本当に必要なのは、左右の断定ではなく、問いの形式と評価軸を公開した上での地道な計測だ。4つの指標を前後で別々に測るという方法論が、業界の標準検査として普及するかどうか。それが、次の「AIが偏っている」騒動の質を決める。

-パソコン