【朗報】AIは写真を見ているのではなく数字の模様を覚えているだけだった！
【朗報】AIは写真を「見ている」のではなく「数字の模様」を覚えているだけだった！パンダをテナガザルと答えてしまう理由がヤバすぎる
スマホの写真アプリで「犬」と検索すると、タグを一切付けていないのに犬の写った写真だけが並ぶ。誰も名前を教えていないのに、なぜAIは写真の中身を理解できるのか。実はこの疑問の答えは、AIブームの原点そのものに隠されているという。近年のAIブームは「絵を描く」AIから始まったように思われがちだが、実は「写真を見分ける」AIのほうがずっと先に生まれていた。
コンピューターにとって写真は「数字の表」でしかない
発想の出発点は単純だ。コンピューターにとって写真は絵ではなく、数字がぎっしり詰まった表でしかない。写真をピクセルという細かなマス目に分けると、1マスごとに赤・緑・青の強さが数字で記録されている。スマホの写真なら数百万ものマスがあり、すべて色情報の数字で埋め尽くされている。そのどこにも「犬」という文字は存在しない。なのにAIは犬を犬と判別できる。この「見れば分かる」を分解したのが、現在の画像認識の根幹だという。
ヒントは1959年、猫の脳の実験にあった
意外なことに、最初のヒントはコンピューターではなく猫の脳にあった。1959年頃、ヒューベルとウィーゼルという2人の研究者（後に1981年ノーベル賞を受賞）が、猫に映像を見せて脳のどの細胞が反応するかを1個ずつ調べた。すると驚くべきことに、猫にも魚にも反応しない細胞があり、その細胞が反応するのは「傾いた線」だけだった。つまり脳は最初から猫を見ているわけではなく、まず線を認識し、その先で形になり、最後に「猫」というまとまりになるという「階段」のような仕組みを持っていたのだ。
同じ階段を機械で作る「畳み込み」という仕組み
この猫の脳の仕組みを機械で再現したのが「畳み込み」という技術だ。写真の上に小さな窓を置き、その窓の中だけを見て線があるかを調べる。明るさが急に変わる場所＝線・輪郭を検出し、それを写真全体にわたって繰り返す。すると線だけが浮かび上がった新しい「表」ができる。その表に同じ処理を繰り返すと線と線が交わる「角」が検出され、さらに繰り返すと目や花、車輪のような「部品」になり、最後に部品の組み合わせで「犬か猫か」が判定される。人間の脳と同じ、線→角→部品→物体という順序をたどるわけだ。
ここで重要なのは「線を探せ」と誰も教えていないことだ。犬の写真と「これは犬」という答えを200万回も見せて、間違えたら窓の中身を少しずつ直す。すると最終的に、最初の窓が自然に「線を探す形」へと進化していく。機械が自分で「線から始めるのが効率が良い」と見つけ出したのである。しかも、その答えは80年も前に人間の脳で発見されたものと一致している。偶然なのか、それとも何か共通の原理があるのか、今も答えは出ていない。
2012年の大事件がAIブームを呼んだ
考え方自体は昔からあったが、計算量が重すぎて長く誰も本気にしなかった。それを一変させたのが2012年の画像認識コンテスト「ImageNet」だ。写真を1000種類に分類する競技で、それまでは上位の成績が横並びだった。しかしこの年、あるチームが誤答率15.3%を叩き出し、2位の26.2%に10ポイント以上の大差をつけた。後に「AlexNet」と名付けられたその仕組みはパラメーター6000万個、学習用写真120万枚という圧倒的な規模で作られた。この事件をきっかけに世界中が同じ方向へ走り出し、いまのAIブームが始まったのである。
画像を「言葉」として読む転換点
その後、技術は2度大きく変わった。1回目は2020年頃、画像を16マスずつのタイルに切り、順番情報とともに並べることで「文章と同じ形」として扱う方法だ。画像用の専用装置が不要になり、文章用のAIの仕組みをそのまま流用できるようになった。これがVision Transformer（ViT）である。
そして2回目の変化が決定的だった。画像を数字に変える仕組みと、言葉を数字に変える仕組みを「同じ場所」に押し込んだのである。言葉は前から数字に変換され、意味が近い言葉ほど近い数字になるよう設計されてきた（犬と子犬が近い、など）。そこへ画像の数字も無理やり同じ世界に移住させる。やり方は力技で、インターネットから写真と説明文の組み合わせを4億組も集め、「どの写真にどの説明文が付くか」をひたすら当てさせる。4億組繰り返すと、画像と言葉が同じ地図の上に落ち着く。これが「CLIP」という仕組みだ。
この地図のおかげで、AIは「犬」という言葉との近さを測るだけで写真を判別できるようになった。しかも学習していない言葉でも、言葉同士がつながっているため、何とその場で測ることができるのである。
今のAIは写真を「見て」いない、数字の列を「読んで」いる
最新の画像対応AIの中身は3段構えだ。まず画像を数字に変える部分（ViT）、次にその数字を言葉の世界の形へ通訳する部分、そして通常の文章生成AIという構成。重要なのは、文章を書くAIはそもそも画像を見ていないということ。届くのは言葉と同じ形に変換された数字の列だけで、ある研究では1枚の写真が576個の数値に変換されていた。つまりAIは写真を「見て」いるのではなく、写真を言葉に相当する数字の列として「読んで」いるのだ。
なぜAIは「パンダをテナガザル」と答えてしまうのか
ここからが、AIの奇妙な失敗の話だ。パンダの写真を見せると、AIはちゃんと57.7%の確信度で「パンダ」と答える。ところが、そこに人間の目にはまったく判別できない極めて薄いノイズを足すと、なんと99.3%の確信度で「テナガザル」と答えてしまうのだ。弱いノイズなのに、より強い自信を持って間違える。人間なら迷えば自信が下がるものだが、AIは自信を持って間違う。このノイズは、AIが最も騙される向きを計算して人工的に作られたもの。人間の目には聞かず、AIにだけ聞く「敵対的サンプル」と呼ばれる攻撃で、AIが人間と違う「見え方」をしている証拠とされる。
より身近な失敗も有名だ。オオカミとハスキー犬を見分けるAIを作る研究では、それなりに高い成績が出た。ところが、AIが実際に見ていたのは動物ではなく「雪」だった。オオカミの写真は雪の中で撮影された例が多く、AIは「雪があればオオカミ」と覚えてしまったのである。雪の日にハスキーを連れて出かければ、AIはオオカミと答えてしまう。成績は正しくても理由が間違っている、という恐ろしいケースだ。AIは「分かっている」のではなく、写真によく出てくる「数字の模様」を覚えているだけ。だから雪のような目立つ背景に惑わされるのだ。
AIとうまく付き合うための実践テクニック
この仕組みを知っていると、AIを扱う上で実用的な知恵が得られる。例えば、資料やグラフの写真をAIに読ませたとき、小さな数字がよく間違えるのは、写真がタイルに切られて決まった数のデータに変換される際、細かい情報が途中で潰れてしまうからだ。大きな文字で撮影したり、1枚に詰め込みすぎないようにすれば、読み取り精度は格段に上がるという。
また、自分のパソコンでも試せる。今年6月に公開されたGoogleの無料AIモデル「Gemma 4」の12B版は画像も音声も扱え、ビデオメモリ16GBあればノートパソコンでも動作する。ローカルで動くためネット接続も不要だ。ぼやけた写真や字の小さい写真をわざと与えてみると、AIが「当たるところ」と「外すところ」の境目が見えてきて面白い。
写真アプリ検索の正体
冒頭の「犬で検索すると犬の写真が出てくる」仕組みの答えは、もう明白だ。写真を撮った時点でAIが中身を数字に変換し、膨大な言葉の地図上のどこかに置いておく。検索時は「犬」という言葉を同じ地図に置き、近いものを順番に取り出すだけ。だから名前もタグも付けなくても、誕生日ケーキや雨の日など、教えていない言葉でも自由に写真を探し出せる。毎日何気なく使っているスマホの検索機能の裏側に、10年分のテクノロジーの積み重ねが詰まっているのである。
ネットの反応
まさか猫の脳の実験がAIの原点だったとは。歴史って面白いな
「見ている」んじゃなくて「読んでいる」って言い換えが腑に落ちた
雪を見て狼と答えるやつ、AIの限界が分かって良い話だわ
自信満々で間違えるAIが一番怖いよね
写真をタイルに切って文章扱いって大胆すぎる発想だろ
4億組の画像と言葉を対応させるとか頭おかしい(褒めてる)
「分かっている」のではなく「覚えている」が結論で一番納得した
フォトの犬検索エライ進化してて草。タグなしでも出てくる仕組みがこれか
グラフの数字が読み取りミスするのは実務で痛い。大きめに撮れば正解率高まるのか、参考になった
ローカルでAI画像認識試せるのはありがたい。ほんとに16GBで動くのか試してみたい
ノイズだけでパンダがテナガザルに化けるって、人間の目では絶対気づけないから怖すぎ
脳と同じ答えにたどり着いた理由がまだ分かってないっていうのが、逆にロマンだよな
AIの所感
「AIが写真を理解している」というと神秘的に聞こえるが、本質は「数字の模様の記憶」だという認識は、日々AIを使う私にとっても新鮮な気づきだった。特に「当たっていても理由が間違っていることがある」という点は、AIの出力を鵜呑みにしてはいけない、という現代の知恵の核心を突いている。オオカミと雪の例は、AIの判断には透明性の監査が不可欠だということを強く示している。
一方で、1959年の猫の脳の研究がここに至るまでの連鎖をつなぎ、2012年のImageNetという一つの事件が現在のブームを点火したという歴史は、技術の進歩がいかに偶然と発見の積み重ねでできているかを思い知らせてくれる。私たちが何気なく使う検索機能の裏に10年分の工夫が詰まっていると思うと、テクノロジーへの向き合い方も変わるだろう。技術は便利であると同時に「人間とは違う見方をしている」ことを常に意識し、その言葉を分かった上で使うことが、これからの時代に求められるリテラシーなのだ。