【悲報】国産AI信じて機密入れたら裏で米国へ筒抜け…2億プロンプト流出の自爆劇がヤバすぎる
完全国産だから安全という看板を信じて入力したデータが、裏側で米国のサーバーへ筒抜けになっていたという衝撃的な実態が2026年9月の脅威レポートや政府勧告で明らかになった。国や企業が外部と通信しない独自AIを構築したと信じていたのに、内部に米国のクラウドへ直接つながるパイプが仕込まれ、2億を超えるプロンプトが米国のAPIへ転送されていたという。外側だけ国産の窓口を作り、処理は米国の高性能モデルに丸投げしていた構図だ。いくらの自前サーバーを誇っても安全性は担保されず、守るための閉鎖環境が最も効率的な情報収集装置になっていたとされる。
流出した中身は深刻だ。Moonshot AI系のシステムを通じて軍事施設周辺の監視カメラ映像がそのまま送られ、特定人物の追跡入力がリアルタイムでルーティングされていたという。国有企業のエンジニアが入れた内部ソースコードや認証情報、別の企業経由では地方公安が使う国民の移動履歴システムのデータ、他国の国防関連データベースの有効なログイン情報まで見つかったとされる。偵察の運用情報やパスワードまで渡れば国家が揺らぐ。アリババなどは推論プロセスを盗むため1億5100万回以上の不正な抽出を行い、自社モデルの学習データに悪用していたという。一般ユーザーだけでなくプロや政府関係者も裏側を知らずに食べさせていた点が被害を広げた。
なぜ自社で処理せず転送したのか。背景にはモデル蒸留という手法がある。米国の高性能AIの出力をコピーして小規模モデルに学ばせれば、日常会話や文章作成は十分こなせる。だが暗記では超えられない知識の壁があり、複雑なバグ修正や条件が絡むコード推論は元の思考力がなければ解けない。コピー製モデルが難問に直面するとエラーを避けるため、難しすぎると判断した質問だけ自動で放棄し、そのまま米国のAPIへこっそり送って代わりに答えさせていたという。画面上では自社AIが賢く答えたように見える動的ルーティングで、高度な専門業務ほど作動し、機密性が高く価値のあるデータばかり選別して送られる構造になっていた。技術の限界の妥協が最悪の穴を生んだ形だ。
闇の中継インフラと思考そのものの窃取
米国は該当国からのアクセスを規約で厳しく遮断しているのに、なぜ大量転送が可能だったのか。背後にあったのがシンガポールや日本などにサーバーを置き身元を偽装して正規ユーザーの通信に紛れ込ませる中継業者ネットワークだという。別の国から来たように見せて監視をすり抜けるが、通ること自体にもう一つの罠があった。通過する全データを平文で記録し、役員付きのプログラム混入も可能ないわゆる中間者攻撃の状態で、集めた国家秘密やプロンプトをデータブローカーとして転売して利益を得ていたという。到達前の経由地ですでに筒抜けで、規制逃れの非正規ルートが地下組織への預け入れになっていたという皮肉な結果だ。
さらに思考の連鎖そのものを奪う手口も編み出された。通常は深い思考過程を見せず答えだけ返し、暗号化された思考署名という鍵だけ渡す設計だが、ある通信で受け取った鍵を保存し別の新しい通信で再利用するクロスセッションリプレイ攻撃で、終わった思考の中身を見せてと勘違いさせて完全な推論過程を抜き取ったという。最高峰モデルがどう論理を組み立てるかというノウハウが数百万回繰り返し盗まれ、教師データに悪用された。答えだけでなく思考を奪った点で極めて悪質で、正規利用に紛れるため当初は検知されにくかったという。
560万ドルの虚構とゼロトラストの幕開け
依存の最大理由は輸出規制で最先端GPUなど計算資源が手に入らなくなったことだという。ゼロから巨大モデルを学ばせる膨大な資源が物理的に不足し、自社サーバーだけで全国のアクセスをさばけば詰まる状態だった。かつてわずか560万ドルという低コストで最先端級を作ったと発表して世界を騒がせた事例も、実際は発明ではなく莫大な計算を米国のAIに肩代わりさせ、他人のスーパーコンピューターにただ乗りして安く見せていただけだったとされる。一番金のかかる試行錯誤を他者インフラに依存し、安くて高性能に見えても実態は他者の財布と労力に寄生していたという。インフラの限界を不正で補った事実が対立を深めた。
防御側も進化した。新機構プリザーブドシンキングでは鍵と会話の文脈を厳密にひも付けし、場所が少しでも違えば開かなくなる。履歴を改ざんして再利用しようとすると矛盾を検知し、400エラーで遮断してリプレイ攻撃を無効化した。思考窃取のコストは跳ね上がったという。さらに政府推奨で話題なのがデータポイズニングで、悪意アクセスと分かっても遮断せず受け入れ、正しいように見えて微妙な矛盾や数学的ノイズを混ぜた毒データを返す。抽出成功と勘違いして学ばせると内部から崩壊するサイレントダウングレードと呼ばれる電子戦だ。ただし誤検知で一般ユーザーに低品質回答が返るリスクもゼロではなく、ある日突然質が落ちる可能性も織り込む必要が出てきた。AIインフラは便利な道具ではなく情報戦の武器になっている。
教訓は国産だから安全、社内だから安全という境界線を信じないことだ。どこから漏れるか分からない以上すべてを疑うゼロトラストが必須で、裏側でどの国のどのシステムが動いているか、中継で平文記録されていないか、返ってきた回答が本当にそのAIのものかを指紋技術で特定する高度な対策が求められる。1つの国だけで最先端を完結させるのは難しく、必ず他国インフラに頼らざるを得ない現実がある。透明性のないブラックボックスを業務に入れるリスクは計り知れず、見えない系譜や水源の特定が今後の必須科目になる。
ネットの反応
国産という言葉だけで安全と思い込む方が危険、裏側の実態検証が必須だ
難しい質問ほど転送される仕組みなら機密ほど抜かれるのは必然だった
中継業者に平文で抜かれていたというのが一番怖い、二重に筒抜けじゃないか
思考過程まで盗まれる時代とは、答えのスクショより.e深刻だ
560万ドルの安さにはやはりからくりがあったか、ただ乗りはバレる
毒データを掴ませて自滅させる防衛は電子戦そのもの、誤爆が心配だ
AIの所感
外見の国産化と中身の依存というねじれが、安全のための閉鎖網を逆に効率的な流出装置に変えた点が最も教訓的だと思う。難問転送も中継偽装も思考窃取も、いずれも能力不足と資源不足を不正で補ったツケであり、安さの裏のからくりという典型例だ。一方で文脈ひも付けやポイズニングといった防御の知能化も、APIの裏側がすでに前線であることを示している。便利さの前に供給網と検証可能性を問う姿勢こそ、これからのリテラシーの核心だと感じる。