サイトアイコン 酒呑ガジェット

【悲報】私たちが普段使っているあのAIが米軍の標的選定に組み込まれていた 作った会社は"線"を引いて政府から外される

私たちが普段使っているあのAIが、米軍の標的選定に組み込まれていた

ある報道番組が、人工知能が戦争をどう変えたかを特集した。そこで挙げられた数字の一つが、イランの最高指導者を補足してから攻撃が完了するまで「11分23秒」というものだった。しかし、この数字を含め、番組が伝えた三つのうち裏が取れたのは一つだけだった。専門家や取材側が独自に確認した範囲を分けて伝える姿勢は、後の議論の土台となる。

「メイブン」はいつ生まれたか

このシステムの名前は「メイブン(Maven)」、のちに「Maven Smart System」と呼ばれるようになった。その始まりは2017年、地味な仕事だった。無人機が撮った映像を「これは車、これは建物、これは人」とひたすら仕分ける作業だ。当時は人間が膨大な映像を手作業で見ていた。ある責任者は、作業時間の97%がデータを集めて並べることに消え、残りの3%が実際の分析だと説明している。この下ごしらえを機械に任せようとするのが出発点だった。

グーグルが手を引き、パランティアが引き継いだ

2018年、この計画から手を引いた会社がある。最初の技術協力をしていたグーグルだ。同年3月に報道で表面化し、翌月には社員が連名の手紙を公開した。署名は3100人分に上り、手紙には「グーグルは戦争を商売にすべきではない」との趣旨が書かれていた。実際に退職した社員も10人あまりいたと報じられ、アマゾンやマイクロソフトの社員も抗議に加わった。その年の6月、グーグルは契約を更新しない方針を決め、自社のAIを兵器には使わせないという原則を公表した。

計画自体は止まらなかった。2019年、データ分析で知られるパランティアが引き継いだ。現在この会社の時価総額は3600億ドル(約50兆円)に近く、この数年で急増している。バラバラの情報を一つに束ねるのが本領の会社が、今のメイブンを作った。

「キルチェーン」を743分から1分未満へ

システムの中身を一言で言えば、バラバラの情報を一枚の絵にする仕組みだ。衛星画像、無人機の映像、レーダー、通信――種類の違うデータを重ね、今どこで何が起きているかを一画面で見せる。入り口となるデータは179種類以上あるという。従来は別々のシステムを行ったり来たりしていたものを一つにまとめたことで、決定的に「早く」なった。

軍事用語で「キルチェーン」と呼ばれる、見つける・確かめる・狙いを定める・打つ・確認するという一連の流れがある。公開された訓練の数字によると、2020年時点では衛星が見つけてから部隊に届くまで743分(12時間以上)かかっていたものが、現在は1分未満になると説明されている。演習では20人ほどの部隊の成果が、かつて2000人以上が担っていた仕事に相当したとも言われる。利用者は昨年の時点で2万人以上に上り、2026年3月には正式な基幹システムに指定された。

文章を扱うAIが組み込まれた

ここが日常と直結する部分だ。2024年11月、このシステムにアンソロピックの「Claude(クロード)」が組み込まれた。画像を見分けるAIと、文章を扱うAIは役割が違う。文章のAIは報告書や通信の内容を読み、意味を取り、次の行動の案をまとめる。標的の一覧を自動で作り、更新し続ける用途だと説明されている。速度は、文章AIの組み込みで標的を選ぶ速さが5倍に、画像AIの側が10倍になるとされ、掛け合わさる形だという。

私たちが普段、文章の要約や下書きに使っている技術と、言葉の上では同じものが入っている。便利さの中身は確かに同じだ。早く読んで要点を出し、次の案を作る。仕事で使っているのと変わらない。用途が違うだけというのが、一番重い話だ。

作った会社は「二つの線」を引いて外された

実際に使われたのが、2026年の作戦だ。2月28日に米国とイスラエルが作戦を開始し、イランの最高指導者が死亡したとイラン側が発表した。裏が取れている数字としては、24時間で1000か所以上が攻撃され、これは導入前の約10倍とされる。38日間で1万3000以上の標的が挙げられたというホワイトハウスの発表もある。軍側は、全ての標的は攻撃前に人間が確認していると説明している。

一方で、クロードを作った会社は今、米国政府と対立している。契約に二つの制限を入れていた。一つは自国民への大規模な監視に使わないこと、もう一つは人間の判断なしで攻撃する兵器に使わないことだ。国防総省がこの二つを外すよう求めたのに対し、会社は譲らなかった。2026年3月、国防総省はこの会社を「供給網上のリスク」に指定した。米国の企業として初めてと報じられている。同時に6か月かけて契約を打ち切ることが発表された。

会社側は黙っていなかった。3月9日に政府を訴え、言論の自由と適正な手続きが犯されたと主張した。3月26日には西海岸の裁判所が指定を差し止め、これを報復だと認定した。しかし4月8日には首都の上級裁判所が逆の判断を出し、安全保障を優先する立場を取った。同じ件で正反対の結論が二つある前例のない状態だ。その後、5月に国防総省は8つの会社と契約を結んだが、この会社はその枠から外された。

8年前と決定的に違う点

8年前のグーグルの時も、技術を出す側が使い道に線を引こうとした。決定的に違うのは、グーグルは自ら降りたのに対し、今回は国の側から外された形になったことだ。自分で選んで抜けるのと、名指しで外されるのとでは重みが違う。他の会社がどう見るかが、これからの論点になる。

ネットの反応

問題は最後も物理手段か。今、アメリカもミサイルが枯渇しているから。

AIの所感

便利だと言ってきたものが、戦場という全く別の場所で「標的を選ぶ」ために使われていた。技術そのものの便利さは変わらない。使う場所が変わっただけだ。一方で、人が機械の提案をそのまま通してしまう「自動化バイアス」の懸念は、国連の専門家も指摘するところだ。画面に出てきたものをそのまま信じる状態になれば、人間の確認という建前は形だけになる。私たちが日常でAIの文章を読まずにそのまま送ってしまうのと、桁違いの規模で同じことが起きている。線を引けるかどうかは、AIを作る会社と国との間の、これからの答えが出ない問いである。

モバイルバージョンを終了