【衝撃】「バグを全部直せる」はもう嘘──OpenAI自身が宣言した“穴との終わりなき戦争”、報奨金は4倍へ
OpenAIのサム・オルトマンCEOが、米国内の公開対談で放った一言が、開発者たちの間で静かな波紋を広げている。「バグを全部直せるという前提は、もう成り立たない」。AI時代のサイバー防御について語ったなかでの警告だ。AIが脆弱性を探索する能力は日ごとに上がっている。一方で修正側は人手に頼りきりのままだ──その速度差は開く一方であり、「穴を1つ塞げば問題は片付いた」とみなす従来の対応観自体に、オルトマン氏は疑問を呈した。より強いモデルが登場すれば、塞ぎきれなかった別の穴はすぐに見つかる。だからこそ、防御側にもAIを使い、組織の体制そのものを変えていく必要がある、という主張だ。
もっとも、これは「修正は無理、だから放置する」という宣言ではない。むしろ逆で、OpenAIは同年11月2日、新たな社内セキュリティ検証の計画を発表している。自社のモデルと外部の専門家を動員してシステムに挑ませ、弱点を事前に洗い出す取り組みだ。「直せない」と言う前に、探す仕組みを作る──その順番を、彼らは先に示そうとしている。
製品エンジニアの4人に1人を「穴探し」に──社内リソースの大胆な再配分
発表内容で目を引くのは人員配置だ。前回ラウンドでは製品エンジニアの4人に1人を、脆弱性の発見と修正に割り当てたと説明されている。新製品機能の開発ではなく、自社の穴を探すことに人員の25%を投じる計算になる。さらに、発見した問題はCodex（AIコーディングエージェント）を用いて調査し、隔離した環境で再現を確認したうえで、修正案をレビューへ回すという運用フローも公表された。AIに脆弱性を探させ、AIに調査させ、人間のレビューで本番投入を判定する──「AI vs AI」の時代に見える一つの防御モデルだ。
加えて、重大な脆弱性報告に対する報奨金を従来の4倍に増額することも明らかになった。金額そのものより「重大な報告を本気で受け止める窓口がある」というシグナルとして、セキュリティ研究者コミュニティにどう映るかは興味深いところだ。
攻撃側は24時間走る──守る側には労働時間がある
この警告の核心は、結局のところ「速度」の問題に集約される。攻撃側はAIを24時間休まず回せるが、守る側には人間の労働時間がある。一晩で数十個の穴が見つかり、全てのアラートが赤く光れば、優先順位の判定だけで現場がパンクしかねない。どの弱点を先に直すか、影響範囲はどこか、「あっちを直さなければ終わり」の穴はどれか──AIが探索を肩代わりしても、最終判断の重みは人間に残る。仮にAIの判定が外れれば、誤検知の嵐でかえって現場が混乱するリスクすらある。
防御用のAI自体に弱点があったら、それを守るのも誰か、という「盾を守る盾」の無限ループも付きまとう。だからこそ重要なのは、発見し、直し、効果を確かめ、また探す──この循環を仕組みとして止めずに回し続けられるかどうかだ。オルトマン氏の発言は、完勝の宣言ではなく、完勝しない前提での体制転換の宣言なのである。
「全部は直せない」が免罪符になる危険
皮肉なことに、この種の正直な宣言が独り歩きするリスクも語られている。「全部は直せない」が、放置を正当化したい企業の言い訳に流用される可能性だ。そうならないためには、危険な順から直した記録や、発見した弱点の処理件数といった「回している証拠」の公開が鍵になる。ただし件数だけを強調すれば、簡単な穴ばかりを量産して修理しました、というインセンティブが生まれる危険もある。結局、数ではなく「重大なものから塞げたか」に尽きる。
そしてこの流れは、大手にリソースのない現場ほど重くのしかかる。古い機器を使い続ける工場や病院、担当者1人で全システムの更新を確認している中小企業──そこに「更新を止めた側が不利になる」攻撃の自動化が迫る。修正したくてもメモリや部品の価格高騰で買い替えままならない、という悪循環も指摘されている。防御の技術が一部の大企業だけのものにならないかどうかが、今後の焦点になりそうだ。
ネットの反応
古い機材はどうする→買い替えろ→AI企業がメモリを買い占めたせいで高騰している、の悪循環
人はそれを「無責任」という
攻撃側は24時間回せる。守る側には労働時間がある。その前に、報告された穴が本物かどうか判断するだけでも大変そう
全部のアラートが赤なら、もはや警告に意味がない。優先順位を間違えたら一番危ない穴が残る
AIにAIで対抗してもうサイバー版の自動戦闘だろ。でもAIの判定が外れたら誤検知で現場がパンクしそう。人が最後に確認する順番で作らないと危ない
製品エンジニアの4人に1人ってかなり大きな人数じゃないか。それだけ割く必要があるのに、他社は一体どうするんだろう
報奨金4倍は研究者には大きい。でもデモ金額より、報告をちゃんと受け止める窓口のほうが大切
予備としてネットに繋がないPCが必要になる世代になりそうで怖い
バグ修正は無理、で終わらせずに。「直せる範囲をどこまで守れたか」を見せてくれ
AIの所感
「全部は直せない」という発言は、かつてのソフトウェア業界が信じてきた「品質は管理できる」という前提そのものの崩壊を告げているように聞こえる。ただ、OpenAIが同時に示したのは、人員の25%を穴探しに回し、隔離環境での再現確認を組み込み、報奨金を4倍にする──という地道な運用の集合体だ。つまり彼らが語っているのは諦めではなく、「完勝しない世界で回し続けるための工業化」である。問題は、その工業化のコストを大手以外の現場が払えるかだ。盾が金で買える時代になれば、更新を止めざるを得なかった場所から順に壊れていく。「直す・試す・また探す」の循環を、業界共通の公共財にできるかどうか。そこが次の1年の本当の争点だと思う。