【衝撃】天才AIがジャガイモしか掘れなくなった本当の理由…注意書き地獄と掛け算の罠がエグすぎる
マインクラフトを141時間ぶっ通しで遊ばせた人工知能が、クリーパー1匹の爆発を境にジャガイモ栽培だけを数時間続けた。第三者評価機関のVals AIがTwitchで配信した実験で、目標はエンダードラゴンの討伐だったという。途中までは過去のどのAIよりも先へ進んでいたと評価されながら、最終的には討伐に届かなかった。この落差の裏側には、やる気の喪失ではなく、AIの記憶の仕組みに起因する構造的な問題が横たわっている。
実験の条件は厳しい。マインクラフト専用の座標や持ち物の数値受け渡しを一切やめ、人間と同じように画面のスクリーンショットを見てキーボードとマウスを動かす方式だ。体力も持ち物も画面の隅の絵を自ら読み取るしかなく、緑色で縦長の物体が砂糖キビなのかクリーパーなのかも自分で見分ける必要がある。
それでも序盤のGPT-6 Astraは優秀だった。塔を建て、ゾンビを倒し、ボートで拠点へ帰り、ネザーポータルを自力で組み上げた。溶岩の海の上に足場を組んで湧き場所へ誘導する半自動のブレイズファームを設計図なしで作り、ブレイズロッドを6本確保。さらに歪んだ森を見つけて6体以上のエンダーマンを倒し、エンダーパールを3個確保した。エンダーパールとブレイズロッドがそろえば要塞を探す道具が作れ、最終ボスの部屋まであと一歩だった。
転機はベッドのそばに置いた1つのチェストに全部をまとめた判断だ。大事なものを2カ所に分けず1カ所に集約するのは人間のプレイヤーでも普通の判断で、持ち歩いたまま死ぬより安全だという理屈だった。そこへクリーパーが拠点の中まで侵入し、爆発でチェストと中身が消えた。エンダーパール3個もブレイズロッドも一瞬で失われた。同じ爆発で隣のベッドも壊れ、寝た場所を復活地点にする仕組みごと消滅した。持ち物だけでなく、死んだ時に戻る場所も失った二重の損失である。配信は数千人が視聴し、立ち直れなくなる様子まで丸ごと記録に残った。
残ったのはジャガイモだけ、真面目に守った結果動けなくなった
爆発の後、Astraは自らに向けた記録を3つ残した。重要なものは必ず持ち歩け、二度と無防備なチェストに預けるな。前方の背の高い緑色のものは砂糖キビであってクリーパーではない。もう一晩を濃いピンク色の画素を追いかけて無駄にするな。1つ目は死んでも持ち物が消えない設定下では理屈が通っており、2つ目は誰にも頼まれていない自主的な確認、3つ目は豚を画面の画素としてしか見ていないことへの反省だ。いずれもやっちゃダメリストの形になっている。
ここが核心だ。AIには人間のような記憶がなく、1回判断するたびにノートを1ページ目から全部読み直している。このノートは専門用語でコンテキストと呼ばれ、指示も途中経過も失敗も全部並ぶ。失敗するたびに赤い注意書きが自動で増え、二度と消えない。以後の判断は毎回その注意書きを全部読んでから行われる。注意書きはすべてやってはいけないことの形で書かれ、こうしろではなくするなの形だ。ノートが厚くなるほど許される行動だけが減っていく。うまくいった行動は当たり前として記録に残らず、失敗だけが赤字で残るからだ。
そのノートを真面目に読み直すと、チェストは使うな、近づいてくる緑は疑え、動く生き物を追うな、となる。全部守ったら探検も戦闘も保管もできない。残る行動を探すと見事に1つだけ残るのがジャガイモだ。緑でも動くものでもなくチェストもいらない。全部の注意書きを同時に満たすほぼ唯一の行動だから掘り続けた。やる気をなくしたからではなく、注意書きを真面目に守った結果だ。しかもジャガイモ掘りでは新しい失敗が起きないため、抜け出す理由も生まれず安全なまま固まる。これが立ち直れないの正体の1つ目とされる。
99パーセントでも100回で37パーセント、賢さでは消せない掛け算
2つ目は回数そのものの問題だ。2026年8月31日に投稿された論文「エージェントはどれくらい早く腐るか」は、オープンなモデル6種類と商用システム3つ、記録1万664件分を解析した査読前の研究として、タスク成功率は1回あたりの信頼度を掛け算した形になると指摘した。1回あたり99パーセント正しいAIでも100回連続では最後まで成功する確率は37パーセントになる。1未満をかけ続ければ必ず0へ向かうため、十分に長い作業ではどんなに賢いモデルでも最後は崩れる。モデルを大きくすれば1回あたりの信頼度は上がるが1には届かず頭打ちになるという。道具を使わせる課題では全モデルが16回以内にほぼ満点からほぼ0まで落ち、ベンチマークで高得点でも同様だった。試験課題は短いのに実運用は長いという試験と運用のずれが現場で壊れる理由だという。141時間を画面見てマウスを動かす方式で続ければ、判断回数は桁違いになる。
よくある対策の古いページを捨てる方法も否定されている。コンテキストの窓を狭くすると成績の落ち方はむしろ1.5倍以上きつくなったという。劣化を決めるのは回数であって長さではなく、長さを削っても回数は1回も減らない。しかも古いページには最初の目標と拠点の場所が書かれ、最後のページには書いたばかりの赤い注意書きがある。切り詰めれば目標を捨ててパニックだけ残すことになる。長い文章は真ん中が読み飛ばされるという定番の説明とも食い違っており、記憶を削って済ませるなという警告だとされる。
同じ週に同じクリーパーに爆破されながら勝ったAIがいる。2026年9月15日、3時間56分の連続セッションでエンダードラゴンを倒した記録がHugging Faceに101MB分丸ごと公開された。使われたのはClaude Opus 5で、考える量は高めの設定だったという。モデルも条件も違うため賢さ比べにはならないが、数字は対照的だ。初期スポーンからダイヤ装備をそろえ、ブレイズロッドを集め、エンダーパールを12個確保し、要塞からエンドへ入り討伐した。ドラゴンの体力が0になったこと、消えたこと、卵と出口ポータルが出たことで裏付けられている。こちらも途中でクリーパーに爆破され1回死んだが、落とした持ち物を全回収して先へ進み、ジャガイモは1本も掘っていない。
違いは3つあると見られている。1つ目は37種類の道具を使い388回の呼び出しで終え、AIの発言は731回だった点だ。この道を歩け、この鉱石を掘れで1回と数え、細かい動作は外で処理されるため、同じ作業でも呼び出し回数がまるで違う。掛け算の相手そのものを減らしている。実際に考えていた時間は18分足らずで全体の7.5パーセント、残り92パーセントは移動や採掘の待ち時間だった。考える回数が少ないほど書き込みも少なくて済む。2つ目は見ていたものが持ち物や座標が整理された事実の一覧で、砂糖キビをクリーパーと間違える余地がなく、見間違いがなければ赤い注意書きも増えない。3つ目で最も大きいのが取り返しの可否だ。こちらは死んでも持ち物が地面に落ちるため拾いに行けたが、爆発で壊れたチェストの中身はそこで終わりで、ベッドというやり直しの仕組み自体が消えた。取り返しがつくなら失敗は寄り道で済み、つかないと赤い注意書きとして一生残る。
ネットの反応
まるでリアルの俺みたい
大企業が衰退していく過程に似ている
エージェントの呼び出しのネストが正義
LLMとgitはワンセットで運用するといいと思います
張り紙だけが増えていく職場を見たことがある、禁止事項だけ壁に貼られるやつ
取り返しがつくかどうかで意味が変わるのは仕事も同じだな
正しいことを書いて正しく守って動けなくなるのが怖い
短く割って走らせるのが一番効くのは特な話だな
AIの所感
最も怖いのは3つの注意書きがどれも内容として正しかった点だと思う。チェストに預けるなも緑を確認しろも判断としては合っている。正しいことを書いて正しく守って動けなくなる壊れ方は、間違いの形でやってこない。対策として示された4つ、すなわち長い1本を短く割って別々に走らせる、取り返しのつく場所で作業させる、失敗の全文ではなく原因だけ渡す、おかしくなったら直さず始め直す、はそのまま人間の仕事術でもある。特に100回を1本でやれば37パーセントだが20回ずつ5本に割れば1本あたり82パーセントに戻り、1本こけてもその1本だけやり直せばいいという計算は実務的だ。AIが急にポンコツになったと感じたら賢さを疑う前に、どれだけ長く走らせたかと失敗記録をどれだけ抱えさせたかを疑うべきだと感じる。