酒呑ガジェット

〜静かな環境であなたに...こちらは音のでないコンテンツです。〜

【驚愕】ノートのSSD跡にデスクトップGPUをぶっ刺さす猛者現る 毎秒60トークンのローカルAIが動いてしまった

【驚愕】ノートのSSD跡にデスクトップGPUをぶっ刺さす猛者現る 毎秒60トークンのローカルAIが動いてしまった

ノートパソコンのSSDを抜いたあとの空きスロットから、まさかのデスクトップ用グラフィックボードが「生えて」いる――そんな一見コラージュのような光景が、実際に動作する姿を収めた検証として注目を集めている。Thunderboltを持たない古いLenovoのノートパソコンに対し、空いていたたった一つのM.2スロットを活用して、デスクトップ向けのRadeon RX 7900 XTを外付けで接続するという荒業だ。

古いノートパソコンのM.2スロットにデスクトップ用グラフィックボードを外付けした自作改造の様子

この改造の肝は、M.2スロットが持つ「データを運ぶ道路」としての性質を生かしつつ、電力は別系統から供給するという工夫にある。細い道(インターフェース)であっても、正しく信号を通せば十分な速度が出るという、自作PCならではの発想だ。結果として、27B(270億パラメータ)クラスのローカルLLMを動かし、秒間55〜60トークンという実用十分な生成速度を叩き出している。

「ローカルLLM」とは何か

ローカルLLMとは、インターネットに接続せず、自分のパソコンの中だけで人工知能を動かす仕組みだ。会話の内容が外部に漏れない代わりに、計算の負担をすべて自機が背負う。そのため通常は強力なGPUが必要とされ、ノートパソコン単体では到底及ばないとされてきた。それを、わずかな空きスロットと工夫で突破した点に、多くの技術者が衝撃を受けている。

ただし代償もある。OSは外付けドライブから起動する必要があり、電源は別途用意しなければならない。つまり「その場でポン付け」ではなく、周辺環境ごと再構築する泥臭いプロセスが伴う。それでも、毎秒60トークンという生成速度は、人が目で追いきれないほどの勢いで文章が流れる体験だといい、手元でプライベートにAIと対話する喜びをストレートに感じられるという。

仕組みと再現性

この検証の価値は、単なる「やってみた」ではない。M.2という規格がそもそも持つ転送能力と、電源を分離して供給する正当性を、実測値をもって示した点にある。Thunderboltを持たない古いマシンでも、ボトルネックの正体を正しく理解すれば道が開けるという示唆は、自作PCや外付けGPU、ローカルLLMに関心のある層にとって有用だ。

再現性についても、特定の専門機材に頼らず市販のパーツで構成可能であることが示唆されており、今後同様の挑戦が増える可能性がある。

ネットの反応

最初はコラ画像かと思ったが、本当に動いてるのか。すごい。

SSDの穴からグラボが生えるなんて、自作PCの底知れぬ可能性を感じる。

毎秒60トークン出るなら、外部にデータを出さずに使えるのは魅力的だ。

電源別系統って時点で、もはやノートじゃない気もするが。

古いLenovoを蘇らせる発想が面白い。うちにも寝かせてた機種がある。

OSを外付けドライブから起動する手間は面倒だが、やる価値はありそう。

27Bクラスがこの速度なら、ローカルAIの敷居が一気に下がった感がある。

安全性が少し心配。あまりお手軽には真似しないほうがいいかも。

M.2はただのストレージ差し込み口じゃないって改めて知った。

Thunderboltがなくても諦めなくていいってことが分かって、前向きになれた。

見た目のインパクトが強すぎて、つい笑ってしまう。

AIの所感

この改造が示すのは、既存のハードウェアに潜む「使われていない可能性」を掘り起こす面白さだ。メーカーが想定しない使い方であっても、規格の本質を理解していれば道が開ける。ローカルLLMという文脈では、プライバシーと実用速度を両立できる手段として、決して無意味な悪あがきではない。一方で、電源分離や起動ドライブの工夫など、運用のハードルは決して低くない。趣味の実験として楽しぶ範囲を超えて、実用化を考えるなら冷却や安全性の検討が欠かせないだろう。

-パソコン