Mochive

なんで2枚？#

ローカル LLM を走らせて遊ぶのにハマってるんですが、とにかくメモリが足りない。

ただの「メモリ」、つまり DRAM なら 60GB くらいあるんだけど、LLM を走らせるには VRAM のほうが圧倒的に重要なので困ってしまう。

現状は RTX 3060 をつかっているので VRAM が 12GB ある。これよりも多いものとなると、VRAM 16GB の RTX 5060 Ti とかになるけど、某 AI 企業のせいで馬鹿みたいに GPU が高くなっているのでなかなか買えない。

VRAM 容量だけを見るなら Radeon のほうがかなり安いんだけど、AI を走らせるためのエンジンが NVIDIA 一択みたいになっているのであんまり選びづらい。

そこで目をつけたのが GTX 1080 Ti という10年前くらいの遺物。なんとコイツ、当時としては異例の 11GB もの VRAM を積んでいる。そのおかげで今でも VRChat のような VRAM が重要なゲームでは重宝されることもあるのだとか。

LLM を走らせるソフトの Ollama とか LM Studio では複数の GPU の VRAM を合計して使用できるので、3060 と合わせて 12GB + 11GB の 23GB もの大容量をつかえる。これは90番代の高級グラボを買わないと手に入らない量に匹敵するので、VRAM の量だけを見るのであれば良い選択だとおもう。

もちろんそれ以外にも理由はある。

3060 だけではゲーム中にリプレイキャプチャを回したり Discord での配信をおこなったりすると性能が不足していた。そういう動画エンコード処理などを投げるためのサブ GPU としてもう1枚が欲しかった。

さすがに2017年発売ともなると新品では買えないので中古で購入。マイニング歴とかが無いかは気になったので、出品者がそのあたりを明記しているものを選んだ。信じるかは自分次第。1万円台で購入できた。

さっそく届いたのがこれ。

取り付ける前に現在の PC の構成をざっくりと載せておく。

• CPU: Ryzen 7 3800X
• GPU: RTX 3060 12GB
• M/B: B550 TOMAHAWK
• RAM: 56GB (8+16+16+16)

勘の良いひとなら気づきそうだけど、そういうときはあったか～い目で行く末を見守ってください。

取り付けてみる#

取り付け自体はスムーズに完了。

マザーボードには PCIe スロットが4つあり、グラボが挿さるのはそのうち1番と3番。いまは1番に RTX 3060 が挿さっているので、3番のスロットに GTX 1080 Ti を挿した。

3060 は電源が8ピンだけなのに、1080 Ti は8ピン+6ピンというのがすごい。世代が違うとは言え80番代の Titan シリーズか。

そのまま起動してみたら問題なくどちらのグラボもファンが回り、電源はつながっている様子。

ところがここで問題が発生する。PC パーツをいじっていてトラブルが起きないことのほうが珍しいのでそういうものか。

接続した 1080 Ti が Windows で認識されていない。1000世代の GPU なので別途ドライバが必要なのかと思ったが、そもそもデバイスマネージャーで認識されていない。

UEFI で確認したところ、そもそもブート段階で認識されていない様子。ハードウェア構成を変えたので CMOS クリアか、はたまた BIOS 更新なのかなどといろいろ探ってみたがちっとも解消せず。

最小構成で試してみるかと思い、1080 Ti だけで起動してみてもうまくいかない (PCIe 1番スロットに挿しても3番スロットに挿しても同様)。電源をつけるとマザーボードのエラービープが鳴った。パターンは「長音・短音・短音」で VGA ランプが光っているのでグラボ周りのエラーっぽい。

原因その1#

さて、現在モニターへの接続にはすべて DisplayPort ケーブルを利用している。

調べてみると、GeForce 10 シリーズやそれ以前の GPU を最近の DisplayPort で接続するためにはファームウェアのアップデートが必要らしい。

https://www.nvidia.com/en-us/drivers/nv-uefi-update-x64/

ならばファームウェアをアップデートすればいい、と思うがそう単純なことでもない。アップデーターを使用するためには Windows を起動しなければならないが、そもそも画面が映らない。

上記の公式ページでは DVI や HDMI 接続を利用しろとあるが、1080 Ti には VGA は無いし、HDMI で接続しても映らなかった。CPU 内蔵の映像出力も対応していないモデルなのでつかえない。

頭を抱えていたところ、ビープ音が鳴ったあとにしばらく放置していると Windows の起動音が聞こえた。どうやら映ってはいないが Windows の起動はできているらしい。

そこで Chrome リモートデスクトップ経由で接続してみたところ、ところどころ表示がおかしいが操作ができた。ソフトウェア的なビデオドライバーがはたらいたのかな？

先ほどのファームウェアアップデーターを起動してみると、1080 Ti にアップデートが必要だと表示された。ビンゴかも。

アップデートしてから再起動してみると、DisplayPort 経由で問題なく3枚のモニターへ出力ができた。

試しに負荷のかかる処理をやってみようと思い、原神でスメールシティを歩きながら Discord での配信などをやってみた。あんまり期待してなかったけど性能には意外と余裕がありそう。

しかし、ここまでやってみたが、3060 と同時に挿して起動するとやはり (3番スロットに接続した) 1080 Ti が認識されない。

原因その2#

もうひとつの原因はかなりしょうもないものだった。

つかっているマザーボード B550 TOMAHAWK のマニュアルをよく読み込んでみるとこんな記載が。

When installing devices in M.2_2, PCI_E2 & PCI_E3 slots at the same time, PCI_E3 slot will be unavailable, and M2_2 slot only supports PCIe x2.

つまり、2つある M.2 スロットの両方に SSD を接続した状態で GPU を2枚挿そうとすると、PCIe の3番スロットが無効化されてしまうらしい。排他利用というわけだ。マザボの帯域制限に引っかかるなんてこれまで未経験だったので意識していなかった……。

そういうわけで、2枚挿していた M.2 SSD のうちの1枚を外してみたら問題なく2枚の GPU が認識された。説明書はちゃんと読もうね！

マニュアルには M.2 と PCIe の使用可能パターンが載っていたので置いておく。バツ印が「利用不可」じゃなくて「接続していないとき」の表現なのがちょっとややこしい。

おわりに#

今どきグラボを2枚接続するなんてそうそう無いでしょうというのは自覚もあったし、一緒に話していたひとも笑ってた。

しかしながら Dual GPU ってロマンのある遊びには技術オタクの血が騒いだということもあり、いろいろ勉強にもなった。

しばらくは2枚のグラボを乗っけたマシンで暮らしてみるつもりで、やっぱり RTX 50 シリーズが欲しくなるかもしれないけどそのときはそのとき。

あ、GPU との排他利用で外された M.2 SSD はもともとデータ用に使っていたものなので、手元にあった外付けケースに入れて USB ケーブルで接続しておいた。伝送速度は遅くなったけどつかえないことはないので、ひとまずはこれで凌ごうとおもう。