PC関連

LLMの進化に伴い、大容量VRAMを搭載したGPUの需要が急増、価格高騰が激しいです。そんな中、レガシーとも言えるTesla V100 32GBを購入してみました。RTX5080/RTX PRO 4500 Blackwellとの速度比較なども含め、V100の使い勝手についてお伝えします。

史上最強のSSD、intel Optane DC SSD P5800Xの1.6TBモデルが、今までの中古価格の半額以下の14万円台という金額でセール中です。SSDが高騰している中、超高速＆高耐久のエンタープライズSSDはいかがでしょうか。

intel Arc A770をなぜ今選ぶのか。4万円前後で購入できるVRAM 16GB搭載の3モデル（RX 6800、V100）と比較しながら、それぞれのカードがどのような用途に向いているのか、検証してみました。

ASUS X99-Sの20-1ピンTPMコネクターに取りつけ可能な、激安TPM2.0モジュールを購入し、動作するか検証を行いました。Infineon SLB 9665を搭載しており、問題無く動作を確認しました。

ASUSの一部のマザーボードで使用されていた、M.2 Socket 3。SSDの固定には専用のアダプターが必要なのですが、購入するとかなり高いので、数百円の材料を買ってDIYで作成してみました。

intel Arc A770を2枚装着し、8万円台でVRAM 32GBのLLM環境を構築しました。A770を選んだ理由や、2枚挿しする場合のメリット・デメリットについて詳しくレビューしています。

余っていたX99プラットフォームのPCを再利用して、MiniMax H3も動くAIサーバーを組みました。ビデオカードにはintel Arc A770をチョイス。X99の選定理由からLLM推論速度、MiniMax H3での生成時間などをレビューしました。

ASUS X99-SマザーボードのBIOSを改造し、Resizable BARを有効にする方法を詳細に説明しています。改造済BIOSも公開しています。※自己責任でご使用ください

PCIeスロットを使わず、M.2スロットからSFF-8654ケーブルでU.2のOptane P5800Xを接続する方法。CPU直結のPCIeでレイテンシを犠牲にしないメリットや、アダプタとケーブルの購入費用、固定方法と冷却という課題の対策についても説明。

RTX PRO 4500 BlackwellのVRAM 32GBをLLM専用に割り当てるため、描画用にRTX 4060 Tiを追加。モニターを繋ぐだけで10GB近く消費されていた実態や外排気クーラーの利点、CUDAデバイスが2台になる等、2枚目のGPU導入における注意点を紹介します。