Items

Fractal Designの人気PCケース、Northを使ってLLMサーバーを組んでみました。実際に使って解った、Northのメリット・デメリット、組む際の注意点、特にフロントにラジエーターを配置した際の長尺GPU利用について、詳しく検証しています。

Telsa V100 32GB SXM2を3基搭載し、合計で96GBのVRAMを利用可能な家庭用LLMサーバーを構築してみました。Fractal DesignのNorthケースに無理矢理押し込む際に苦労した点などを紹介しています。

1枚の基板に2基のSXM2が載ったV100 Dualカードを使用するには、1本のPCIe x16をx8/x8に分割する必要があるのですが、Rampage VI Extremeでは分割が不可でした。そこで、BIOSを解析し、隠されたメニューを利用してEFI Shellで有効化することにしました。

1枚のカードにTesla V100を2基搭載し、NVLinkで繋いだVRAM 64GBのカードを購入したので、NVLinkの実力について詳細に計測してみました。Ollamaの利用であればNVLink不要という結果となりました。

LLMの進化に伴い、大容量VRAMを搭載したGPUの需要が急増、価格高騰が激しいです。そんな中、レガシーとも言えるTesla V100 32GBを購入してみました。RTX5080/RTX PRO 4500 Blackwellとの速度比較なども含め、V100の使い勝手についてお伝えします。

史上最強のSSD、intel Optane DC SSD P5800Xの1.6TBモデルが、今までの中古価格の半額以下の14万円台という金額でセール中です。SSDが高騰している中、超高速＆高耐久のエンタープライズSSDはいかがでしょうか。

intel Arc A770をなぜ今選ぶのか。4万円前後で購入できるVRAM 16GB搭載の3モデル（RX 6800、V100）と比較しながら、それぞれのカードがどのような用途に向いているのか、検証してみました。

ASUS X99-Sの20-1ピンTPMコネクターに取りつけ可能な、激安TPM2.0モジュールを購入し、動作するか検証を行いました。Infineon SLB 9665を搭載しており、問題無く動作を確認しました。

ASUSの一部のマザーボードで使用されていた、M.2 Socket 3。SSDの固定には専用のアダプターが必要なのですが、購入するとかなり高いので、数百円の材料を買ってDIYで作成してみました。

intel Arc A770を2枚装着し、8万円台でVRAM 32GBのLLM環境を構築しました。A770を選んだ理由や、2枚挿しする場合のメリット・デメリットについて詳しくレビューしています。

余っていたX99プラットフォームのPCを再利用して、MiniMax H3も動くAIサーバーを組みました。ビデオカードにはintel Arc A770をチョイス。X99の選定理由からLLM推論速度、MiniMax H3での生成時間などをレビューしました。