TS‑h2490FUにおすすめのGPUは?監視システム+LLaMA運用してる人いますか

皆さんこんにちは。

QNAP TS‑h2490FUにGPUを追加したことがある方はいらっしゃいますか?このモデルでGPUアクセラレーションが現実的に使えるのか調べていて、実際の体験談をとても知りたいです。

TS‑h2490FUのドキュメントでは、サポートされているGPUについて明確には記載されていません。実際に現場で動作実績があるGPUを知りたく、特にNVIDIA L4、NVIDIA A2、NVIDIA A30などのNVIDIAカードに興味があります。

想定している用途は下記の通りです:

・カメラ監視解析(AIによる動体検知、インデックス化、物体認識など)
・ローカルでのLLaMAモデル実行によるオンプレ推論や内部AIワークロード

もしTS‑h2490FUにGPUを増設した経験がある方がいれば、

・どのGPUモデルを搭載しましたか?
・QTS heroで正常に認識されましたか?
・電源や発熱、PCIeスロットの互換性で問題はありましたか?
・AIや監視用途で使う際の制限・注意点はありましたか?

この筐体で最適なGPU選択肢を探しているのですが、実際にはGPUサポートが限定的なのか知りたいです。

何か情報をお持ちの方がいれば、ぜひご共有いただけると助かります。よろしくお願いします。

こんにちは、@mingmanhk さん

ご質問ありがとうございます — これは考える価値のあるとても良い事例ですね。

まず一番重要なポイントですが、これは単なる互換性ではなく、冷却の問題です。
L4、A2、A30はいずれもデータセンター向けのパッシブGPUで、2021〜2023年に前世代のGPUサーバー向けに設計されたものです。これらのカードにはファンが付いておらず、専用GPUサーバーの強力で一方向の前後エアフローに完全に依存してサーマルリミットを守ります。こうした設計されたエアフローがなければ、簡単に過熱します。実際、NAS以外でも、これらのカードを一般的なオープン型PCワークステーションにそのまま載せるのも非常にリスキーです。TS-h2490FUはオールフラッシュストレージプラットフォームで、そのエアフローは汎用冷却向けに調整されているため、これらのカードは筐体に物理的に合いません。

次に、ドライバー面でも障壁があります。
データセンターカードとワークステーションカードでは、GPU検出やドライバーサポート、パススルーの挙動が大きく異なります。当社のNASプラットフォームには、これらデータセンターカードのドライバーが含まれていません — まさにこれが互換性リストに載っていない理由です。なので、サーマルの問題を除いても、L4/A2/A30は正常に認識されません。

3点目、今後のご検討向けに調達情報もご参考まで。
A2はすでにEOL(販売終了案内が出ていて在庫のみ)、A30は旧世代のAmpereアーキテクチャで段階的に終売に向かっており(SIや流通で注文はできる場合もありますが、徐々に入手が困難です)、L4だけが現在も広く流通・現役の製品です。

4点目、LLaMA用途のモデル選定について。
ポイントはVRAMです。これら3枚はいずれもVRAM 24GBで、Llama 3 8Bクラスなら余裕で収まります(FP16でも快適に動作)。ただし、70Bクラス(Llama3 70B、Llama 4 Scoutなど)は4ビットに落としても40〜70GB以上が必要なため、24GBには一切収まりません。これには96GBクラスやマルチGPU体制が必要です。結局は開発方針や用途次第となります。

当社推奨のアプローチ:
パッシブのデータセンター向けカードをストレージNASに無理やり載せるのではなく、GPU計算を前提に設計されたシステムと、アクティブ冷却のプロフェッショナルカードの組み合わせが王道です。監視解析+ローカル8BクラスのLLMという2つの用途でしたら、NVIDIA RTX PRO 4000 Blackwell SFFが非常に良いエントリーになります。これも24GBですが、最新のBlackwell世代でGDDR7 & FP4対応、消費電力70W、自前でファンを持ち、スロット給電もOKです。L4より新しく、速く、しかも大幅に安価です。

もし将来的にLlama 3 70BやLlama 4クラスに拡張したくなったら、これは別グレードとなり、RTX PRO 6000 Blackwell(96GB)が必要です。これにはQAI-h1290FXのように専用設計のマシンが求められ、TS-h1290FXの標準筐体では搭載できません。

ですが、TVS‑AIh1688ATX だけが RTX PRO 6000 Blackwell(96 GB)に対応しているようです。QAI‑H1290FX には RTX PRO 6000 Blackwell(96 GB)対応の記載がありませんが、ご確認いただけますか?

こんにちは @mingmanhk

QAI-h1290FX は現在、RTX PRO 6000 Blackwell Max-Q Workstation Edition に対応しています。なお、これは Max-Q および Workstation モデルであり、300W、アクティブ冷却を備えていますのでご注意ください。

Qnap TVS‑AIh1688ATX と Blackwell の両方を購入しましたが、カードが長すぎて電源ケーブルアダプターが中に収まりません。対応したアダプターはありますか?

こんにちは

お使いのマシンはQAI-h1290FXではないようです。どのNASモデルをご使用でしょうか?

弊社の互換性リストは、電源、冷却、ソフトウェアの安定性など、さまざまなテストに基づいています。アダプターケーブルや同様の方法でグラフィックカードを改造・接続することはおすすめしておりません。

ありがとうございます

これはTVS‑AIh1688ATX(TVS‑AIh1688ATX)です。