TVS-AIh1688ATXにローカルRAG用で対応可能なグラフィックカードはどれですか

こんにちは、

私はTVS-AIh1688ATX(QTS 6.0 beta 3)を所有しており、いつかローカルでRAGを試してみたいと考えています。このNASの電源容量を考慮した場合、どのグラフィックカードやRTX/RTX Pro(Blackwell)が互換性があるでしょうか?

マニュアルによると、私の電源は550Wで、例えばRTX Pro 6000のようなカードを動かすには十分ではありません(予算的にも無理ですが)、しかし200W程度のカードならいけるのではと考えています。

例えばRTX PRO 4000は140Wと記載されています。

以下を読みました:

ご助力いただけますと幸いです。よろしくお願いいたします。

ちょっとした注意点ですが、仕様書にはNASには工場出荷時で750Wの電源ユニットが搭載されていると記載されています(550Wではありません)。


https://www.qnap.com/en/product/tvs-aih1688atx/specs/hardware

ご返信ありがとうございます。

ドキュメント(https://eu1.qnap.com/TechnicalDocument/Storage/Enterprise%20NAS/tvs-aih1688atx/tvs-aih1688atx-ug-en-us.pdf)に基づいて設定していたため、確認するにはケースを分解しなければならないと思います。

このドキュメントでは550Wと記載されています。

違いを指摘していただきありがとうございます。

その後、インターネットによるとRTX Pro 6000は600W消費するようです。超えるかどうかは分かりませんが、電源が550Wではなく750Wであれば、ボードを取り付ける余裕が少し増えると思います。

実際に確認したところ、750Wでした。

最大でどれくらいの電力が可能かを見るためです。しかし、この値を知っていれば、もし望めばより消費電力の高いカードも使えます。

いずれにせよ、マニュアルは間違っていて、サイト上の情報が正しいですね😅。

achimede333さん、こんにちは。

同梱されている電源ユニット(PSU)は750Wです。ユーザーマニュアルは近日中に改訂予定です。

RTX Pro 6000は、今後発売予定のQNAP QAI-h1290FX NASのみに推奨されています。

RTX Pro 4000 SFFはTVS-AIh1688ATXシャーシに装着でき、電源要件も満たします。

RTX Pro 2000は、将来のGPUドライバーアップデートでサポートされる予定です。

こんにちは、

ご返信ありがとうございます。

「RTX Pro 4000 Blackwell」や「RTX Pro 5000 Blackwell」バージョンは使用できないのでしょうか?

カードの長さが理由ですか?

QNAPの互換性リストによると、ドライバーはRTX 4060まで対応しています。私はZOTAC Gaming GeForce RTX 4060 8GB Twin Edge OC DLSS 3 8GB GDDR6 128-bit 17 Gbps PCIE 4.0をATX-AIH1688atxに取り付けたところ、すぐに認識されました。インストール後、ストアからQNAP Nvidiaドライバーのインストールを促されました。すべてのアプリが見えるようにQTSデバイスとして設定しました。他にもContainer StationやVirtualization何とかという選択肢があったと記憶しています。

リストにはもう一つ4060のカードもあります。メーカーは忘れましたが、ご自身で確認してみてください。私が購入したカードは仕様上、TVS-AHI1688がサポートするサイズより大きいですが、ギリギリ収まりました。高さと幅がかなりタイトでしたが、長さは問題ありませんでした。電源はシングル8ピンで、これはTVS-AHI1688にすでに備わっています。

こんにちは、ご返信ありがとうございます。

4060ではうまく動作しますか?

価格は非常に魅力的ですが、消費電力はRTX Pro 4000 SFFより多いものの、4000 SFFの価格は非常に高いです。

また、4000のRAM(VRAM)容量が、より高性能なモデルの動作を可能にするのではないかとも考えています。

どう思われますか?

私はこれを動画のトランスコード用途だけに使うことに興味があります。4本の4Kストリームを同時に問題なく処理でき、それが私の求めていたものでした。1688のNPUは、現時点で私が必要とするAI作業には十分な速さなので、購入時にVRAMには特に興味がありませんでした。

RTX Pro 4000 SFFで予想される最大の問題は、QNAP用のドライバーが提供されていないことです。これはBlackwellベースのGPU(50xx)で、現時点で最適なドライバーはAda Lovelace GPU(40xx)向けです。

これを仮想環境で動かす予定なら、その特定のVM用にドライバーをロードすることはおそらく可能ですが、QNAPドライバーがある大きな利点は、4060がアプリケーション間やVMでも認識されることです(未検証ですが、動作するはずです)。

あなたの4000は特定のVMでのみ利用可能となります。

新しい情報に基づき、前回の投稿を更新します。QNAPより…

2026/02/13

【新機能】

  • NVIDIA RTX 50シリーズおよびBlackwellアーキテクチャGPUカードのサポートを追加。

【重要なお知らせ】

  • NVIDIA GPU Driver 6.2.2は、NVIDIA GPUドライバー バージョン575.64.05をインストールし、その後、NASデバイスに搭載されているNVIDIA GPUカードに応じてカーネルドライバーの種類(オープンソースまたはプロプライエタリ)を選択します。

【互換性】

  • QTS/QuTS heroファームウェア バージョン5.2.9以降は、特定のバージョンのNVIDIA GPU Driver 6.2.2以降のみ互換性があります。QTS/QuTS heroファームウェアをアップデートする際は、互換性の問題でNVIDIA GPU Driverが自動的に無効化されるのを防ぐため、先にNVIDIA GPU Driverをアップデートすることを推奨します。

どうやらBlackwellのサポートが追加されたようです。4000 proがケース内に物理的に収まるかどうかだけご確認ください。

うまくいったか教えてください!

こんにちは、

ご回答ありがとうございます。

返信する時間がありませんでしたが、はい、Blackwell(ブラックウェル)がパイロットたちにサポートされていることは確認していましたし、JasonHさんの返答もその方向性でした。

具体的には、私にはその資金がなく、元々のメッセージは中期的な検討のためのものでした(いつか思い切って導入する日のために)。

4060は妥協案のようですが、間違っていなければ、VRAMが多いほど可能性が広がると思います。特に、NAS上で直接少しLLM(大規模言語モデル)を動かしたい場合は :stuck_out_tongue:

その後、トランスコーディングの補強にもなりますが、内部プロセッサでもすでにかなりのことができます。ただし、RAG(検索拡張生成)にはグラフィックカードが必須です。

興味深いディスカッション:https://www.reddit.com/r/LocalLLaMA/comments/1qed3kg/rtx_pro_4000_sff_blackwell_for_selfhosted_services/

特に“abnormal_human”さんの投稿が参考になります。

こんにちは、

ついに折れて、RTX Pro 4000 Blackwell SFFを購入しました。

まず最初に、シャーシ内にスペースがあることに気付きました。もう一枚ボードが入るのではないでしょうか?

その後、カードを取り付けるとシステムが起動しません:

  • ディスクを取り付けた場合、NASは「Power Up All Disks」というメッセージでフリーズしたままになります
  • 起動時にディスクを外すと、「Hardware initialization」というメッセージで止まったままになります

カードをテストできるPCは持っていません。

しかし、GT430ではNASに何の問題もありません。

何かアイデアはありますか?

私は昨日サポートチケットを発行しました。現在の状況は、サポートチームが問題を監視していることと、カードがPCIe 16xスロットに挿さっている状態であること、そしてカードを販売者に返送する予定であることです(到着時にファンが少し損傷していて—バランスが悪く、将来的に寿命が短くなるため—さらにPC再起動時の問題もあったためです)。

RTX Pro 4000 Blackwell(SFFではない方)やRTX Pro 4500 Blackwellを取り付けることはできませんか?(予算に余裕があれば、もっと上位モデルでも。)実際に何がそれを妨げているのでしょうか?6ピンから8ピンの変換アダプターを使ってカードに給電することは可能でしょうか?(2つの8ピンコネクターが必要です。)

RTX PRO 6000が新しいQAI-h1290FXに推奨されているみたいですが、電源容量は同じですね。Aih1688ATXのストレージ構成の方がQAI-h1290FXより電力を多く消費する可能性がありますが、RAMは積める量が少ないです。だから、消費電力的には(大まかに言えば)ほぼ同じと考えていいのでしょうか?

どう思いますか?自分の考えがおかしいでしょうか?でも、同じ価格なら通常版(SFFでないタイプ)の方が性能が高いのに、SFF版を選ぶ「理由」って特にないように思えます。

結局のところ、基板上の電源コネクターだけが最後にネックになるかもしれませんね。

こんにちは。

RTX Pro 4000 Blackwell SFF を返却した後、ついに RTX Pro 4000 Blackwell を手に入れました。

このカードだけが物理的にケースを通せる唯一のものです。さらに、SFF モデルと同じ購入価格で 4000 のパワーをフル活用できます。

すぐに認識されました(SFF バージョンのように、将来のファームウェアアップデートの際に BIOS の更新が必要にはなりませんでした)。

カードは正常に動作していますが、他の方同様、LLM モデルを実行した際に GPU から CPU への切り替えで問題が発生しています: Ollama cannot use GPU in Docker on QNAP (RTX 3090, CUDA init fails) - #10 by achimede333

いずれにせよ、ご回答とご支援、本当にありがとうございます :wink:

これは本当にワクワクしますね。知らせてくれてありがとう。実は、今使っているNVIDIAドライバにいくつか問題がありまして、先週はシステム全体がクラッシュしました。サポートもバグを認めていて、次回のリリースで修正されるとのことでした。また、Jellyfinでトリックプレイファイルを作成していますが、NVIDIAカードを使う方がはるかに速いはずなのに、Intelの統合GPUを使用した場合の半分くらいの速さしか出ません。全体的にQNAPのNVIDIAドライバにはあまり満足していません。もし4000でうまくいったら教えてください。よかったら自分でも買ってみたいです。

こんにちは。

NASにカードを取り付けた際、起動は妨げられませんでした。SFFバージョン(QNAPからの修正予定)とは異なり、正常に認識されましたが、マップ内の全情報は取得できず、QsirchのRAGを使用した際に負荷がかかりませんでした。

サポートチケットを更新したところ、PMがリモートで対応し、NAS内のドライバーが私のカードと一致していないことを確認しました(私見ですが、以前のカードをテストしたせいだと思います)。担当者がドライバーをアンインストールし、その後App Centerからドライバーを再インストールしました。

認識に関しては(温度・ファン回転数・プロセッサ負荷・VRAM)、特に問題ありませんでした。

docker版Plexについては、プロセッサ上のiGPUをそのまま利用しています。RTX ProはRAGのインストールおよびOllamaコンテナ用に割り当てました。

前回のメッセージでも述べた通り、LLMモデルの負荷がCPUに切り替わることについて懸念があります。別スレッドの投稿の通り、パイロットのアップデートでこの問題が解消されるのを待っています。

アップデート:MSI GeForce RTX 5060 Ti 16GB SHADOW 2X OC PLUS を TVS-AIh1688ATX(h6.0.1.3550)でテストしましたが、QNAP 同梱の NVIDIA 575.64.05 ドライバー スタックでは現状使用できません。

カード自体は PCIe(10de:2d04 / GB206, Gen4 x8, Resizable BAR 有効)で認識されるものの、GSP ファームウェアの初期化時に毎回停止します:

• GSP 起動中に RPC event 0x1022(RECOVERY_ACTION)
• RmInitAdapter: GSP ファームウェア RM を初期化できません
• RmInitAdapter failed (0x62:0x40:1941)
• Xid 62
• nvidia-smi: 「デバイスが見つかりません」

お決まりの対策(AC 電源のコールドサイクル、PCI 機能・バスリセット、NVIDIA_GPU_DRV 6.2.2.1106 のクリーン再インストール、該当する TS-X88A NvKernelDriver 6.0.1.3550 の手動インストール、575.64.05 カーネルモジュール/GSP ファームウェアが稼働中の 6.6.32-qnap カーネルと一致しているかの検証)もすべて試しましたが効果なし。スロット自体も正常で AER エラーは報告されていません。

特筆すべき点として、同じスロットに RTX 2070 を挿すと同じドライバースタックで完璧に動作します。他のユーザー報告では RTX 5060 および RTX Pro 4000 Blackwell カードが動いているため、これはスロットやプラットフォーム全体の問題ではなく、575ブランチが現行ボードの5060 Tiに対応していない互換性問題と考えられます。

QNAPサポートチケット Q-202607-41804 を発行し、580.95.05 以降または 595.84 ドライバーの最新版(もしくはベータ版QPKGとリリース予定)の提供を依頼しています。また、/etc/config/uLinux.conf の古い 5.2.7 値が原因で NvKernelDriver の自動インストールが6.0.1アップグレード後に動かなくなるという、別件のファームウェアアップグレードバグも報告しました。

関連するアップストリームの報告:

https://forums.developer.nvidia.com/t/rtx-5060-ti-oculink-gsp-firmware-crash-on-575-51-02-with-linux-6-8-12/333962

QNAPからの返信や新しいドライバが提供されたら、このスレッドを更新します。