哪款顯示卡適合我的 TVS-AIh1688ATX 用於本地 RAG

您好,

我擁有一台 TVS-AIh1688ATX(QTS 6.0 beta 3),未來有可能會想在本地執行 RAG。考慮到這台 NAS 的電源供應器功率,哪一款顯示卡或 RTX/RTX Pro(blackwell)會相容呢?

根據說明書,我的電源供應器是 550W,顯然不足以驅動 RTX Pro 6000(預算也超出),但我在想 200W 的顯示卡是否可以運作。

例如 RTX PRO 4000 的標示功耗為 140W。

我參考了:

感謝您的協助,敬祝安好

小提醒:規格表上標明,這款NAS出廠時配備的是750W電源供應器(而非550W)。


https://www.qnap.com/en/product/tvs-aih1688atx/specs/hardware

感謝您的回覆。

我想我必須拆開機殼才能檢查,因為我之前是根據這份文件設定的:https://eu1.qnap.com/TechnicalDocument/Storage/Enterprise%20NAS/tvs-aih1688atx/tvs-aih1688atx-ug-en-us.pdf

這份文件上標示的是550W。

感謝您讓我注意到有這個差異。

另外,根據網路上的資料,RTX Pro 6000 似乎會消耗600W。我不確定是否會超過,但如果電源供應器是750W而不是550W,安裝顯示卡時至少會有多一點餘裕。

經過實體驗證,這是一台750W。

可以看看最大能提供多少功率。不過知道這個數值後,如果我想,也可以選擇功耗更高的顯示卡。

總之,說明書是錯的,網站上的資訊才是正確的 :sweat_smile:

Hi achimede333,

隨附的電源供應器為750W。我們將很快修訂使用手冊。

RTX Pro 6000僅建議用於即將推出的QNAP QAI-h1290FX NAS。

RTX Pro 4000 SFF可安裝於TVS-AIh1688ATX機殼,且電力需求也符合。

RTX Pro 2000將於未來的GPU驅動程式更新中獲得支援。

您好,

感謝您的回覆。

「RTX Pro 4000 Blackwell」或「RTX Pro 5000 Blackwell」這兩個版本不能使用嗎?

是因為顯示卡長度的關係嗎?

根據 QNAP 相容性列表,驅動程式最高只支援到 RTX 4060。我剛在我的 ATX-AIH1688atx 上安裝了一張 ZOTAC Gaming GeForce RTX 4060 8GB Twin Edge OC DLSS 3 8GB GDDR6 128-bit 17 Gbps PCIE 4.0,系統立刻就識別到了。安裝後系統提示我從應用商店安裝 QNAP Nvidia 驅動程式。我把它設為 QTS 裝置,這樣所有應用程式都能看到它。我記得其他選項還有 Container Station 和 Virtualization 之類的。

列表中還有另一張 4060,我忘了是什麼品牌,不過你可以自己查查看。雖然這張卡規格上比 TVS-AHI1688 支援的尺寸大,但剛好可以裝進去。主要是高度和寬度比較緊湊,長度沒問題。供電是單一 8 pin,你的 TVS-AHI1688 已經有提供。

你好,感謝你的回覆。

請問它和4060搭配效果如何?

這個價格非常有吸引力,但功耗比RTX Pro 4000 SFF還高,不過後者的價格非常昂貴。

另外,我在想4000的記憶體(VRAM)容量會不會讓它能運行更強大的模型。

你怎麼看?

我只對用它來轉碼影片有興趣。它可以毫無問題地處理(4)路同時4K串流,這正是我想要的。1688裡的NPU速度已經足夠應付我目前所有的AI工作,所以我買的時候其實不太在意VRAM。

我預期RTX Pro 4000 SFF最大問題是沒有QNAP專用的驅動程式。它是Blackwell架構的GPU(50xx),目前最好的驅動程式是針對Ada Lovelace架構的GPU(40xx)。

如果你打算在虛擬環境中運行,應該可以為特定的VM安裝驅動程式,但有QNAP驅動程式的最大優勢是4060可以被所有應用程式和VM看到(雖然我沒試過,但理論上可行)。

你的4000只會被特定的VM看到。

根據新資訊,更新我之前的貼文。來自 QNAP…

2026/02/13

【新功能】

  • 新增支援 NVIDIA RTX 50 系列及 Blackwell 架構 GPU 顯示卡。

【重要說明】

  • NVIDIA GPU Driver 6.2.2 會安裝 NVIDIA GPU 驅動程式版本 575.64.05,然後根據您 NAS 裝置上安裝的 NVIDIA GPU 顯示卡,自動選擇核心驅動程式類型(開源或專有)。

【相容性】

  • QTS/QuTS hero 韌體版本 5.2.9 及以後版本僅相容於特定版本的 NVIDIA GPU Driver 6.2.2 及以後版本。當更新 QTS/QuTS hero 韌體時,建議先更新 NVIDIA GPU Driver,以避免因相容性問題導致系統自動停用 NVIDIA GPU Driver。

所以看起來他們已經加入對 Blackwell 的支援,只要確保 4000 pro 實體能放進機殼裡即可。

有進展請告訴我!

你好,

感謝你的回覆。

我之前沒有時間回應,但沒錯,我有看到 Blackwell 受到了飛行員的支持,而且 JasonH 的回覆也是這個方向。

具體來說,我目前沒有預算,而我最初的訊息只是為了中期的思考(等到哪天我真的要下決心時)。

4060 看起來是一個折衷方案,但除非我搞錯了,VRAM 越多,能做的事情就越多。特別是如果我想直接在 NAS 上做一點 LLM :stuck_out_tongue:

之後,它也可以加強轉碼功能,不過內建處理器已經可以做不少事情了。只是如果要做 RAG,顯示卡是必須的。

有一個有趣的討論:https://www.reddit.com/r/LocalLLaMA/comments/1qed3kg/rtx_pro_4000_sff_blackwell_for_selfhosted_services/

特別是 “abnormal_human” 的其中一則留言

你好,

嗯,我還是忍不住買了一張 RTX Pro 4000 Blackwell SFF。

首先,我注意到機殼裡還有空間。是不是還能再裝一張板子?

接著,當這張卡安裝後,系統無法啟動:

  • 當硬碟安裝時,NAS 會卡在「Power Up All Disks」訊息上
  • 當開機時移除硬碟,則會卡在「Hardware initialization」訊息上

我沒有電腦可以測試這張卡。

但 GT430 在 NAS 上不會有任何問題。

有什麼想法嗎?