哪款顯示卡適合我的 TVS-AIh1688ATX 用於本地 RAG

您好,

我擁有一台 TVS-AIh1688ATX(QTS 6.0 beta 3),未來有可能會想在本地執行 RAG。考慮到這台 NAS 的電源供應器功率,哪一款顯示卡或 RTX/RTX Pro(blackwell)會相容呢?

根據說明書,我的電源供應器是 550W,顯然不足以驅動 RTX Pro 6000(預算也超出),但我在想 200W 的顯示卡是否可以運作。

例如 RTX PRO 4000 的標示功耗為 140W。

我參考了:

感謝您的協助,敬祝安好

小提醒:規格表上標明,這款NAS出廠時配備的是750W電源供應器(而非550W)。


https://www.qnap.com/en/product/tvs-aih1688atx/specs/hardware

感謝您的回覆。

我想我必須拆開機殼才能檢查,因為我之前是根據這份文件設定的:https://eu1.qnap.com/TechnicalDocument/Storage/Enterprise%20NAS/tvs-aih1688atx/tvs-aih1688atx-ug-en-us.pdf

這份文件上標示的是550W。

感謝您讓我注意到有這個差異。

另外,根據網路上的資料,RTX Pro 6000 似乎會消耗600W。我不確定是否會超過,但如果電源供應器是750W而不是550W,安裝顯示卡時至少會有多一點餘裕。

經過實體驗證,這是一台750W。

可以看看最大能提供多少功率。不過知道這個數值後,如果我想,也可以選擇功耗更高的顯示卡。

總之,說明書是錯的,網站上的資訊才是正確的 :sweat_smile:

Hi achimede333,

隨附的電源供應器為750W。我們將很快修訂使用手冊。

RTX Pro 6000僅建議用於即將推出的QNAP QAI-h1290FX NAS。

RTX Pro 4000 SFF可安裝於TVS-AIh1688ATX機殼,且電力需求也符合。

RTX Pro 2000將於未來的GPU驅動程式更新中獲得支援。

您好,

感謝您的回覆。

「RTX Pro 4000 Blackwell」或「RTX Pro 5000 Blackwell」這兩個版本不能使用嗎?

是因為顯示卡長度的關係嗎?

根據 QNAP 相容性列表,驅動程式最高只支援到 RTX 4060。我剛在我的 ATX-AIH1688atx 上安裝了一張 ZOTAC Gaming GeForce RTX 4060 8GB Twin Edge OC DLSS 3 8GB GDDR6 128-bit 17 Gbps PCIE 4.0,系統立刻就識別到了。安裝後系統提示我從應用商店安裝 QNAP Nvidia 驅動程式。我把它設為 QTS 裝置,這樣所有應用程式都能看到它。我記得其他選項還有 Container Station 和 Virtualization 之類的。

列表中還有另一張 4060,我忘了是什麼品牌,不過你可以自己查查看。雖然這張卡規格上比 TVS-AHI1688 支援的尺寸大,但剛好可以裝進去。主要是高度和寬度比較緊湊,長度沒問題。供電是單一 8 pin,你的 TVS-AHI1688 已經有提供。

你好,感謝你的回覆。

請問它和4060搭配效果如何?

這個價格非常有吸引力,但功耗比RTX Pro 4000 SFF還高,不過後者的價格非常昂貴。

另外,我在想4000的記憶體(VRAM)容量會不會讓它能運行更強大的模型。

你怎麼看?

我只對用它來轉碼影片有興趣。它可以毫無問題地處理(4)路同時4K串流,這正是我想要的。1688裡的NPU速度已經足夠應付我目前所有的AI工作,所以我買的時候其實不太在意VRAM。

我預期RTX Pro 4000 SFF最大問題是沒有QNAP專用的驅動程式。它是Blackwell架構的GPU(50xx),目前最好的驅動程式是針對Ada Lovelace架構的GPU(40xx)。

如果你打算在虛擬環境中運行,應該可以為特定的VM安裝驅動程式,但有QNAP驅動程式的最大優勢是4060可以被所有應用程式和VM看到(雖然我沒試過,但理論上可行)。

你的4000只會被特定的VM看到。

根據新資訊,更新我之前的貼文。來自 QNAP…

2026/02/13

【新功能】

  • 新增支援 NVIDIA RTX 50 系列及 Blackwell 架構 GPU 顯示卡。

【重要說明】

  • NVIDIA GPU Driver 6.2.2 會安裝 NVIDIA GPU 驅動程式版本 575.64.05,然後根據您 NAS 裝置上安裝的 NVIDIA GPU 顯示卡,自動選擇核心驅動程式類型(開源或專有)。

【相容性】

  • QTS/QuTS hero 韌體版本 5.2.9 及以後版本僅相容於特定版本的 NVIDIA GPU Driver 6.2.2 及以後版本。當更新 QTS/QuTS hero 韌體時,建議先更新 NVIDIA GPU Driver,以避免因相容性問題導致系統自動停用 NVIDIA GPU Driver。

所以看起來他們已經加入對 Blackwell 的支援,只要確保 4000 pro 實體能放進機殼裡即可。

有進展請告訴我!

你好,

感謝你的回覆。

我之前沒有時間回應,但沒錯,我有看到 Blackwell 受到了飛行員的支持,而且 JasonH 的回覆也是這個方向。

具體來說,我目前沒有預算,而我最初的訊息只是為了中期的思考(等到哪天我真的要下決心時)。

4060 看起來是一個折衷方案,但除非我搞錯了,VRAM 越多,能做的事情就越多。特別是如果我想直接在 NAS 上做一點 LLM :stuck_out_tongue:

之後,它也可以加強轉碼功能,不過內建處理器已經可以做不少事情了。只是如果要做 RAG,顯示卡是必須的。

有一個有趣的討論:https://www.reddit.com/r/LocalLLaMA/comments/1qed3kg/rtx_pro_4000_sff_blackwell_for_selfhosted_services/

特別是 “abnormal_human” 的其中一則留言

你好,

嗯,我還是忍不住買了一張 RTX Pro 4000 Blackwell SFF。

首先,我注意到機殼裡還有空間。是不是還能再裝一張板子?

接著,當這張卡安裝後,系統無法啟動:

  • 當硬碟安裝時,NAS 會卡在「Power Up All Disks」訊息上
  • 當開機時移除硬碟,則會卡在「Hardware initialization」訊息上

我沒有電腦可以測試這張卡。

但 GT430 在 NAS 上不會有任何問題。

有什麼想法嗎?

我昨天開了一個支援工單,目前的情況是:支援團隊正在監控問題,讓該卡插在 PCIe 16x 插槽中,同時也準備把這張卡退還給賣家(因為它寄來時風扇有點損壞——這會影響風扇平衡,進而縮短壽命——而且在重啟電腦時也有出現問題)。

能不能安裝 RTX Pro 4000 Blackwell(不是 SFF 版)或 RTX Pro 4500 Blackwell?(如果預算允許,甚至更高階的型號呢?)實際上有什麼會阻礙這麼做?能不能用 6-pin 轉 8-pin 轉接頭來給顯卡供電?(這張卡需要兩組 8-pin 接頭)

好吧,RTX PRO 6000 似乎是為新的 QAI-h1290FX 推薦的,但電源供應容量是相同的。Aih1688ATX 的儲存元件可能比 QAI-h1290FX 更耗電,但它支援的記憶體較少。所以就功耗而言,(大致來說)應該差不多吧?(RTX Pro 6000 Blackwell 整卡功耗為 600W,而 RTX Pro 6000 Max-Q 為 300W)

你怎麼看?我是不是搞錯了?但似乎沒有什麼明確的理由「必須」用 SFF 版,畢竟同樣價格下,「標準」版性能更好。

唯一有疑慮的,可能就只是主機板上的電源接頭長久下來會不會撐不住。

你好,

在退回 RTX Pro 4000 Blackwell SFF 之後,我終於入手了 RTX Pro 4000 Blackwell。

這是唯一實體能夠通過機殼的顯卡。此外,我也能以與 SFF 型號相同的購買價格,完全發揮 4000 全部的性能。

顯卡立即被辨識(不是 SFF 版本,SFF 需要待未來韌體更新期間BIOS 的後續更新)。

顯卡運作一切良好,但我也和其他人一樣,遇到在運行 LLM 模型時,從 GPU 切換到 CPU 會出現問題:Ollama cannot use GPU in Docker on QNAP (RTX 3090, CUDA init fails) - #10 by achimede333

無論如何,非常感謝你的回覆與協助 :wink:

這真的很令人興奮,感謝你告訴我。我其實最近用目前的 NVIDIA 驅動也遇到一些問題。上週它直接讓我的系統整個當掉。官方支援也承認有這個 bug,說下個版本會修正。我也有用 Jellyfin 產生 trickplay 檔案,理論上用 NVIDIA 卡應該會快很多,但實際上讓它用 Intel 整合式 GPU 效能大概只有一半而已。整體來說我對 QNAP 的 NVIDIA 驅動沒有太好印象。如果你用 4000 有比較好的體驗再跟我說,也許我就會自己買一張來試試看。

你好,

我將這張卡安裝在我的NAS上時,啟動沒有受到影響;與SFF版(QNAP提供的修正)不同,這張卡可以被正常識別,但我無法在Qsirch的RAG中獲取所有來自該卡的信息,也沒有任何負載顯示。

我更新了技術支援單,接著有專員遠端協助,發現NAS內的驅動程式與我的顯卡不符(我認為可能是之前測試過較舊卡片所致)。對方先卸載掉驅動,我再從App Center重新安裝了一次。

在這之後,卡片識別沒有問題(溫度、風扇轉速、處理器負載和顯存都能偵測)。

至於我的docker Plex,我依然將iGPU保留給處理器。RTX Pro則專門留給RAG的安裝和Ollama容器使用。

正如我上一則訊息提到的,我目前比較擔心將LLM模型的負載切換給CPU。根據其他討論串的資訊,我正等待更新版的驅動釋出,希望能修正這個問題。

更新:我在 TVS-AIh1688ATX 上搭載 MSI GeForce RTX 5060 Ti 16GB SHADOW 2X OC PLUS,搭配 h6.0.1.3550,並測試了 QNAP 隨附的 NVIDIA 575.64.05 驅動組,目前無法正常使用。

該顯卡能在 PCIe(10de:2d04 / GB206, Gen4 x8, Resizable BAR 已啟用)被偵測到,但每次嘗試初始化時,GSP 韌體都會中止:

• GSP 開機時 RPC event 0x1022(RECOVERY_ACTION)
• RmInitAdapter:無法初始化 GSP 韌體 RM
• RmInitAdapter 失敗(0x62:0x40:1941)
• Xid 62
• nvidia-smi:「未偵測到任何裝置」

我已排除常見原因:AC 冷開機、PCI 功能/匯流排重置、乾淨重裝 NVIDIA_GPU_DRV 6.2.2.1106、手動安裝對應的 TS-X88A NvKernelDriver 6.0.1.3550、確認 575.64.05 核心模組/GSP 韌體確實對應運行中的 6.6.32-qnap 核心。插槽本身健康,沒有 AER 錯誤。

最重要的是,RTX 2070 在相同插槽、相同驅動組下運作完全正常。其他用戶也回報 RTX 5060 和 RTX Pro 4000 Blackwell 卡可正常運作,所以這看起來是 5060 Ti/現有主機板與舊 575 分支不相容的問題,而不像是插槽或平台的通用性故障。

我已提交 QNAP 支援單 Q-202607-41804,申請更新至 580.95.05+ 或 595.84 的驅動(或測試用 QPKG 與時程)。我也回報另一個韌體升級 bug,即 /etc/config/uLinux.conf 裡過時的 5.2.7 參數,會導致升級到 6.0.1 後 NvKernelDriver 無法自動安裝。

相關上游回報:

https://forums.developer.nvidia.com/t/rtx-5060-ti-oculink-gsp-firmware-crash-on-575-51-02-with-linux-6-8-12/333962

QNAP 有回覆或新版驅動釋出時我會再更新這串討論。