哪款顯示卡適合我的 TVS-AIh1688ATX 用於本地 RAG

你好,

在退回 RTX Pro 4000 Blackwell SFF 之後,我終於入手了 RTX Pro 4000 Blackwell。

這是唯一實體能夠通過機殼的顯卡。此外,我也能以與 SFF 型號相同的購買價格,完全發揮 4000 全部的性能。

顯卡立即被辨識(不是 SFF 版本,SFF 需要待未來韌體更新期間BIOS 的後續更新)。

顯卡運作一切良好,但我也和其他人一樣,遇到在運行 LLM 模型時,從 GPU 切換到 CPU 會出現問題:Ollama cannot use GPU in Docker on QNAP (RTX 3090, CUDA init fails) - #10 by achimede333

無論如何,非常感謝你的回覆與協助 :wink: