適用於AI、Qumagie等的GPU

嗨,我已經嘗試過 RTX 3060 和 RTX 1070,QNAP 都能識別,但無法用於 AI Qsirch 和 Qmagie。我正打算訂購 RTX 2000 ADA,但想確定它能否正常運作。我們使用的是 TS-2888x。有人可以提供建議嗎?

謝謝,

Hrvije

嗨 Hrvije,

QuMagie:目前尚未支援外接顯示卡加速。

Qsirch:最新的 LLM 搭配 RAG 可支援本地端顯示卡。請確認您已更新至最新的 QTS 版本。

Qsirch 5.6.0(或更新版本)

  • 64 位元 x86 及 64 位元 ARM 架構 NAS

  • QTS 5.0.1(或更新版本)或 QuTS hero h5.0.1(或更新版本)

  • 至少 2GB RAM(建議 4GB RAM 以獲得最佳效能)

專屬 QNAP NAS 的 AI 驅動 RAG 企業搜尋 | QNAP

NVIDIA 2000 ADA 預計在幾個月後進入生命週期終止(EOL),將由 RTX Pro 2000 Blackwell 取代。

目前的 NVIDIA GPU 核心驅動程式 v5.2.9.3451 Build 20260327 尚未支援 RTX Pro 2000 Blackwell。我們正在開發新驅動程式,並將於稍後針對 TS-2888X 測試 RTX Pro 2000 Blackwell 的相容性。

Hello Hrvije

另外,請您檢查以下設定嗎?

  1. 控制台 → 硬體 → 硬體資源
    如果您需要加速 RAG 搜尋,請選擇「QTS 模式」

  1. Qsirch 設定頁面的截圖或資訊
    以我的例子來說,顯示缺少 LLM Core

嗨,

感謝您的回覆。我已經嘗試過 3060 RTX 和 1070,系統都能顯示出來,但我無法將它分配給任何應用程式。我已經訂購了 P2200,我相信它應該可以直接使用。

謝謝,

Hrvoje

我按照你的建議,把它切換到 QTS 模式了,但 Qmagie 或 Qsirch 只用 CPU,沒有用到 GPU。這是因為 1070 和 3060 不在相容清單上嗎?

嗨 Hrvoje

請問您能確認一下您機器上 NVIDIA 驅動程式的版本嗎?

嗨 Hrvoje

那你能在 Qsirch 裡看到這個頁面嗎?

image

是的,我已經讓它運作起來了。但 GPU 不應該設為 QTS 模式來進行 AI 工作嗎?使用 P2200 Quadro(P2200 wuadro)相比 1070/3060 會有什麼好處嗎?

看起來很棒。你可以選擇一些小型的 LLM 模型來測試,比如 Qwen3.5 4B 或 Gemma3 1B。

另外,我認為 RTX 3060 更適合用於 AI 或 LLM 任務。

謝謝!那麼 P2200 沒有幫助嗎?

另外,在 QuMagie 的 AI 功能中,說明物件辨識會使用 GPU,但實際上並沒有。我要如何讓它使用 GPU 來加快處理速度?

2022 年的 ADA Gen GPU 就要 EOL?它現在還在全新 DELL 工作站上販售……你確定這不只是停售/停產嗎?

我知道他們會把非 RTX 顯卡(例如 1080TI)放進 EOL 生命週期,但那張卡已經有 9 年歷史了。

NVIDIA Quadro P2200 也能運作,但我比較了它們的規格後,認為 RTX 3060 對於 AI 來說更好,因為它有較新的 GPU 架構、更高的 GPU 頻率以及更多的 VRAM。

RTX 2000 Ada 還沒有到達產品終止(EOL),但很快就會了。所以如果你能再等幾個月,我認為新一代的 Blackwell 會有更高的性價比。

嗨 Hrvoje

有一種可能性是 QuMagie 為了避免影響系統運作,限制了此部分的提交數量。由於您的機器效能極高,導致系統的處理速度遠超過 QuMagie 的提交速度,因此可能無法立即察覺 GPU 正在被使用。

為了確認這個假設,建議您提交請求給我們的 HelpDesk,讓我們的研發團隊進一步調查。

https://www.qnap.com/zh-tw/how-to/tutorial/article/how-to-use-the-helpdesk-app-to-solve-issues-and-provide-feedback

嗨,

請問你是如何讓 GPU 與 Qsirch 配合 RAG 搜尋運作的?
我的 NAS 是 TS-873A,搭載 QuTS Hero 5.2.9,並且已經將 RTX3050 6G 設定為 QTS 模式(如你的截圖所示),但 Qsirch 堅持 GPU 必須設為 Container Station 模式。如果我把唯一的 GPU 設為 Container 模式,那其他地方(硬體轉檔等)就無法使用了。
所有應用程式和韌體都已更新到最新版本。

你好,如果我把 3060 RTX 裝在 QTS 裡,它會被用來做物件辨識和其他 AI 工作嗎?我在 QNAP AI Core 裡設定不了用它。