大家好,
這幾天我發現我的 Ollama + Open WebUI 運作不太正常。查了一下後發現,Ollama 推理時現在是 CPU/GPU 混合運作,而之前幾個月一直都只有使用 GPU,效果一直很好。
當我關閉 Ollama 時,發現 VRAM 佔用超過 4.5GB,元兇就是:LLM Core。
自從 QSirch 之後,我已經刪除了本地模型,但情況沒有任何改變。
關掉 LLM Core 後,VRAM 使用量馬上降到 2MB。
請問有人知道原因嗎?
VRAM 被這樣吃掉真的很困擾。
QuTS hero:h6.0.3656
LLM Core:版本 1.1.1
Qsirch:版本 7.1.1.2
QNAP AI Core:版本 3.8.1
Container Station:3.1.4.2673
如果需要,我可以提出工單,也可以測試最新的 6.1 韌體。