みなさん、こんにちは。
ここ数日、Ollama + Open WebUI の調子が良くなく、少し調べてみたところ、Ollama での推論が CPU と GPU のミックスで行われていることが分かりました。それまでは数ヶ月間、GPU のみで問題なく動作していたのですが。
Ollama を無効化したところ、4.5GB 以上の VRAM が占有されていることに気付きました。原因は LLM Core でした。
QSirch もアンインストールし、ローカルモデルも削除しましたが、状況は変わりません。
無効化すると、VRAM の使用量が 2MB まで下がります。
なぜこんなことになるのか、ご存じの方いらっしゃいますか？
VRAM をこんなに食い続けているのはかなり困っています。
QuTS hero: h6.0.3656
LLM Core: バージョン 1.1.1
Qsirch: バージョン 7.1.1.2
QNAP AI Core: バージョン 3.8.1
Container Station: 3.1.4.2673
必要であれば、チケットを開いてみますし、いずれは新しい 6.1 ファームウェアでもテストしてみるつもりです。