Hallo,
Am Wochenende habe ich mein NAS komplett zurückgesetzt und die neueste Firmware verwendet: h6.0.3564 Build 20260723.
Während der Installation vor dem Reset wurden die neuen nvkernerdriver-Treiber automatisch installiert.
Nach dem Reset war es unmöglich, ein Modell auf Ollama neu zu starten; am Ende funktionierte es erst nach einem Neustart (nach der Installation der Nvidia-Treiber). Trotzdem war es heute Morgen erneut unmöglich, ein Modell auf der GPU zu starten.
Wie am Wochenende gab es diese Fehlermeldungen in „dmesg“:
[59082.857111] NVRM: nvCheckOkFailedNoLog: Check failed: Out of memory [NV_ERR_NO_MEMORY] (0x00000051) returned from _memdescAllocInternal(pMemDesc) @ mem_desc.c:1353
[59082.871729] NVRM: faultbufCtrlCmdMmuFaultBufferRegisterNonReplayBuf_IMPL: Error allocating client shadow fault buffer for non-replayable faults
[59083.013898] NVRM: nvCheckOkFailedNoLog: Check failed: Out of memory [NV_ERR_NO_MEMORY] (0x00000051) returned from _memdescAllocInternal(pMemDesc) @ mem_desc.c:1353
[59083.028519] NVRM: faultbufCtrlCmdMmuFaultBufferRegisterNonReplayBuf_IMPL: Error allocating client shadow fault buffer for non-replayable faults
[59083.568050] NVRM: nvCheckOkFailedNoLog: Check failed: Out of memory [NV_ERR_NO_MEMORY] (0x00000051) returned from _memdescAllocInternal(pMemDesc) @ mem_desc.c:1353
[59083.582684] NVRM: faultbufCtrlCmdMmuFaultBufferRegisterNonReplayBuf_IMPL: Error allocating client shadow fault buffer for non-replayable faults
[59083.638931] NVRM: nvCheckOkFailedNoLog: Check failed: Out of memory [NV_ERR_NO_MEMORY] (0x00000051) returned from _memdescAllocInternal(pMemDesc) @ mem_desc.c:1353
[59083.653570] NVRM: faultbufCtrlCmdMmuFaultBufferRegisterNonReplayBuf_IMPL: Error allocating client shadow fault buffer for non-replayable faults
[59084.839297] NVRM: nvCheckOkFailedNoLog: Check failed: Out of memory [NV_ERR_NO_MEMORY] (0x00000051) returned from _memdescAllocInternal(pMemDesc) @ mem_desc.c:1353
[59084.853921] NVRM: faultbufCtrlCmdMmuFaultBufferRegisterNonReplayBuf_IMPL: Error allocating client shadow fault buffer for non-replayable faults
Ein Neustart des Ollama-Containers hat nicht ausgereicht, um eine funktionierende Karte zu erhalten. Ich musste das NAS neu starten.
Seit dem Reset konnte ich endlich eine VM fehlerfrei und ohne Probleme im virtuellen Switch installieren.
Das führt jedoch unvermeidlich zu Zeitverlust, und die Backups müssen korrekt verwaltet werden.
Während meiner Recherche am Wochenende, um die Grafikkarte zum Laufen zu bringen, bin ich auf diesen Beitrag gestoßen; ich habe nur wenig Lust, dessen Empfehlungen zu folgen: Getting GPU-Accelerated PaddlePaddle Working in Docker on QNAP NAS
Außer QNAP verbessert die Situation