ich besitze ein TVS-AIh1688ATX (QTS 6.0 beta 3), auf dem ich vielleicht eines Tages versucht sein könnte, RAG lokal auszuführen. Angesichts der Leistung des Netzteils in diesem NAS stellt sich mir die Frage, welche Grafikkarte oder RTX/RTX Pro (Blackwell) kompatibel sein könnte?
Laut Handbuch hat mein Netzteil 550W, was zum Beispiel nicht ausreicht, um eine RTX Pro 6000 zu betreiben (liegt ohnehin außerhalb meines Budgets), aber ich frage mich, ob eine 200W-Karte möglich wäre.
Die RTX PRO 4000 ist zum Beispiel mit 140W angegeben.
Vielen Dank, dass Sie auf einen möglichen Unterschied hingewiesen haben.
Eine RTX Pro 6000 scheint laut Internet 600W zu verbrauchen. Ich weiß nicht, ob das funktionieren würde, aber zumindest gibt es etwas mehr Spielraum für den Einbau einer Karte, wenn das Netzteil 750W und nicht 550W hat.
Laut der QNAP-Kompatibilitätsliste unterstützen die Treiber maximal die RTX 4060. Ich habe gerade eine ZOTAC Gaming GeForce RTX 4060 8GB Twin Edge OC DLSS 3 8GB GDDR6 128-bit 17 Gbps PCIE 4.0 in meinen ATX-AIH1688atx eingebaut, und sie wurde sofort erkannt. Nach der Installation wurde ich aufgefordert, den QNAP Nvidia-Treiber aus dem Store zu installieren. Ich habe sie als QTS-Gerät konfiguriert, sodass alle Apps sie sehen konnten. Weitere Auswahlmöglichkeiten waren meines Wissens Container Station und Virtualisierung irgendwas.
Es gibt noch eine weitere 4060 in der Liste. Ich habe den Hersteller vergessen, aber ich würde selbst nachschauen. Die Karte, die ich bekommen habe, ist laut Spezifikation größer als das, was der TVS-AHI1688 unterstützt, passt aber gerade so. Es waren Höhe und Breite, die knapp waren. Die Länge war in Ordnung. Die Stromversorgung erfolgte über einen einzelnen 8-Pin-Anschluss, der in deinem TVS-AHI1688 bereits vorhanden ist.
Ich bin nur daran interessiert, sie zum Transkodieren von Videos zu verwenden. Sie verarbeitet problemlos vier gleichzeitige 4K-Streams, und genau dafür wollte ich sie haben. Die NPU im 1688 ist für alle KI-Arbeiten, die ich derzeit habe, schnell genug, daher war der VRAM für mich beim Kauf nicht wirklich entscheidend.
Das größte Problem, das ich mit der RTX Pro 4000 SFF erwarten würde, ist, dass es keine QNAP-Treiber dafür gibt. Es ist eine Blackwell-basierte GPU (50xx) und aktuell sind die besten Treiber für die Ada Lovelace GPUs (40xx) verfügbar.
Wenn du planst, sie in einer virtuellen Umgebung zu betreiben, kannst du wahrscheinlich Treiber für diese spezifische VM laden, aber der große Vorteil von QNAP-Treibern ist, dass die 4060 in allen Anwendungen und auch in VMs erkannt wird (ungetestet, sollte aber funktionieren).
Deine 4000 wird nur einer bestimmten VM zur Verfügung stehen.
Aktualisierung meines vorherigen Beitrags aufgrund neuer Informationen. Von QNAP…
2026/02/13
[Neue Funktionen]
Unterstützung für NVIDIA RTX 50 Serie und Blackwell-Architektur GPU-Karten hinzugefügt.
[Wichtiger Hinweis]
Der NVIDIA GPU-Treiber 6.2.2 installiert die NVIDIA GPU-Treiberversion 575.64.05 und wählt dann den Kernel-Treibertyp (Open-Source oder proprietär) je nachdem aus, welche NVIDIA GPU-Karten in Ihrem NAS-Gerät installiert sind.
[Kompatibilität]
QTS/QuTS hero Firmware-Versionen 5.2.9 und neuer sind nur mit bestimmten Versionen des NVIDIA GPU-Treibers 6.2.2 und neuer kompatibel. Beim Aktualisieren der QTS/QuTS hero Firmware wird empfohlen, zuerst den NVIDIA GPU-Treiber zu aktualisieren, um zu vermeiden, dass der NVIDIA GPU-Treiber aufgrund von Kompatibilitätsproblemen vom System automatisch deaktiviert wird.
Es scheint also, dass sie Unterstützung für Blackwell hinzugefügt haben. Sie müssen nur sicherstellen, dass die 4000 pro physisch ins Gehäuse passt.
Ich hatte keine Zeit zu antworten, aber ja, ich hatte gesehen, dass die Blackwell von den Piloten unterstützt wurden und JasonHs Antwort ging in diese Richtung.
Konkret habe ich momentan nicht die finanziellen Mittel und meine ursprüngliche Nachricht war eher als mittelfristige Überlegung gedacht (für den Tag, an dem ich den Schritt wage).
Die 4060 scheint ein Kompromiss zu sein, aber wenn ich mich nicht irre, gilt: Je mehr VRAM, desto größer die Möglichkeiten. Vor allem, wenn ich ein bisschen LLM direkt auf dem NAS machen möchte
Danach wäre es eine Verstärkung fürs Transcoding, aber der interne Prozessor ermöglicht schon einiges. Nur für RAG ist eine Grafikkarte zwingend erforderlich.
Ich habe gestern ein Support-Ticket eröffnet. Aktuell umfasst das: Das Support-Team beobachtet das Problem, während die Karte im PCIe 16x-Slot steckt, und die Karte wird zum Verkäufer zurückgeschickt (da sie mit einem leicht beschädigten Lüfter angekommen ist – was auf Dauer die Lebensdauer verkürzen würde, weil er nicht richtig ausbalanciert ist – und wegen Problemen beim Neustart des PCs).
Wäre es nicht möglich, eine RTX Pro 4000 Blackwell (nicht SFF) oder eine RTX Pro 4500 Blackwell einzubauen? (Oder, falls das Budget es zulässt, ein noch leistungsstärkeres Modell.) Was würde das tatsächlich verhindern? Könnte man eventuell einen 6-Pin-auf-8-Pin-Adapter nutzen, um die Karte zu betreiben? (Sie benötigt zwei 8-Pin-Anschlüsse.)
Okay, die RTX PRO 6000 scheint für das neue QAI-h1290FX empfohlen zu werden, aber das Netzteil hat die gleiche Leistung. Die Storage-Komponente des Aih1688ATX zieht vermutlich mehr Strom als das QAI-h1290FX, aber es lässt sich weniger RAM einsetzen. Rein vom Stromverbrauch her ist es also (grob gesagt) etwa dasselbe, oder?
Wie siehst du das? Liege ich vollkommen falsch? Aber es scheint nichts wirklich einen „Zwang“ für die SFF-Version zu geben, wo die „normale“ Version für den gleichen Preis eine bessere Leistung bietet.
Es sind eigentlich nur die Stromanschlüsse auf dem Board, die eventuell irgendwann Probleme machen könnten.
Das klingt wirklich spannend. Danke, dass du mir Bescheid gibst. Ich hatte tatsächlich ein paar Probleme mit dem aktuellen NVIDIA-Treiber. Letzte Woche ist mir dadurch das gesamte System abgestürzt. Der Support hat den Bug bestätigt und meinte, er wird im nächsten Release behoben. Ich lasse außerdem Jellyfin Trickplay-Dateien erstellen, was mit der NVIDIA-Karte eigentlich viel schneller gehen sollte, aber tatsächlich ist es etwa halb so schnell wie mit der integrierten Intel-GPU. Insgesamt bin ich vom QNAP NVIDIA-Treiber nicht besonders beeindruckt. Wenn du mit der 4000 bessere Erfahrungen machst, sag mir Bescheid. Vielleicht hole ich mir dann auch eine.
Während der Installation der Karte in meinem NAS wurde der Start nicht verhindert; anders als bei der SFF-Version (laut Korrektur von QNAP) wurde sie gut erkannt, aber ich konnte nicht alle Informationen von der Karte abrufen und beim Einsatz des RAG von Qsirch gab es keine Auslastung.
Ich habe mein Support-Ticket aktualisiert und ein PM hat sich remote eingeschaltet. Dabei wurde festgestellt, dass die Treiber im NAS nicht zu meiner Karte passen (meiner Meinung nach wahrscheinlich, weil ich zuvor eine ältere Karte getestet hatte). Die Treiber wurden von der Person deinstalliert; ich habe sie anschließend aus dem App Center neu installiert.
Erkennungsprobleme hatte ich nicht (Temperatur, Lüftergeschwindigkeit, Prozessorlast und VRAM wurden angezeigt).
Für meinen Docker Plex lasse ich die iGPU auf dem Prozessor. Die RTX Pro habe ich exklusiv der Installation für das RAG und einem Ollama-Container zugewiesen.
Wie bereits in meiner vorherigen Nachricht erwähnt, mache ich mir Sorgen, dass die Ausführung des LLM-Modells auf die CPU umgeschaltet wird. Laut Beiträgen im anderen Thread warte ich auf ein Treiber-Update, das dieses Problem beheben könnte.
Update: Ich habe eine MSI GeForce RTX 5060 Ti 16GB SHADOW 2X OC PLUS in meinem TVS-AIh1688ATX unter h6.0.1.3550 getestet, und sie ist derzeit mit QNAPs mitgeliefertem NVIDIA 575.64.05-Treiberpaket nicht verwendbar.
Die Karte wird auf PCIe erkannt (10de:2d04 / GB206, Gen4 x8, Resizable BAR aktiv), aber die GSP-Firmware bleibt bei jedem Initialisierungsversuch hängen:
• RPC Event 0x1022 (RECOVERY_ACTION) während des GSP-Bootvorgangs
• RmInitAdapter: GSP-Firmware RM kann nicht initialisiert werden
• RmInitAdapter fehlgeschlagen (0x62:0x40:1941)
• Xid 62
• nvidia-smi: „No devices were found“
Ich habe die üblichen Ursachen ausgeschlossen: Kalte AC-Neustarts, PCI-Funktions-/Bus-Resets, saubere Neuinstallation von NVIDIA_GPU_DRV 6.2.2.1106, manuelle Installation des passenden TS-X88A NvKernelDriver 6.0.1.3550, sowie Überprüfung, dass die 575.64.05-Kernelmodule / GSP-Firmware mit dem laufenden 6.6.32-qnap-Kernel übereinstimmen. Der Steckplatz ist in Ordnung und meldet keine AER-Fehler.
Das wichtigste: Eine RTX 2070 funktioniert im selben Slot mit identischem Treiberpaket einwandfrei. Weitere Berichte hier zeigen, dass RTX 5060 und RTX Pro 4000 Blackwell Karten funktionieren, daher scheint es sich um ein Kompatibilitätsproblem speziell zwischen der 5060 Ti/aktuellen Platine und dem älteren 575-Zweig zu handeln – und nicht um einen allgemeinen Slot- oder Plattformfehler.
Ich habe ein QNAP-Supportticket Q-202607-41804 erstellt und einen aktualisierten 580.95.05+ oder 595.84-Treiberbuild angefragt (oder eine Beta-QPKG und einen Zeitrahmen). Außerdem habe ich einen separaten Firmware-Upgrade-Bug gemeldet, bei dem veraltete 5.2.7-Werte in /etc/config/uLinux.conf die automatische Installation von NvKernelDriver nach einem Upgrade auf 6.0.1 verhinderten.
.
