ich besitze ein TVS-AIh1688ATX (QTS 6.0 beta 3), auf dem ich vielleicht eines Tages versucht sein könnte, RAG lokal auszuführen. Angesichts der Leistung des Netzteils in diesem NAS stellt sich mir die Frage, welche Grafikkarte oder RTX/RTX Pro (Blackwell) kompatibel sein könnte?
Laut Handbuch hat mein Netzteil 550W, was zum Beispiel nicht ausreicht, um eine RTX Pro 6000 zu betreiben (liegt ohnehin außerhalb meines Budgets), aber ich frage mich, ob eine 200W-Karte möglich wäre.
Die RTX PRO 4000 ist zum Beispiel mit 140W angegeben.
Vielen Dank, dass Sie auf einen möglichen Unterschied hingewiesen haben.
Eine RTX Pro 6000 scheint laut Internet 600W zu verbrauchen. Ich weiß nicht, ob das funktionieren würde, aber zumindest gibt es etwas mehr Spielraum für den Einbau einer Karte, wenn das Netzteil 750W und nicht 550W hat.
Laut der QNAP-Kompatibilitätsliste unterstützen die Treiber maximal die RTX 4060. Ich habe gerade eine ZOTAC Gaming GeForce RTX 4060 8GB Twin Edge OC DLSS 3 8GB GDDR6 128-bit 17 Gbps PCIE 4.0 in meinen ATX-AIH1688atx eingebaut, und sie wurde sofort erkannt. Nach der Installation wurde ich aufgefordert, den QNAP Nvidia-Treiber aus dem Store zu installieren. Ich habe sie als QTS-Gerät konfiguriert, sodass alle Apps sie sehen konnten. Weitere Auswahlmöglichkeiten waren meines Wissens Container Station und Virtualisierung irgendwas.
Es gibt noch eine weitere 4060 in der Liste. Ich habe den Hersteller vergessen, aber ich würde selbst nachschauen. Die Karte, die ich bekommen habe, ist laut Spezifikation größer als das, was der TVS-AHI1688 unterstützt, passt aber gerade so. Es waren Höhe und Breite, die knapp waren. Die Länge war in Ordnung. Die Stromversorgung erfolgte über einen einzelnen 8-Pin-Anschluss, der in deinem TVS-AHI1688 bereits vorhanden ist.
Ich bin nur daran interessiert, sie zum Transkodieren von Videos zu verwenden. Sie verarbeitet problemlos vier gleichzeitige 4K-Streams, und genau dafür wollte ich sie haben. Die NPU im 1688 ist für alle KI-Arbeiten, die ich derzeit habe, schnell genug, daher war der VRAM für mich beim Kauf nicht wirklich entscheidend.
Das größte Problem, das ich mit der RTX Pro 4000 SFF erwarten würde, ist, dass es keine QNAP-Treiber dafür gibt. Es ist eine Blackwell-basierte GPU (50xx) und aktuell sind die besten Treiber für die Ada Lovelace GPUs (40xx) verfügbar.
Wenn du planst, sie in einer virtuellen Umgebung zu betreiben, kannst du wahrscheinlich Treiber für diese spezifische VM laden, aber der große Vorteil von QNAP-Treibern ist, dass die 4060 in allen Anwendungen und auch in VMs erkannt wird (ungetestet, sollte aber funktionieren).
Deine 4000 wird nur einer bestimmten VM zur Verfügung stehen.
Aktualisierung meines vorherigen Beitrags aufgrund neuer Informationen. Von QNAP…
2026/02/13
[Neue Funktionen]
Unterstützung für NVIDIA RTX 50 Serie und Blackwell-Architektur GPU-Karten hinzugefügt.
[Wichtiger Hinweis]
Der NVIDIA GPU-Treiber 6.2.2 installiert die NVIDIA GPU-Treiberversion 575.64.05 und wählt dann den Kernel-Treibertyp (Open-Source oder proprietär) je nachdem aus, welche NVIDIA GPU-Karten in Ihrem NAS-Gerät installiert sind.
[Kompatibilität]
QTS/QuTS hero Firmware-Versionen 5.2.9 und neuer sind nur mit bestimmten Versionen des NVIDIA GPU-Treibers 6.2.2 und neuer kompatibel. Beim Aktualisieren der QTS/QuTS hero Firmware wird empfohlen, zuerst den NVIDIA GPU-Treiber zu aktualisieren, um zu vermeiden, dass der NVIDIA GPU-Treiber aufgrund von Kompatibilitätsproblemen vom System automatisch deaktiviert wird.
Es scheint also, dass sie Unterstützung für Blackwell hinzugefügt haben. Sie müssen nur sicherstellen, dass die 4000 pro physisch ins Gehäuse passt.
Ich hatte keine Zeit zu antworten, aber ja, ich hatte gesehen, dass die Blackwell von den Piloten unterstützt wurden und JasonHs Antwort ging in diese Richtung.
Konkret habe ich momentan nicht die finanziellen Mittel und meine ursprüngliche Nachricht war eher als mittelfristige Überlegung gedacht (für den Tag, an dem ich den Schritt wage).
Die 4060 scheint ein Kompromiss zu sein, aber wenn ich mich nicht irre, gilt: Je mehr VRAM, desto größer die Möglichkeiten. Vor allem, wenn ich ein bisschen LLM direkt auf dem NAS machen möchte
Danach wäre es eine Verstärkung fürs Transcoding, aber der interne Prozessor ermöglicht schon einiges. Nur für RAG ist eine Grafikkarte zwingend erforderlich.
.
