AI Service Center 1.0.0 Beta ist da: Eine zentrale Plattform zur Verwaltung von lokalem und Cloud-AI auf dem NAS

[Vivian]

Wir freuen uns, ankündigen zu können, dass AI Service Center 1.0.0 Beta jetzt im App Center verfügbar ist. Probier es aus und sag uns, was du davon hältst!

Mit immer mehr KI-Apps auf dem NAS brauchte bislang jede ihr eigenes Modell und verwaltete ihre eigenen API-Keys. Das machte es für Administratoren schwer nachzuvollziehen, welche Modelle gerade laufen, wohin Daten gehen und wie viel Geld ausgegeben wird. Genau dafür wurde das AI Service Center entwickelt: Es ist der KI-Kontrollhub auf deinem NAS. Modelle und Schlüssel einmal einrichten – und jede KI-App kann darauf zugreifen.

Überblick über die neuen Funktionen

1. Lokale Modellbibliothek: Deployment in zwei Schritten, ganz ohne Kommandozeile

Wähle ein Modell aus der von QNAP geprüften Liste und entscheide dich für CPU, GPU, integrierte Grafik oder NPU. Das System lädt und aktiviert das Modell automatisch im Hintergrund. Du siehst für jedes Modell die Größe, den Speicherbedarf und die unterstützten Funktionen; Laufzeitumgebungen von NVIDIA und Intel werden unterstützt.

2. Cloud-Anbieter: Dein eigenes Cloud-Budget festlegen

Verbinde deine eigenen OpenAI-, Azure OpenAI-, Gemini-, Claude- oder OpenAI-kompatiblen Endpunkte. Setz beim Hinzufügen eines Anbieters ein monatliches Ausgabenlimit und behalte Status sowie Kostenübersicht auf einer einzigen Seite im Blick. Apps können nur die Modelle nutzen, die du explizit freigegeben hast.

3. App-Integration: Eine Änderung für alle

Apps registrieren sich automatisch bei der Installation. Du musst nur festlegen, welches lokale Modell oder welche Cloud-Option für welche Funktion genutzt werden soll. Qsirch und QuAgent werden derzeit unterstützt.

4. Aktivitätsprotokoll: Jeder Aufruf nachvollziehbar

Jeder Aufruf wird mit Zeit, App, Modell, Token-Anzahl, Kosten und Latenz protokolliert. Du kannst filtern, als CSV exportieren und verwandte Systemereignisse in derselben Oberfläche einsehen.

Jetzt herunterladen

AI Service Center 1.0 Beta ist im App Center verfügbar und die App selbst ist lizenzfrei. Wenn du einen Cloud-Anbieter nutzt, zahlst du den Anbieter direkt entsprechend deiner Nutzung. Dies ist eine Beta-Version – Funktionen und Oberfläche können sich bis zur offiziellen Veröffentlichung noch ändern.

Systemvoraussetzungen

• QTS 6.1.0 oder neuer oder QuTS hero h6.1.0 oder neuer
• Cloud-Anbieter: Unterstützung für x86- und ARM64-Modelle, kein GPU erforderlich
• Lokale Modellbibliothek: Nur x86-Modelle, mit zertifizierter kompatibler GPU; relevante Laufzeiten und Modellpakete müssen installiert sein

Wir freuen uns auf dein Feedback

Vielen Dank für deine anhaltende Unterstützung der QNAP-Community. Wir haben das AI Service Center entwickelt, um KI auf NAS einfacher einzuführen und vertrauenswürdiger zu machen. Dein Feedback während der Beta-Phase fließt direkt in die finale Version ein. Teile uns in den Kommentaren mit, wie es für dich funktioniert.

Mehr erfahren: Produktseite | Versionshinweise

[antik]

„Sowohl NVIDIA- als auch Intel-Laufzeitumgebungen werden unterstützt“ – Hast du eine Idee, warum ich im NAS TVS-AIh1688ATX keinen „Intel“-Tab sehe? Dieses NAS hat eine iGPU, also sollte der „Intel“-Tab eigentlich auch sichtbar sein.

[Vivian]

Hi @antik,

vielen Dank, dass du das bemerkt hast, und entschuldige die Verwirrung. Der Satz im Beitrag war unser Fehler: Der Intel-Tab ist in dieser 1.0.0-Beta-Version noch nicht enthalten. Er wird mit unserer nächsten Version erscheinen, voraussichtlich gegen Ende November.

Noch etwas, damit deine Erwartungen zum TVS-AIh1688ATX passen: Die Rechenleistung der integrierten Intel-iGPU reicht für KI-Aufgaben wie Gesichts- und Objekterkennung aus, aber nicht für das Ausführen von LLMs (Large Language Models). Selbst wenn der Intel-Tab verfügbar ist, würdest du für lokale LLMs auf diesem Modell weiterhin eine NVIDIA-GPU benötigen, oder du kannst in der Zwischenzeit die Cloudanbieter-Funktion nutzen, um ein Cloud-Modell zu verbinden.

[antik]

Hi, und danke für die Info. Nächste Frage: Wird die Intel-iGPU leistungsstark genug sein, um Befehle in QuAgent auszuführen, zum Beispiel den Status des NAS abzufragen, oder muss hierfür ebenfalls eine GPU zugewiesen werden?

[Vivian]

Hi @antik,
Der TVS-AIh1688ATX unterstützt zwar KI-Funktionen, aber wenn du dich nur auf die Intel iGPU oder NPU verlässt, bist du auf kleinere Modelle wie Qwen 2.5 7B oder Qwen3.5 9B beschränkt. In dieser Größenordnung sind Antwortgeschwindigkeit und Genauigkeit oft nicht besonders zufriedenstellend.

Für ein besseres QuAgent-Erlebnis hast du zwei Möglichkeiten:

• Verwende ein größeres lokales Modell, indem du eine kompatible NVIDIA-GPU hinzufügst.
• Verbinde ein Cloud-Modell über die Cloud-Anbieter im AI Service Center und setze ein monatliches Ausgabenlimit, um die Kosten im Griff zu behalten.

[Sevenfeet]

Ich bin neugierig, das auf meinem TVS-h1688x auszuprobieren. Normalerweise installiere ich keine Betaversionen, aber das AI Service Center klingt interessant, da ich meinen 1688x in den letzten Monaten häufiger für KI genutzt habe. Außerdem interessiert mich, wie ich OpenAI-Endpunkte sowohl für ChatGPT selbst als auch für mein Mac Studio mit LM Studio nutzen kann. Da Qsirch jetzt eine 16-GB-GPU benötigt, frage ich mich: Muss es zwingend eine lokale GPU sein, oder kann man diese Aufgaben auch an einen OpenAI-Endpunkt auslagern?