Es freut uns, euch mitteilen zu können, dass AI Service Center 1.0.0 jetzt zum Download bereitsteht. Ihr könnt es ganz einfach im App Center installieren und ausprobieren!
Mit der zunehmenden Anzahl von KI-Anwendungen auf NAS-Systemen mussten bisher alle Apps ihre eigenen Modelle suchen und API-Keys separat verwalten. Für Administratoren war es deshalb schwierig, einen Überblick darüber zu behalten, welche Modelle laufen, wohin Daten fließen und wie viel Geld ausgegeben wird. AI Service Center wurde genau aus diesem Grund entwickelt: Es ist das zentrale Cockpit für KI auf dem NAS. Modelle und Schlüssel müssen nur einmal eingerichtet werden – alle KI-Apps können sie dann direkt gemeinsam nutzen.
Übersicht der neuen Funktionen
1. Lokale Modellbibliothek: Deployment in zwei Schritten, ganz ohne Kommandozeile
Wähle einfach ein Modell aus der von QNAP geprüften Liste, gib CPU, GPU, interne oder NPU an – das System lädt und installiert das Modell im Hintergrund automatisch. Alle Modelle sind mit Größenangaben, Speicherbedarf und verfügbaren Funktionen versehen und unterstützen sowohl NVIDIA- als auch Intel-Ausführungsumgebungen.
2. Cloud-Anbieter: Cloud nutzen, Budget selbst festlegen
Verbinde deine eigenen OpenAI-, Azure OpenAI-, Gemini-, Claude- oder OpenAI-kompatiblen Endpunkte. Beim Hinzufügen kannst du direkt ein monatliches Budgetlimit festlegen und siehst Status und Kosten auf einen Blick. Modelle, die du nicht explizit freigibst, können von Anwendungen nicht genutzt werden.
3. App-Integration: Einmal ändern, überall anwenden
Nach der Installation werden Apps automatisch registriert. Du musst dann nur noch zentral festlegen, welche lokale Modell-Version oder ob die Cloud verwendet werden soll. Aktuell werden Qsirch und QuAgent unterstützt.
4. Aktivitätsprotokoll: Jede Anfrage ist nachvollziehbar
Zeitpunkt, App, Modell, Token, Kosten und Latenz werden protokolliert und lassen sich filtern sowie als CSV exportieren. Auch systembezogene Ereignisse sind über dieselbe Oberfläche einsehbar.
Jetzt herunterladen
AI Service Center 1.0.0 Beta kann ab sofort über das App Center installiert werden. Die Anwendung selbst ist lizenzkostenfrei. Für genutzte Cloud-Anbieter fallen die Gebühren je nach Nutzung direkt bei deren Anbieter an. Diese Version ist noch Beta, Funktionalitäten und Oberfläche können sich bis zur finalen Veröffentlichung noch ändern.
Systemanforderungen
- QTS 6.1.0 oder neuer, bzw. QuTS hero h6.1.0 oder neuer
- Cloud-Anbieter: Unterstützt werden x86- und ARM64-Geräte, kein GPU erforderlich
- Lokale Modellbibliothek: Unterstützt nur auf x86-Geräten mit kompatibler, zertifizierter GPU und Installation der dazugehörigen Ausführungsumgebung und Modellpaketen
Eure Meinung zählt!
Vielen Dank für eure kontinuierliche Unterstützung der QNAP-Community. Mit dem AI Service Center möchten wir KI auf dem NAS einfacher und vertrauenswürdiger machen. Eure Rückmeldungen bestimmen die weitere Entwicklung!
Mehr erfahren: Produktseite | Release Notes