GPU untuk AI Qumagie dan lain-lain

Hai, saya sudah mencoba RTX 3060 dan RTX 1070 dan QNAP terdeteksi, tapi tidak bisa digunakan untuk AI Qsirch dan Qmagie. Saya berencana memesan RTX 2000 ADA, tapi ingin memastikan apakah itu akan berfungsi. Kami menggunakan TS-2888x. Ada yang bisa memberi saran?

Terima kasih,

Hrvije

Hai Hrvije,

QuMagie: saat ini belum mendukung akselerasi kartu grafis eksternal.

Qsirch: LLM terbaru dengan RAG dapat mendukung kartu grafis on-premise. Silakan perbarui ke versi QTS terbaru.

Qsirch 5.6.0 (atau lebih baru)

  • NAS berbasis x86 64-bit dan ARM 64-bit

  • QTS 5.0.1 (atau lebih baru) atau QuTS hero h5.0.1 (atau lebih baru)

  • Minimal RAM 2GB (disarankan RAM 4GB untuk performa optimal.)

AI-powered enterprise search with RAG | QNAP

NVIDIA 2000 ADA akan segera mencapai EOL dalam beberapa bulan dan akan digantikan oleh RTX Pro 2000 Blackwell.

Driver Kernel GPU NVIDIA saat ini v5.2.9.3451 Build 20260327 belum mendukung RTX Pro 2000 Blackwell. Kami sedang mengembangkan driver baru dan akan melakukan pengujian RTX Pro 2000 Blackwell untuk TS-2888X nanti untuk kompatibilitas.

Halo Hrvije

Juga, bisakah Anda memeriksa pengaturan di bawah ini?

  1. Control Panel → Hardware → Hardware Resource
    Silakan pilih “QTS Mode” jika Anda perlu mempercepat pencarian RAG

  1. Tangkapan layar atau informasi di halaman pengaturan Qsirch
    Pada contoh saya, terlihat LLM Core tidak ada

Hai,

Terima kasih atas jawaban Anda. Saya sudah mencoba 3060 RTX dan 1070 dan kartu tersebut terdeteksi, tetapi saya tidak bisa menetapkannya ke aplikasi mana pun. Saya sudah memesan P2200, yang saya percaya seharusnya bisa langsung digunakan.

Terima kasih,

Hrvoje

Saya sudah melakukan seperti yang Anda sarankan, dan mengubahnya ke mode QTS, tetapi Qmagie atau Qsirch hanya menggunakan CPU, bukan GPU. Apakah itu karena 1070 dan 3060 tidak ada di daftar kompatibilitas?

Hai Hrvoje

Bisakah Anda mengonfirmasi versi driver NVIDIA di mesin Anda?

Hai Hrvoje

Jadi, apakah kamu bisa melihat halaman ini di Qsirch?

Ya, saya berhasil membuatnya bekerja. Tapi bukankah gpu seharusnya diatur ke mode QTS untuk pekerjaan AI? Apakah ada manfaat menggunakan P2200 Quadro dibandingkan 1070/3060?

Ini terlihat bagus. Anda bisa memilih beberapa model LLM kecil untuk diuji, seperti Qwen3.5 4B atau Gemma3 1B.

Selain itu, saya rasa RTX 3060 lebih baik untuk tugas AI atau LLM.

Terima kasih! Jadi P2200 tidak akan membantu?

Selain itu, pada fitur AI QuMagie, disebutkan bahwa Object Recognition menggunakan GPU, tetapi sebenarnya tidak. Bagaimana cara membuatnya menggunakan GPU agar prosesnya lebih cepat?

GPU ADA Gen 2022 sudah EOL? Masih dijual baru di workstation DELL… kamu yakin itu bukan hanya end of sale/production?

Saya tahu mereka memasukkan kartu non RTX (misalnya 1080TI) ke siklus EOL, tapi kartu itu sudah berumur 9 tahun.

NVIDIA Quadro P2200 juga berfungsi, tetapi jika saya bandingkan spesifikasinya, saya rasa RTX 3060 jauh lebih baik untuk AI karena arsitektur GPU yang lebih baru, frekuensi GPU yang lebih tinggi, dan VRAM yang lebih banyak.

RTX 2000 Ada belum EOL, tapi akan segera. Jadi jika Anda bisa menunggu beberapa bulan lagi, saya rasa generasi baru Blackwell lebih hemat biaya.

Hai Hrvoje

Salah satu kemungkinannya adalah QuMagie membatasi jumlah pengiriman untuk bagian ini guna menghindari dampak pada operasi sistem. Karena performa mesin Anda sangat tinggi sehingga kecepatan pemrosesan sistem jauh melebihi kecepatan pengiriman QuMagie, mungkin tidak langsung terlihat bahwa GPU sedang digunakan.

Untuk memastikan hipotesis ini, saya sarankan untuk mengirimkan permintaan ke HelpDesk kami agar tim R&D kami dapat melakukan investigasi lebih lanjut.

https://www.qnap.com/en/how-to/tutorial/article/how-to-use-the-helpdesk-app-to-solve-issues-and-provide-feedback

Hai,

Bagaimana Anda membuat GPU berfungsi dengan Qsirch untuk pencarian RAG?
NAS saya adalah TS-873A dengan QuTS Hero 5.2.9 dan memiliki RTX3050 6G yang diatur dalam mode QTS (sesuai tangkapan layar Anda), tetapi Qsirch tetap bersikeras bahwa GPU harus diatur ke mode Container Station. Jika saya mengatur satu-satunya GPU saya ke mode Container, saya akan kehilangannya di tempat lain (transcoding perangkat keras, dll.).
Semua aplikasi dan firmware sudah pada versi terbaru.