AIやQumagie向けのGPU

こんにちは、RTX 3060とRTX 1070を試しましたが、QNAPでは認識されるものの、AI QsirchやQmagieで活用できませんでした。RTX 2000 ADAの購入を検討していますが、確実に動作するか確認したいです。当方はTS-2888xを使用しています。どなたかアドバイスいただけますか?

よろしくお願いします。

Hrvije

こんにちは、Hrvijeさん

QuMagie:外部グラフィックスカードのアクセラレーションはまだサポートされていません。

Qsirch:最新のLLM(大規模言語モデル)とRAG(検索拡張生成)はオンプレミスのグラフィックスカードをサポートできます。最新のQTSバージョンにアップデートできます。

Qsirch 5.6.0(またはそれ以降)

  • 64ビットx86および64ビットARMベースのNAS

  • QTS 5.0.1(またはそれ以降)またはQuTS hero h5.0.1(またはそれ以降)

  • 最小2GB RAM(最適なパフォーマンスには4GB RAMを推奨)

AI-powered enterprise search with RAG | QNAP

NVIDIA 2000 ADAは数ヶ月以内にEOL(販売終了)となり、RTX Pro 2000 Blackwellに置き換えられます。

現在のNVIDIA GPUカーネルドライバー v5.2.9.3451 Build 20260327 は、まだRTX Pro 2000 Blackwellをサポートしていません。新しいドライバーを開発中で、TS-2888XでRTX Pro 2000 Blackwellの互換性テストを今後行う予定です。

こんにちは、Hrvije

また、下記の設定もご確認いただけますか?

  1. コントロールパネル → ハードウェア → ハードウェアリソース
    RAG検索で高速化が必要な場合は「QTSモード」を選択してください

  1. Qsirch設定ページのスクリーンショットまたは情報
    私の例では、LLM Coreが不足していると表示されています

こんにちは、

ご回答ありがとうございます。3060 RTXと1070を試しましたが、表示はされるものの、どのアプリにも割り当てることができませんでした。P2200を注文しましたが、これはすぐに使えるはずだと思っています。

よろしくお願いします。

Hrvoje

あなたの言う通りにしてQTSモードに切り替えましたが、QmagieやQsirchはGPUではなくCPUしか使いません。これは1070や3060が対応リストにないためでしょうか?

こんにちは、Hrvoje

お使いのマシンのNVIDIAドライバーのバージョンを確認していただけますか?

こんにちは Hrvoje

Qsirch でこのページが見えますか?

image

はい、動作させることができました。でも、AI作業にはgpuをQTSモードに設定すべきではないでしょうか?P2200 Quadro(クアドロ)と1070/3060を使う場合、何か利点はありますか?

とても良さそうです。Qwen3.5 4B や Gemma3 1B などの小型のLLMモデルをいくつか選んでテストすることができます。

また、AIやLLMのタスクにはRTX 3060の方がより適していると思います。

ありがとうございます!では、P2200は役に立たないのでしょうか?

また、QuMagieのAI機能ではオブジェクト認識がGPUを使用すると記載されていますが、実際には使用されていません。処理を高速化するためにGPUを使用させるにはどうすればよいですか?

2022年のADA世代GPUがEOLですか?DELLの新品ワークステーションでもまだ販売されていますが…販売終了や生産終了のことではないのですか?

RTX非対応カード(例えば1080TIなど)がEOLライフサイクルに入ったのは知っていますが、そのカードは9年前のものです。

NVIDIA Quadro P2200 も動作していますが、スペックを比較すると、RTX 3060 の方が新しいGPUアーキテクチャやより高いGPU周波数、そしてより多いVRAMを持っているため、AI用途にははるかに優れていると思います。

RTX 2000 AdaはまだEOL(販売終了)ではありませんが、間もなく終了します。ですので、あと数ヶ月待てるのであれば、新世代のBlackwell(ブラックウェル)の方がコストパフォーマンスが高いと思います。

こんにちは Hrvoje

一つの可能性として、QuMagie はシステムの動作に影響を与えないよう、この部分の送信数を制限していることが考えられます。お使いのマシンの性能が非常に高いため、システムの処理速度が QuMagie の送信速度を大きく上回っており、GPU が使用されていることがすぐには分かりにくいのかもしれません。

この仮説を確認するために、弊社の HelpDesk(ヘルプデスク)にリクエストを送信し、R&D チームがさらに調査できるようご提案いたします。

https://www.qnap.com/ja/how-to/tutorial/article/how-to-use-the-helpdesk-app-to-solve-issues-and-provide-feedback

こんにちは、

QsirchでRAG検索用にGPUをどのように動作させていますか?
私のNASはTS-873Aで、QuTS Hero 5.2.9を使用しており、RTX3050 6GをQTSモードで設定しています(あなたのスクリーンショットの通りです)が、QsirchはGPUをContainer Stationモードに設定する必要があると主張します。唯一のGPUをContainerモードに設定すると、他のすべての用途(ハードウェアトランスコーディングなど)で使用できなくなってしまいます。
すべてのアプリとファームウェアは最新バージョンです。

こんにちは、3060 RTXをQTSに挿した場合、物体認識などのAI作業に使われますか?QNAP AI Coreで設定できません。