TVS-AIh1688ATXにローカルRAG用で対応可能なグラフィックカードはどれですか

こんにちは。

RTX Pro 4000 Blackwell SFF を返却した後、ついに RTX Pro 4000 Blackwell を手に入れました。

このカードだけが物理的にケースを通せる唯一のものです。さらに、SFF モデルと同じ購入価格で 4000 のパワーをフル活用できます。

すぐに認識されました(SFF バージョンのように、将来のファームウェアアップデートの際に BIOS の更新が必要にはなりませんでした)。

カードは正常に動作していますが、他の方同様、LLM モデルを実行した際に GPU から CPU への切り替えで問題が発生しています: Ollama cannot use GPU in Docker on QNAP (RTX 3090, CUDA init fails) - #10 by achimede333

いずれにせよ、ご回答とご支援、本当にありがとうございます :wink: