我想建造一台超過2PB的QNAP NAS

我正在規劃一個超過2PB的NAS系統,打算使用QNAP的機架式硬體。我考慮選擇TS-h1677AXU-RP-R7-32G,升級至128GB RAM,並加裝2張QXP-820S-B3408擴充卡,搭配4台TL-R1620SEP-RP,總共使用80顆Seagate 32TB SATA 6.0Gb/s 3.5吋硬碟。我有兩個問題:1)這樣的組合是否可行,能否支援上述的儲存容量?2)這樣的架構下,安裝25Gbe網路卡有意義嗎?還是10Gbe已經足夠?也歡迎推薦其他能達到2PB以上需求的替代方案。我也有考慮讓NAS具備SSD快取功能。

請參閱這裡的小字(但我猜你是打算用搭配 ZFS 的 QuTS)

https://www.qnap.com/zh-tw/compatibility-expansion?expansion=tl-r1620sep-rp

RAID 群組支援的最大容量為 308 TB。
儲存池支援的最大容量為 308 TB。(從 QTS 4.2 版本開始,儲存池的最小容量為 144 GB。)
卷與 iSCSI LUN 的最大容量取決於硬碟容量及系統規格。

  • 如果 NAS 記憶體少於 4GB,則最大容量為 144 TB。
  • 如果 NAS 至少有 4GB 記憶體,則最大容量為 250 TB。

此外,對於這麼大的儲存空間,QNAP 沒有任何快取選項能提供實質效益(NVMe 快取僅支援 2、3 或 4 顆硬碟)。

@Bob,原 PO 的規劃可行嗎?(我從沒用過擴充機箱)

1個讚

我目前的想法是基於:Petabyte storage solution | QNAP

TS-h2287XU-RP 擁有 16 個 3.5 吋硬碟槽和 6 個 2.5 吋硬碟槽,我原本以為 2.5 吋硬碟槽是用來做 SSD 快取。若使用 15TB 企業級 SSD,總容量約為 90TB,所以我認為快取應該是可行的。我以前從未接觸過這類硬體,想在下單前盡可能規劃完善。

ZFS QuTS NAS 配備超過 8GB 記憶體時,已經會使用 ARC 快取。

https://www.qnap.com/zh-tw/how-to/faq/article/why-is-ram-usage-so-high-in-quts-hero

另外,快取並不是魔法,除非你的應用程式會反覆讀取相同的區塊,否則並不會有任何效益。(而且在這麼多硬碟的情況下,你的循序讀取速度本來就已經很快了)

2個讚

感謝你的協助。QNAP Petabyte Storage 頁面上寫著「NAS 至少需要 128 GB RAM」,所以我不確定還會剩下多少記憶體。這是用於一個大數據專案,經常會重複讀取相同的檔案,但我並不一定需要快取。我的主要需求是 2PB 以上的儲存空間。即使在做完備援後稍微低於 2PB 也沒關係,2PB 以上能讓我們有成長的空間。

你的想法不正確。你應該選擇 QNAP TS-h2477AXU-RP,只運行 QuTS。你在 TS-h2477AXU-RP 裝兩顆 M.2 NVMe 硬碟,作為 Storage Pool 1 > RAID 1 配置給系統用。然後你再裝二十四顆 Seagate Ironwolf Pro SATA 硬碟。用 28TB 硬碟做 RAID 60 配置(這樣可以容許 4 顆硬碟故障——QNAP 不允許你用 24 顆硬碟做 RAID 5 或 RAID 6),這樣可用容量就是 560TB。你也可以選擇 Seagate Ironwolf Pro 或 Seagate EXOS 32TB 硬碟,這樣 RAID 60 之後,可用容量就是 640TB。

好了——如果你還需要更多儲存空間,你可以購買 QNAP TL-R2400PES 24 槽擴充櫃。這個擴充櫃使用 QNAP QXP-3X8PES 擴充卡。你可以在 TS-h2477AXU-RP 上連接八台這種 24 槽擴充櫃,加上主機和三台擴充櫃,你就有 2PB(拍位元組)容量了。

如果這還不夠,QNAP 即將推出新的 60 槽 TL-R6020Sep 擴充櫃,你也可以裝多台。

補充說明,你不會用 TL-R1620SEP-RP 搭配新的 TS-h1677AXU-RP——如果你想要 24 槽擴充櫃,可以用 TL-R2400PES,但如果你要 16 槽擴充櫃,就用 TL-R1600PES-RP,搭配我剛剛提到的同一張擴充卡。

還有其他問題嗎?儘管問。我經常做這種大型系統。

Bob Zelin

補充——你還沒說你的應用情境。所以你需要 10G 的用戶介面連接交換器,還是 25G?你是做什麼的?影片剪輯?保險公司?醫院?如果是影片剪輯,我會裝 QNAP 25G CX6 卡,然後接到新推出的 QNAP QSW-M7230 交換器,這台有 24 個 10G 銅纜乙太網路埠、4 個 25G SFP28 埠,以及 2 個 100G QSFP 埠。

2個讚

我猜你是指這個:

ARC 的最大使用量是 70%(在全域儲存設定中設定),而我認為 ZFS/QuTS 與 RAM 的使用沒有直接關聯,至少根據這個頁面所述。

所以你可能還會剩下大約 35GB(不過上面那個頁面提到 3PB 以上最少需要 265GB)。

1個讚

感謝 @Bob。我們的使用情境是大數據,會持續處理數PB的檔案,每個檔案通常約 1MB 到 250MB。我們已經有 100Gbe 網路用於其他硬體,所以我可能會選擇 25Gbe(我假設 40Gbe 或 100Gbe 在這裡沒什麼好處,因為用的是 HDD?)。

所以為了確認我的理解,使用 QNAP TS-h2477AXU-RP 搭配一張 QNAP QXP-3X8PES 和三台 QNAP TL-R2400PES,這就是你建議的配置嗎?QNAP QXP-3X8PES 上的每個埠分別連接一台 QNAP TL-R2400PES,然後第三台 QNAP TL-R2400PES 再串接到前兩台其中一台 QNAP TL-R2400PES 上?

QNAP QXP-3X8PES 會插在 PCI 插槽 2(插槽 1 保持空著,這樣插槽 2 才能有 x8 頻寬),然後 25Gbe 網卡可以插在插槽 3 的 x4 PCI 嗎?

另外,QNAP TS-h2477AXU-RP 真的能只用 192GB 記憶體就支援 8 組 24-bay 擴充櫃嗎?我現在考慮用 4 台 QNAP TL-R2400PES,但這樣 NAS 會需要 256GB 記憶體嗎?

嗨——你需要將擴充機箱串接(daisy chain)起來。這些擴充機箱會附帶一些「特殊」的纜線——你只需從擴充卡連接到第一台擴充機箱,再接到第二台,然後是第三台。

至於你的網路,是的,你需要購買一張 QNAP 25G CX6 卡。這是 SFP28 介面——不是 40G,所以它無法連接到交換器上的任何 40G 端口。如果你沒有合適的交換器,新的 QNAP QSW-M7230 非常不錯,它有 10G baseT 銅纜端口、4 個 SFP28 25G 端口,以及 2 個 100G 端口。40G 已經淘汰——現在已經沒有人再生產 40G 產品了。

Bob Zelin

1個讚

說實話——我真的不知道。你為什麼不考慮改用新的 TL-R6020Sep 60 槽呢?我從來沒有用過超過 3 台擴充機箱來組建 TS-h2477AXU-RP 或 TS-h3087XU-RP(這兩款都是 24 槽的 QNAP),所以我無法誠實地回答你的問題。

Bob Zelin

1個讚

Hi alder.ramirez,

若需求低於 3PB,您可以選擇 TS-h1277AXU-RP、TS-h1677AXU-RP、TS-h2477AXU-RP,並將記憶體升級至 128GB(1PB)或 192GB(最高可達 3PB),同時連接多台 SAS JBOD 裝置,如 TL-R1620Sep-RP、TL-R1220Sep-RP,或高密度 4U60 TL-R6020Sep-RP JBOD。25GbE 已足夠支援 NAS 與 JBOD 的效能。

若需求為 3~5PB,請選擇全快閃 NVMe NAS 機種,如 TS-h1090FU、TS-h2490FU,並將記憶體升級至 256GB 或更高,並連接多台 SAS JBOD 或高密度 4U60 TL-R6020Sep-RP JBOD。您可以使用內建的 25GbE 速度連接。

1個讚

感謝 @Bob@JasonH。在你們兩位的幫助下,我在準備訂購和設定的過程中學到了很多。目前我正在考慮購買一台 TS-h1090FU,搭配 2 張 QXP-3X8PES 卡,還有 4 台 TL-R2400PES-RP,並使用 CAB-PCIE10M-8644-8X 線材。

有幾個問題,按照我在意的順序如下:

  1. 由於我已經決定使用 23 吋深的機架,所以即使 TL-R6020Sep-RP 看起來很不錯,我也無法使用它。當然 TL-R1600PES-RP 很容易就能放進 23 吋深度的機架,但 TL-R2400PES-RP 的深度是 24.81 吋。我認為應該沒問題,因為機架非常穩固,而且 Rail-A02-90 標示支援 22.8 吋到 34.3 吋的安裝柱深度,但還是希望能確認一下。

  2. 6PB 的容量搭配 256GB RAM 可以運作嗎?還是需要更多?我這樣問是因為現在打算先用 4 台 JBOD,未來有可能擴充到 8 台,也就是 6PB。TS-h1090FU 支援最高 1TB RAM,這點很不錯。

  3. 在這樣的系統中,最多可以搭配多少台 TL-R2400PES-RP 或 TL-R1600PES-RP?我看過 QNAP 文件有說明最多 8 台,但也有看到一些 QNAP 文件顯示每張 QXP-3X8PES 卡可以支援 10 台 JBOD。我想了解這中間的細節。

  4. QXP-3X8PES 是最適合這個需求的卡嗎?還是有其他可以考慮的選項?

  5. 既然我現在打算用全快閃 NAS,是否可以考慮使用較便宜的 SSD?最低需要什麼樣的速度才有意義?

嗨 Alden -

你似乎對這一切都非常不熟悉,而且你即將進行一項非常昂貴的採購。你是要親自安裝這些設備的人嗎?因為我們無法在這個——或任何——論壇上教你如何組建 QNAP。如果你沒有相關的專業能力,你應該聘請有經驗的人來做這件事。當你說「因為我現在打算使用全快閃 NAS」——然後你又提到「更便宜」這個詞——這讓我覺得你根本沒有對這些產品做過任何研究,完全不了解現在的市場價格。TS-h1090FU 使用 U.2 NVMe 快閃硬碟,這些硬碟價格極其昂貴——比一般的 SATA 硬碟貴得多。而且即使是一般的 SATA 硬碟現在也非常昂貴。一顆 Seagate Ironwolf Pro 32TB SATA 硬碟要價 899 美元,一顆 Seagate EXOS 32TB 硬碟(單顆)要 1100 美元。這已經比 U.2 NVMe 硬碟便宜很多了。

如果你的應用是專業的影片剪輯,我可以協助你——但如果不是,只是單純的儲存空間,那你就必須聘請有經驗的人來協助你。

Bob Zelin

1個讚

@Bob,謝謝你的關心,但我當然有能力查詢標價。我們初期系統的預算目標是最高約 $120,000 美元,如果有需要也可以再高一些,所以這方面沒問題。根據我所看到的,TS-h1090FU 似乎可以使用 U.2 NVMe 或 SATA 閃存硬碟,但我主要的問題是,考慮到價格範圍很廣,最低應該選擇什麼樣的速度才合理。高階的 Solidigm 硬碟看起來很厲害,但對這套系統來說顯然是大材小用。我說的「便宜」是指價格區間的低端。這些價格都非常合理,老實說,我覺得能以這麼低的成本擁有多 PB(拍位元組)容量真的很驚人。至於我的使用情境,就像我之前說的,這是一套我們希望在本地運行的自訂大數據系統。我已經說得很清楚,我們不是做影片相關的應用。謝謝你的協助,不過我還是想聽聽 @JasonH 或其他 QNAP 員工的回答。

我就我的第3個問題詢問了銷售部門,他們只能確認這會與8x相容。他們似乎無法回答為什麼QXP-3X8PES卡的產品頁面會顯示單卡最高支援10x。我有種感覺,每張卡6x、總共12x JBOD應該也能正常運作,但銷售表示目前軟體上有限制為8x,所以我也不確定。

這讓我重新考慮用6台TL-R1620Sep-RP來取代4台TL-R2400PES-RP。至於我的第4個問題,我發現用2張QXP-1630S-3816卡取代2張QXP-3X8PES卡,頻寬會提升3倍,而且QXP-1630S-3816的產品頁面顯示單卡就能支援最多16x JBOD,所以我現在傾向這種組合,因為頻寬更高、擴充性也更好。此外,使用較淺的TL-R1620Sep-RP取代較深的TL-R2400PES-RP,也讓我的第1個問題變得沒有意義。

我會繼續尋找第2和第5個問題的答案,也歡迎任何建議。不過對於第2點,我覺得不是很重要,因為我可以直接在NAS裝上512GB RAM,這對未來任何儲存擴充應該都綽綽有餘。至於第5點,我認為SSD至少要比HDD快2到3倍,應該就會有明顯的效益。如果有人對於我討論的這些硬體,對SSD最低速度和容量有建議,也很樂意聽聽看。