我正在規劃一個超過2PB的NAS系統,打算使用QNAP的機架式硬體。我考慮選擇TS-h1677AXU-RP-R7-32G,升級至128GB RAM,並加裝2張QXP-820S-B3408擴充卡,搭配4台TL-R1620SEP-RP,總共使用80顆Seagate 32TB SATA 6.0Gb/s 3.5吋硬碟。我有兩個問題:1)這樣的組合是否可行,能否支援上述的儲存容量?2)這樣的架構下,安裝25Gbe網路卡有意義嗎?還是10Gbe已經足夠?也歡迎推薦其他能達到2PB以上需求的替代方案。我也有考慮讓NAS具備SSD快取功能。
請參閱這裡的小字(但我猜你是打算用搭配 ZFS 的 QuTS)
https://www.qnap.com/zh-tw/compatibility-expansion?expansion=tl-r1620sep-rp
RAID 群組支援的最大容量為 308 TB。
儲存池支援的最大容量為 308 TB。(從 QTS 4.2 版本開始,儲存池的最小容量為 144 GB。)
卷與 iSCSI LUN 的最大容量取決於硬碟容量及系統規格。
- 如果 NAS 記憶體少於 4GB,則最大容量為 144 TB。
- 如果 NAS 至少有 4GB 記憶體,則最大容量為 250 TB。
此外,對於這麼大的儲存空間,QNAP 沒有任何快取選項能提供實質效益(NVMe 快取僅支援 2、3 或 4 顆硬碟)。
@Bob,原 PO 的規劃可行嗎?(我從沒用過擴充機箱)
我目前的想法是基於:Petabyte storage solution | QNAP
TS-h2287XU-RP 擁有 16 個 3.5 吋硬碟槽和 6 個 2.5 吋硬碟槽,我原本以為 2.5 吋硬碟槽是用來做 SSD 快取。若使用 15TB 企業級 SSD,總容量約為 90TB,所以我認為快取應該是可行的。我以前從未接觸過這類硬體,想在下單前盡可能規劃完善。
ZFS QuTS NAS 配備超過 8GB 記憶體時,已經會使用 ARC 快取。
https://www.qnap.com/zh-tw/how-to/faq/article/why-is-ram-usage-so-high-in-quts-hero
另外,快取並不是魔法,除非你的應用程式會反覆讀取相同的區塊,否則並不會有任何效益。(而且在這麼多硬碟的情況下,你的循序讀取速度本來就已經很快了)
感謝你的協助。QNAP Petabyte Storage 頁面上寫著「NAS 至少需要 128 GB RAM」,所以我不確定還會剩下多少記憶體。這是用於一個大數據專案,經常會重複讀取相同的檔案,但我並不一定需要快取。我的主要需求是 2PB 以上的儲存空間。即使在做完備援後稍微低於 2PB 也沒關係,2PB 以上能讓我們有成長的空間。
你的想法不正確。你應該選擇 QNAP TS-h2477AXU-RP,只運行 QuTS。你在 TS-h2477AXU-RP 裝兩顆 M.2 NVMe 硬碟,作為 Storage Pool 1 > RAID 1 配置給系統用。然後你再裝二十四顆 Seagate Ironwolf Pro SATA 硬碟。用 28TB 硬碟做 RAID 60 配置(這樣可以容許 4 顆硬碟故障——QNAP 不允許你用 24 顆硬碟做 RAID 5 或 RAID 6),這樣可用容量就是 560TB。你也可以選擇 Seagate Ironwolf Pro 或 Seagate EXOS 32TB 硬碟,這樣 RAID 60 之後,可用容量就是 640TB。
好了——如果你還需要更多儲存空間,你可以購買 QNAP TL-R2400PES 24 槽擴充櫃。這個擴充櫃使用 QNAP QXP-3X8PES 擴充卡。你可以在 TS-h2477AXU-RP 上連接八台這種 24 槽擴充櫃,加上主機和三台擴充櫃,你就有 2PB(拍位元組)容量了。
如果這還不夠,QNAP 即將推出新的 60 槽 TL-R6020Sep 擴充櫃,你也可以裝多台。
補充說明,你不會用 TL-R1620SEP-RP 搭配新的 TS-h1677AXU-RP——如果你想要 24 槽擴充櫃,可以用 TL-R2400PES,但如果你要 16 槽擴充櫃,就用 TL-R1600PES-RP,搭配我剛剛提到的同一張擴充卡。
還有其他問題嗎?儘管問。我經常做這種大型系統。
Bob Zelin
補充——你還沒說你的應用情境。所以你需要 10G 的用戶介面連接交換器,還是 25G?你是做什麼的?影片剪輯?保險公司?醫院?如果是影片剪輯,我會裝 QNAP 25G CX6 卡,然後接到新推出的 QNAP QSW-M7230 交換器,這台有 24 個 10G 銅纜乙太網路埠、4 個 25G SFP28 埠,以及 2 個 100G QSFP 埠。
我猜你是指這個:
ARC 的最大使用量是 70%(在全域儲存設定中設定),而我認為 ZFS/QuTS 與 RAM 的使用沒有直接關聯,至少根據這個頁面所述。
所以你可能還會剩下大約 35GB(不過上面那個頁面提到 3PB 以上最少需要 265GB)。
感謝 @Bob。我們的使用情境是大數據,會持續處理數PB的檔案,每個檔案通常約 1MB 到 250MB。我們已經有 100Gbe 網路用於其他硬體,所以我可能會選擇 25Gbe(我假設 40Gbe 或 100Gbe 在這裡沒什麼好處,因為用的是 HDD?)。
所以為了確認我的理解,使用 QNAP TS-h2477AXU-RP 搭配一張 QNAP QXP-3X8PES 和三台 QNAP TL-R2400PES,這就是你建議的配置嗎?QNAP QXP-3X8PES 上的每個埠分別連接一台 QNAP TL-R2400PES,然後第三台 QNAP TL-R2400PES 再串接到前兩台其中一台 QNAP TL-R2400PES 上?
QNAP QXP-3X8PES 會插在 PCI 插槽 2(插槽 1 保持空著,這樣插槽 2 才能有 x8 頻寬),然後 25Gbe 網卡可以插在插槽 3 的 x4 PCI 嗎?
另外,QNAP TS-h2477AXU-RP 真的能只用 192GB 記憶體就支援 8 組 24-bay 擴充櫃嗎?我現在考慮用 4 台 QNAP TL-R2400PES,但這樣 NAS 會需要 256GB 記憶體嗎?
嗨——你需要將擴充機箱串接(daisy chain)起來。這些擴充機箱會附帶一些「特殊」的纜線——你只需從擴充卡連接到第一台擴充機箱,再接到第二台,然後是第三台。
至於你的網路,是的,你需要購買一張 QNAP 25G CX6 卡。這是 SFP28 介面——不是 40G,所以它無法連接到交換器上的任何 40G 端口。如果你沒有合適的交換器,新的 QNAP QSW-M7230 非常不錯,它有 10G baseT 銅纜端口、4 個 SFP28 25G 端口,以及 2 個 100G 端口。40G 已經淘汰——現在已經沒有人再生產 40G 產品了。
Bob Zelin
說實話——我真的不知道。你為什麼不考慮改用新的 TL-R6020Sep 60 槽呢?我從來沒有用過超過 3 台擴充機箱來組建 TS-h2477AXU-RP 或 TS-h3087XU-RP(這兩款都是 24 槽的 QNAP),所以我無法誠實地回答你的問題。
Bob Zelin
Hi alder.ramirez,
若需求低於 3PB,您可以選擇 TS-h1277AXU-RP、TS-h1677AXU-RP、TS-h2477AXU-RP,並將記憶體升級至 128GB(1PB)或 192GB(最高可達 3PB),同時連接多台 SAS JBOD 裝置,如 TL-R1620Sep-RP、TL-R1220Sep-RP,或高密度 4U60 TL-R6020Sep-RP JBOD。25GbE 已足夠支援 NAS 與 JBOD 的效能。
若需求為 3~5PB,請選擇全快閃 NVMe NAS 機種,如 TS-h1090FU、TS-h2490FU,並將記憶體升級至 256GB 或更高,並連接多台 SAS JBOD 或高密度 4U60 TL-R6020Sep-RP JBOD。您可以使用內建的 25GbE 速度連接。
感謝 @Bob 和 @JasonH。在你們兩位的幫助下,我在準備訂購和設定的過程中學到了很多。目前我正在考慮購買一台 TS-h1090FU,搭配 2 張 QXP-3X8PES 卡,還有 4 台 TL-R2400PES-RP,並使用 CAB-PCIE10M-8644-8X 線材。
有幾個問題,按照我在意的順序如下:
-
由於我已經決定使用 23 吋深的機架,所以即使 TL-R6020Sep-RP 看起來很不錯,我也無法使用它。當然 TL-R1600PES-RP 很容易就能放進 23 吋深度的機架,但 TL-R2400PES-RP 的深度是 24.81 吋。我認為應該沒問題,因為機架非常穩固,而且 Rail-A02-90 標示支援 22.8 吋到 34.3 吋的安裝柱深度,但還是希望能確認一下。
-
6PB 的容量搭配 256GB RAM 可以運作嗎?還是需要更多?我這樣問是因為現在打算先用 4 台 JBOD,未來有可能擴充到 8 台,也就是 6PB。TS-h1090FU 支援最高 1TB RAM,這點很不錯。
-
在這樣的系統中,最多可以搭配多少台 TL-R2400PES-RP 或 TL-R1600PES-RP?我看過 QNAP 文件有說明最多 8 台,但也有看到一些 QNAP 文件顯示每張 QXP-3X8PES 卡可以支援 10 台 JBOD。我想了解這中間的細節。
-
QXP-3X8PES 是最適合這個需求的卡嗎?還是有其他可以考慮的選項?
-
既然我現在打算用全快閃 NAS,是否可以考慮使用較便宜的 SSD?最低需要什麼樣的速度才有意義?
嗨 Alden -
你似乎對這一切都非常不熟悉,而且你即將進行一項非常昂貴的採購。你是要親自安裝這些設備的人嗎?因為我們無法在這個——或任何——論壇上教你如何組建 QNAP。如果你沒有相關的專業能力,你應該聘請有經驗的人來做這件事。當你說「因為我現在打算使用全快閃 NAS」——然後你又提到「更便宜」這個詞——這讓我覺得你根本沒有對這些產品做過任何研究,完全不了解現在的市場價格。TS-h1090FU 使用 U.2 NVMe 快閃硬碟,這些硬碟價格極其昂貴——比一般的 SATA 硬碟貴得多。而且即使是一般的 SATA 硬碟現在也非常昂貴。一顆 Seagate Ironwolf Pro 32TB SATA 硬碟要價 899 美元,一顆 Seagate EXOS 32TB 硬碟(單顆)要 1100 美元。這已經比 U.2 NVMe 硬碟便宜很多了。
如果你的應用是專業的影片剪輯,我可以協助你——但如果不是,只是單純的儲存空間,那你就必須聘請有經驗的人來協助你。
Bob Zelin
@Bob,謝謝你的關心,但我當然有能力查詢標價。我們初期系統的預算目標是最高約 $120,000 美元,如果有需要也可以再高一些,所以這方面沒問題。根據我所看到的,TS-h1090FU 似乎可以使用 U.2 NVMe 或 SATA 閃存硬碟,但我主要的問題是,考慮到價格範圍很廣,最低應該選擇什麼樣的速度才合理。高階的 Solidigm 硬碟看起來很厲害,但對這套系統來說顯然是大材小用。我說的「便宜」是指價格區間的低端。這些價格都非常合理,老實說,我覺得能以這麼低的成本擁有多 PB(拍位元組)容量真的很驚人。至於我的使用情境,就像我之前說的,這是一套我們希望在本地運行的自訂大數據系統。我已經說得很清楚,我們不是做影片相關的應用。謝謝你的協助,不過我還是想聽聽 @JasonH 或其他 QNAP 員工的回答。
我就我的第3個問題詢問了銷售部門,他們只能確認這會與8x相容。他們似乎無法回答為什麼QXP-3X8PES卡的產品頁面會顯示單卡最高支援10x。我有種感覺,每張卡6x、總共12x JBOD應該也能正常運作,但銷售表示目前軟體上有限制為8x,所以我也不確定。
這讓我重新考慮用6台TL-R1620Sep-RP來取代4台TL-R2400PES-RP。至於我的第4個問題,我發現用2張QXP-1630S-3816卡取代2張QXP-3X8PES卡,頻寬會提升3倍,而且QXP-1630S-3816的產品頁面顯示單卡就能支援最多16x JBOD,所以我現在傾向這種組合,因為頻寬更高、擴充性也更好。此外,使用較淺的TL-R1620Sep-RP取代較深的TL-R2400PES-RP,也讓我的第1個問題變得沒有意義。
我會繼續尋找第2和第5個問題的答案,也歡迎任何建議。不過對於第2點,我覺得不是很重要,因為我可以直接在NAS裝上512GB RAM,這對未來任何儲存擴充應該都綽綽有餘。至於第5點,我認為SSD至少要比HDD快2到3倍,應該就會有明顯的效益。如果有人對於我討論的這些硬體,對SSD最低速度和容量有建議,也很樂意聽聽看。
我們已經選定了 TS-h1090FU,配備 512GB 記憶體、2 張 QXP-1630S-3816 卡和 6 台 TL-R1620Sep-RP。我們打算使用幾種 SSD 快取方案來測試 TS-h1090FU。希望這份文件只是過時了,但 QNAP 似乎對 SSD 快取容量設有限制,至少在使用 QuTS hero 的情況下是這樣:SSD Cache | Boost storage I/O speed | QNAP
如果資訊準確的話,我們將採用 10TB 的快取。首先會測試 10 顆 PCIe Gen4 NVMe 1TB SSD,透過 M.2 PCI-e NVMe 轉 U.2 轉接卡。如果遇到問題,則改用 10 顆 1TB SATA SSD:Amazon.com: Western Digital 1TB WD Red SA500 NAS 3D NAND Internal SSD - SATA III 6 Gb/s, 2.5"/7mm, Up to 560 MB/s - WDS100T1R0A, Solid State Hard Drive : Electronics
採用 32TB 硬碟,初始容量有 3PB 原始空間,未來可擴充至至少 9PB。記憶體也可升級至最高 1TB。如有需要,之後會考慮把儲存容量翻倍到 6PB 原始空間,隨著 32TB 硬碟價格下跌,等到我們的需求超過原本 3PB 後再做擴充。
我大概會選擇不使用快取。在 QTS 裡,快取反而會拖慢速度,我也不確定在 QuTS Hero 會不會好多少。
除非你一直重複存取同一筆資料,否則快取基本上幫助不大,因為快取滿了之後你還是得回去硬碟讀取資料。
原PO的預算有12萬,他可以隨便花錢試試看哪種方案可行。說到這個,QNAP 現在在 QuTS 6.0 上也提供了 QTier。這也許是另一個選擇(而且實際上會增加儲存空間,與快取不同)。但我不確定 SATA SSD 是否比搭載 NVMe 存儲的 SAS 陣列更有優勢(還是原本的計劃是什麼,現在有點搞不清楚了)
