從資料到 tokens
ASUS AI 工廠實現大規模智慧化
從資料到 tokens
ASUS AI 工廠將資料轉化為可行的情報,並將創意擴展為真實世界的 AI 解決方案,從而將創新帶入生活。華碩提供全面的 AI 解決方案,推動持續創新並保持領先地位。作為一家 AI 公司,華碩致力於透過設計思維,將 AI 融入我們業務的各個層面,從而建立一個智慧且永續的未來。我們的跨產品組合正在引領潮流,讓 AI 無處不在,人人可用,並確保每個人都能從 AI 保證的可能性中受益。
華碩展示了一個超越個人電腦的全面 AI 生態系統,為不同領域的使用者賦能。這個生態系統由強大的 AI 基礎架構支援,涵蓋可擴展的雲端和強大的本地解決方案,無縫整合硬體、軟體和服務,支援為各種企業 AI 工作負載開發和部署 AI。我們多樣化的產品組合包括智慧解決方案,策略性地為開發人員、AI 研究人員、資料科學家、生物科技、關鍵任務應用、製造業、5G 與網路以及雲端服務供應商等關鍵領域量身打造。
全面的 ASUS AI 工廠方法無縫整合了硬體、軟體平台和服務,以支援我們的客戶在 AI 部署方面取得成功。從邊緣 AI 到 AI 超級運算,我們可擴展的基礎架構旨在滿足各種工作負載的需求。至關重要的是,我們協助組織加速採用 AI,同時優化總體擁有成本 (TCO)。
憑藉遍佈全球的 2,200 多個服務中心,華碩提供由服務等級協議 (SLA) 驅動的客製化解決方案,涵蓋整個產品生命週期——從設計、製造到持續支援。我們強大的 AI 和資料治理框架確保資料品質、法規遵循和信任,保障 AI 成果的完整性和準確性。
探索 ASUS AI 工廠如何徹底改變各行各業的應用。
在我們的 All-in-AI 伺服器策略的推動下,我們與策略合作夥伴密切合作,以推動 AI 生態系統的發展。受到工業製造原則的啟發,ASUS AI 工廠方法將 AI 開發視為一個簡化、可重複的流程——有效地將資料轉化為有價值的 AI 驅動洞察和行動。
經 NVIDIA 驗證的 AI 工廠搭配 ASUS AI POD,為在本地 NVIDIA Blackwell 平台上開發、部署和管理代理式 AI、實體 AI 和 HPC 工作負載提供指引。專為企業 IT 設計,它提供加速運算、網路、儲存和軟體,有助於更快實現 AI 工廠部署的價值,同時降低部署風險。
以下是參考架構設計,可幫助客戶使用經核准的實踐,作為知識庫和適用於各種應用的標準化框架。
先進的 搭配 NVIDIA GB200/GB300 NVL72 的 ASUS AI POD 機櫃,結合了 NVIDIA Quantum InfiniBand 或 NVIDIA Spectrum-X 乙太網路 平台,採用液冷技術,可在八個機櫃中實現無阻塞的 576-GPU 叢集,或採用氣冷解決方案支援一個擁有 72 個 GPU 的機櫃。這種超密集、超高效的架構重新定義了 AI 推理運算效能和效率。
經華碩優化的 NVIDIA HGX™ 參考架構,為加速 AI 微調、大型語言模型 (LLM) 推論和訓練提供無與倫比的效率、散熱管理和 GPU 密度。此集中式機櫃解決方案建立在搭載 NVIDIA HGX™ B300 的華碩 XA NB3I-E12 或內嵌 NVIDIA HGX™ B200 的 ESC NB8-E11 之上,為液冷或氣冷機櫃系統提供無與倫比的製造能力,確保及時交付、降低總體擁有成本 (TCO) 並維持一致的效能。
| B300LC | Quantum | Spectrum |
|---|---|---|
| GPU 支援 | B300 NVL8 | B300 NVL8 |
| 尺寸 | 5RU | 5RU |
| 機櫃/節點 | 每個機櫃 8 個節點 / 9 個機櫃 | 每個機櫃 8 個節點 / 4 個機櫃 |
| 1 SU | 9 個機櫃 / 72 個節點 | 4 個機櫃 / 32 個節點 |
| 交換器 (N/S) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) | 2x SN5610 (Leaf) |
| 交換器 (E/W) | 8x Q3400-RA (Leaf) / 4x Q3400-RA (Spine) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) |
| 伺服器 | XA NB3I-E12L | XA NB3I-E12L |
| 儲存裝置 | RS501A-E12-RS12U | RS501A-E12-RS12U |
| 管理 | RS700-E12-RS4U | RS700-E12-RS4U |
| B300AC | Quantum | Spectrum |
|---|---|---|
| GPU 支援 | B300 NVL8 | B300 NVL8 |
| 尺寸 | 9RU | 9RU |
| 機櫃/節點 | 每個機櫃 4 個節點 / 18 個機櫃 | 每個機櫃 4 個節點 / 8 個機櫃 |
| 1 SU | 18 個機櫃 / 72 個節點 | 8 個機櫃 / 32 個節點 |
| 交換器 (N/S) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) | 2x SN5610 (Leaf) |
| 交換器 (E/W) | 8x Q3400-RA (Leaf) / 4x Q3400-RA (Spine) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) |
| 伺服器 | XA NB3I-E12 | XA NB3I-E12 |
| 儲存裝置 | RS501A-E12-RS12U | RS501A-E12-RS12U |
| 管理 | RS700-E12-RS4U | RS700-E12-RS4U |
| B200AC | Quantum | Spectrum |
|---|---|---|
| GPU 支援 | B200 NVL8 | B200 NVL8 |
| 尺寸 | 10RU | 10RU |
| 機櫃/節點 | 每個機櫃 4 個節點 / 8 個機櫃 | 每個機櫃 4 個節點 / 8 個機櫃 |
| 1 SU | 8 個機櫃 / 32 個節點 | 8 個機櫃 / 32 個節點 |
| 交換器 (N/S) | 2x SN5610 (Leaf) | 2x SN5610 (Leaf) |
| 交換器 (E/W) | 8x QM9700 (Leaf) / 4x QM9700 (Spine) | 4x SN5610 (Leaf) / 2x SN5610 (Spine) |
| 伺服器 | ESC N8B-E11 | ESC N8B-E11 |
| 儲存裝置 | RS501A-E12-RS12U | RS501A-E12-RS12U |
| 管理 | RS700-E12-RS4U | RS700-E12-RS4U |
華碩推出符合 NVIDIA MGX 規範的機櫃設計,採用 ASUS ESC8000 系列,配備雙 Intel® Xeon® 6 處理器和 RTX PRO™ 6000 Blackwell 伺服器版,並搭載最新的 NVIDIA ConnectX-8 SuperNIC——支援高達 800Gb/s 的速度或其他可擴充的配置——為最先進的 AI 工作負載提供卓越的擴充性和效能。與 NVIDIA AI Enterprise 軟體平台整合,提供高度可擴展、全方位的伺服器解決方案,滿足現代運算的嚴苛要求。
| MGX CX8 | Quantum | Spectrum |
|---|---|---|
| GPU 支援 | H200 NVL, L40S, RTX Pro 6000 BSE | H200 NVL, L40S, RTX Pro 6000 BSE |
| 尺寸 | 4RU | 4RU |
| 機櫃/節點 | 每個機櫃 8 個節點 / 共 4 個機櫃 或 每個機櫃 4 個節點 / 共 8 個機櫃 |
每個機櫃 8 個節點 / 共 4 個機櫃 或 每個機櫃 4 個節點 / 共 8 個機櫃 |
| 1 SU | 8 個機櫃 / 4 個或 8 個機櫃 / 32 個節點 | 8 個機櫃 / 4 個或 8 個機櫃 / 32 個節點 |
| 交換器 (N/S) | 2x SN5610 (Leaf) | 2x SN5610 (Leaf) |
| 交換器 (E/W) | 4x QM9700 (Leaf) / 2x QM9700 (Spine) | 2x SN5610 (Leaf) |
| 伺服器 | ESC8000-E12P ESC8000A-E13P |
ESC8000-E12P ESC8000A-E13P |
| 儲存裝置 | RS501A-E12-RS12U | RS501A-E12-RS12U |
| 管理 | RS700-E12-RS4U | RS700-E12-RS4U |
華碩不僅致力於讓您的資料中心能夠快速部署,更確保其運作順暢可靠。因此,我們提供一套全面的軟體工具和平台,實現一鍵部署以及可自訂的介面和服務——例如計費——以滿足您特定的業務需求。
自動化大規模部署與配置
全方位可視性與主動警示
集中式伺服器管理
智慧網狀架構監控與網路最佳化
可擴充的 AI 訓練與推論平台
高效的運算資源與作業協調
作為您值得信賴的 NVIDIA® Omniverse 整合供應商,華碩提供從策略諮詢到部署支援的完整解決方案,協助您釋放工業數位化的全部潛力。
| GB200 NVL72 | Quantum | ||
|---|---|---|---|
| Quantum | Quantum | Spectrum | |
| GPU 支援 | GB200 | GB300 | GB300 |
| 尺寸 | 48RU | 48RU | 48RU |
| 機櫃/節點 | 18 個運算托盤 / 9 個交換器托盤 | 18 個運算托盤 / 9 個交換器托盤 | 18 個運算托盤 / 9 個交換器托盤 |
| 1 SU | 16 個機櫃 / 288 個節點 | 16 個機櫃 / 288 個節點 | 16 個機櫃 / 288 個節點 |
| 交換器 (N/S) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) / 4x SN5610 (Core) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) | 8x SN5610 (Leaf) / 4x SN5610 (Spine) |
| 交換器 (E/W) | 16x Q9700 (Leaf) / 18x Q9700 (Spine) | 16x Q3400-RA (Leaf) / 9x Q3400-RA (Spine) | 16x Q3400-RA (Leaf) / 9x Q3400-RA (Spine) |
| 伺服器 | ESC NM2N721-E1 | XA GB721-E2 | XA GB721-E2 |
| 儲存裝置 | RS501A-E12-RS12U | RS501A-E12-RS12U | RS501A-E12-RS12U |
| 管理 | RS700-E12-RS4U | RS700-E12-RS4U | RS700-E12-RS4U |
| GB 系列 | B 系列 | MGX/HGX 系列 | |
|---|---|---|---|
| 伺服器型號 | ASUS RS501A-E12-RS12U | ||
| CPU 與記憶體 | AMD 64C (9005 系列) 與 768G RAM | ||
| 網路 | 400G(200x2) IB NIC x 2 | ||
| 儲存裝置 | 開機磁碟:2 x 960G NVMe M.2 儲存磁碟:16 x 30.72 TLC NVMe U.2 |
||
| 伺服器節點 | 27 | 19 | 8 |
| 可用容量 | 10PB | 7PB | 2.2PB |
| 讀取速度 | 2284GB | 1607GB | 676GB |
| 寫入速度 | 691GB | 486GB | 164GB |
| 讀取 IOPS | 4,950 萬 | 3,480 萬 | 1,460 萬 |
| 寫入 IOPS | 1,240 萬 | 870 萬 | 360 萬 |
| Stripe 寬度 | 16+2+1 | 16+2+1 | 5+2+1 |
經 WEKA Data Platform 認證
高效和高頻寬的網路連接對於 NVIDIA GB200 NVL72 的效能至關重要。以下是典型的外部網路架構和技術概述,用於連接多個 NVL72 系統並將其整合到更大的網路基礎設施中。
| ODs | 1 | 1 | 2 | 4 | |||
| 機櫃 | 1 | 2 | 4 | 8 | 6 | 32 | 64 |
| 運算托盤 | 18 | 36 | 72 | 144 | 288 | 576 | 1152 |
| Blackwell GPU | 72 | 144 | 288 | 576 | 1152 | 2304 | 4608 |
| Bluefield-3 (DPU) | 32 | 72 | 144 | 288 | 576 | 1152 | 2304 |
| 交換器 | |||||||
| Spine 交換器數量 | 0 | 2 | 4 | 8 | 16 | 32 | |
| Leaf 交換器數量 | 2 | 4 | 8 | 16 | 32 | 64 |
華碩與合作夥伴合作,提供全面的機櫃級液冷解決方案。這些方案包括 CPU/GPU 冷板、冷卻分配單元和冷卻塔,皆旨在最大限度地減少功耗並優化資料中心的電力使用效率 (PUE)。
非常適合設施緊湊的小型資料中心。
旨在滿足現有氣冷資料中心的需求,並輕鬆與現有基礎設施整合。
非常適合尋求立即實施和部署的企業
非常適合具有高工作負載的大規模、廣泛的基礎設施。
提供長期的低 PUE,並隨著時間的推移持續保持能源效率。
降低總體擁有成本,實現最大價值和具成本效益的營運。