AI/ML應用介紹
在本次分享的案例中,這家伺服器OEM為因應人工智慧/機器學習 (AI/ML) 應用日益增長的需求而需要強化其伺服器產品性能。現今AI的滲透力越來越廣,讓許多企業想要嘗試透過AI/ML應用來開拓更多業務成長的機會,無論是零售業的消費者行為分析,或是在自動化產線執行顏色篩選,希望藉由人工智慧的優勢和效率帶來更多業績。從營運的角度來看,企業必須仰賴伺服器提供穩定可靠的性能,以獲得有助業務營運的見解。因此,伺服器製造商必須更重視並選擇適合的記憶體和儲存解決方案,確保隨時能準確快速處理資料數據。
挑戰與要求
- 提升SSD使用壽命,處理不間斷的海量數據讀取/寫入
在AI相關的使用情境下,由於伺服器間的資料隨時需要被讀取,突顯出SSD耐用性的重要。DWPD (每日整盤寫入) 正是一個關鍵指標,讓用戶計算保固期內每天可以全碟寫入的次數。DWPD數字越高,SSD的耐用性就越高,同時也確保伺服器在全天候運作模式下能維持正常運行並提供更高效能。
- 啓動溫度檢測機制,防止意外停機
伺服器需要經常監控機器內部溫度,確保持續運行時也能維持穩定性能。在這種情況下, 設計上必須支援I2C(Inter-Integrated Circuit 積體匯流排電路)介面,才能啟動溫度檢測,並防止因過熱而導致的意外故障。
- 加速運算效能,支援AI相關功能提供即時成效
在搭載AI功能的網路系統中,任何生成的數據皆需要立即處理以執行正確指令,而系統的運算能力會顯著影響性能表現,甚至進一步決定洞察的方向。因此,伺服器需要配備快速及驗證可靠的算力,才能有效處理密集型工作負載並獲得預期的成效。
SMART解決方案
- 具備1 DWPD高耐用性固態硬碟
SMART MP3000 PCIe NVMe採用PCIe Gen4 x4介面且符合NVMe 1.4規範,PCIe 4.0頻寬上的提升可有效改善工作效率。企業級MP3000 SSD提供高效能,在5年使用期間每天可以全盤寫入(DWPD) 最多1次的高耐用度,適用於需要持續處理工作負載的資料密集型應用。
- 專業技術支援滿足客製化需求
在客製專案中,為滿足產品需求而開發不同功能的要求並不少見。以這個案例來說,客戶提出溫度檢測的特定需求,這時會需要韌體團隊研究I2C協定來啟動此功能。SMART透過不同客製專案經驗的累積,能有效提供專業技術支援,滿足客戶在產品設計的需求。
- 高密集工作負載專用工業級記憶體,提供快速可靠的運算效能
Zefr ZDIMM使用抗硫化電阻、以及表面被覆/塗布 (Conformal Coating) 和底部填充等處理過程,可確保卓越的品質、耐用性和可靠性,這些特點也同時符合現今各領域對嚴苛應用的要求,尤其是日益劇增的AI/ML應用,此外,若搭載最新DDR5技術,其高速運算效能絶對能滿足客戶對最佳性能的要求。
結論
對於伺服器應用來說,SMART提供高達1 DWPD 高耐用度的NVMe SSD解決方案,即使在持續運行模式下也能可靠安全地處理密集重複的資料。DDR5 ZDIMM記憶體模組也發揮關鍵作用提供所需的運算效能,確保AI相關功能即時執行任務達到成效。除了精選具備所需功能的產品之外,SMART也提供專業的技術支援,滿足客戶對溫度檢測的需求以增強其產品優勢。SMART期望藉由產品和專業服務有效協助客戶解決痛點,最終建立長期的合作夥伴關係。
SMART精選產品
Zefr DDR5 ZDIMM
- Available in 32GB to 128GB, DDR5-5600
- SMART’s Zefr proprietary screening process
- Proven long-term reliability with 200 or less DPPM (Defective Parts Per Million)
- Maximize system uptime
- Increased ROI due to dramatically reducing memory failures
- Accelerate Time-to-Insight
MP3000 PCIe NVMe M.2 2280 SSD
- PCIe Gen4 x4 NVMe 1.4 Compliant
- 1 DWPD For 5 Years
- SMART’s Proprietary NVMSentry Firmware
- SafeDATA™ Power-Loss, Data-Protection Technology
- TCG OPAL 2.0 and AES 256 Encryption