招標參數5:配置≥8 個AI 處理器,支持OAM式集成服務器形式。單個 AI 處理器支持≥370TFLOPS@FP16或 80TFLOPS@FP32 算力,支持≥64GB HBM高帶寬內存,單個AI處理器內存帶寬≥1600GBps
單張卡算力及內存帶寬參考如下NVIDIA算力表
H3C R4900 G5:支持多達 32 個 DDR4 內存,速率最高支持 3200MT/s,采用 8 通道內存技術。根據上述公式,其內存帶寬為
3200MT/s×8×8Byte=204.8GB/s(下文給出了第二種內存帶寬計算邏輯)
單顆 AI 處理器的內存帶寬能達到 1600GB/s 甚至更高,核心是通過內存類型革新、硬件結構優化、傳輸效率提升三大方向實現的,本質是 “擴大數據傳輸的‘通道寬度’”+“提升數據傳輸的‘通道速度’”,具體技術路徑如下:
一、核心原理:內存帶寬的計算邏輯
首先要明確:內存帶寬