以下是 NVIDIA L20 和 H20 在計算資源上的詳細對比：

參數(shù)                   L20                H20

GPU架構(gòu)        NVIDIA Ada Lovelace     NVIDIA Hopper

內(nèi)存類型            GDDR6（帶ECC）     HBM3

內(nèi)存容量              48 GB               96 GB

內(nèi)存帶寬              864 GB/s           4.0 TB/s

INT8/FP8算力        239 TFLOPS         296 TFLOPS

BF16/FP16算力    119.5 TFLOPS         148 TFLOPS

TF32算力            59.8 TFLOPS          74 TFLOPS

FP32算力          59.8 TFLOPS          44 TFLOPS

NVLink支持           不支持            支持（900 GB/s）

MIG功能                未知             最多7個實例

L2緩存              96 MB               60 MB

熱設(shè)計功耗（TDP）    275 W               400 W

外形規(guī)格    2槽FHFL（PCIe Gen4 x16） 8路HGX（SXM接口）

適用場景        工作站、服務(wù)器推理      大模型推理、多卡協(xié)同

關(guān)鍵差異說明

架構(gòu)與內(nèi)存：

H20 基于 Hopper 架構(gòu)，配備更高帶寬的 HBM3 內(nèi)存，適合對顯存帶寬敏感的推理任務(wù)（如大模型 Decode 階段）。

L20 基于 Ada Lovelace 架構(gòu)，內(nèi)存類型為 GDDR6，容量和帶寬均低于 H20。

計算能力：

H20 的 INT8/FP8 算力（296 TFLOPS）高于 L20（239 TFLOPS），但 L20 的 FP32 算力略優(yōu)（59.8 TFLOPS vs 44 TFLOPS）。

互聯(lián)與擴展性：

H20 支持 NVLink 高速互聯(lián)，可通過多卡堆疊提升性能。

L20 僅支持 PCIe 接口，擴展性受限。

功耗與定位：

H20 功耗更高（400W），主打高并發(fā)推理場景。

L20 功耗較低（275W），適合對成本和空間敏感的工作站環(huán)境。

總結(jié)

H20 適合高并發(fā)推理場景，特別是大模型的 Decode 階段，其高帶寬顯存和 NVLink 支持使其在多卡協(xié)同任務(wù)中表現(xiàn)出色。

L20 更適合對成本和空間敏感的工作站環(huán)境，其較低的功耗和較高的 FP32 算力使其在一些推理任務(wù)中具有較高的性價比。

成都算力租賃入口:http://www.bbswl.cn/gpu/

成都算力租賃官方電話:400-028-0032