مشخصات کلیدی
حافظه
۱۴۱ gb

مشخصات کلی
حافظه GPU
141 GB HBM3e
پهنای باند حافظه
4.8 TB/s
نوع حافظه
HBM3e
Tensor Cores
528
CUDA Cores
16,896
معماری
NVIDIA Hopper
فرآیند ساخت
TSMC 4N (4nm)
تعداد ترانزیستورها
80 میلیارد
رابط حافظه
5120-bit
L2 Cache
60 MB
قدرت محاسباتی FP64
67 TFLOPS
قدرت محاسباتی FP32
134 TFLOPS
قدرت محاسباتی FP16 (Tensor)
1,979 TFLOPS
قدرت محاسباتی FP8 (Tensor)
3,958 TFLOPS
INT8 (Tensor)
3,958 TOPS
TDP
700W
فرم فاکتور
SXM5
خنک‌سازی
مایع/هوایی
NVLink
900 GB/s
PCIe
Gen5 x16
تاریخ عرضه
Q2 2024
قدرت FP8 (Tensor)
3,958 TFLOPS
عملکرد آموزش (GPT-3)
مرجع
عملکرد استنتاج (Llama 2 70B)
31,000+ tokens/s