کارت گرافیک انویدیا H100 ظرفیت ۸۰ گیگابایت PCIE

مشخصات کلی
معماری GPU
NVIDIA Hopper (GH100)
فرآیند ساخت
TSMC 4N (5 نانومتر)
تعداد ترانزیستورها
80 میلیارد
اندازه تراشه
814 میلی‌متر مربع
هسته‌های CUDA
14,592
چندپردازنده جریانی (SM)
114
هسته‌های Tensor (نسل چهارم)
456
ظرفیت حافظه
80GB HBM2e
رابط حافظه
5120-بیتی
پهنای باند حافظه
2.0 ترابایت/ثانیه
کلاک پایه
1095 مگاهرتز
کلاک تقویت‌شده
1755 مگاهرتز
عملکرد FP64
24 تراف لاپس
عملکرد FP32
48 تراف لاپس
Tensor Core TF32
400 تراف لاپس (800 با Sparsity)
Tensor Core FP16/BF16
800 تراف لاپس (1600 با Sparsity)
Tensor Core FP8
1600 تراف لاپس (3200 با Sparsity)
TDP (توان مصرفی طراحی)
350 وات (قابل تنظیم 300-350 وات)
فرم فکتور
PCIe Gen 5 دو اسلاته
کانکتور برق
1x 16-پین PCIe
ابعاد
268 میلی‌متر (طول) × 111 میلی‌متر (ارتفاع)
پشتیبانی NVLink
NVLink نسل چهارم
خروجی‌های تصویر
ندارد (GPU محاسباتی خالص)
آموزش GPT-3 175B
خط پایه
آموزش BERT-Large
خط پایه
آموزش ResNet-50
خط پایه
Mixture of Experts (395B پارامتر)
خط پایه
استنتاج Llama 2 70B
خط پایه
چت‌بات GPT-3 530B
خط پایه
Stable Diffusion XL
خط پایه
3D FFT (4K³)
7 برابر سریع‌تر, از A100
توالی‌یابی ژنوم (Smith-Waterman)
7 برابر سریع‌تر, با دستورات DPX
دینامیک مولکولی
3 برابر سریع‌تر
شبیه‌سازی آب و هوا
تا 3 برابر سریع‌تر
TDP
350 وات
چندپردازنده جریانی
114 SM
هسته CUDA
14,592
هسته Tensor
456
نوع حافظه
HBM2e
عملکرد Tensor FP8
1600 تراف لاپس
سازگاری سرور
سرورهای استاندارد PCIe
موارد استفاده
استقرار انعطاف‌پذیر، زیرساخت موجود