Placa Video NVIDIA H100 NVL Tensor Core GPU

Descriere produs

NVIDIA 900-21010-0020-000 este un accelerator profesional NVIDIA H100 NVL Tensor Core GPU, proiectat pentru AI, inferenta LLM, HPC, data analytics, virtualizare GPU si workload-uri enterprise cu cerinte foarte ridicate de memorie si throughput.

Placa este bazata pe arhitectura NVIDIA Hopper si foloseste format PCI Express Gen5 x16, full-height full-length, dual-slot. Modelul H100 NVL este echipat cu 94GB memorie HBM3, magistrala de memorie 6016-bit si latime de banda maxima de 3938 GB/s.

H100 NVL este optimizat pentru accelerarea workload-urilor AI moderne, inclusiv modele lingvistice mari, inferenta, training, procesare paralela si aplicatii HPC. Placa suporta precizii multiple de calcul, inclusiv FP64, FP32, TF32, FP16, FP8 si INT8, precum si functionalitati enterprise precum MIG, SR-IOV, ECC, CUDA, vGPU si NVIDIA AI Enterprise.

Caracteristici principale

• Accelerator GPU NVIDIA H100 NVL
• Cod produs: 900-21010-0020-000
• Arhitectura NVIDIA Hopper
• Memorie 94GB HBM3
• Magistrala memorie 6016-bit
• Latime de banda memorie 3938 GB/s
• Interfata PCI Express Gen5 x16
• Format full-height, full-length, dual-slot
• Racire pasiva
• TDP maxim 400W
• Conector auxiliar PCIe 16-pin 12V-2x6
• Suport Multi-Instance GPU / MIG
• Pana la 7 instante MIG hardware izolate
• Suport SR-IOV cu 32 Virtual Functions
• Suport ECC
• Suport CUDA 12.2 sau mai nou
• Suport NVIDIA vGPU 16.1 sau mai nou
• Suport NVIDIA AI Enterprise
• Potrivit pentru AI, LLM inference, HPC, data analytics si virtualizare GPU
• Nu este placa video gaming
• Nu are ventilator propriu activ
• Necesita server compatibil cu airflow adecvat

Specificatii tehnice

Memorie si performanta

Software si functionalitati enterprise

Alimentare si racire

Compatibilitate

Componente incluse

Observatii importante

NVIDIA 900-21010-0020-000 este un accelerator data center / AI, nu o placa video consumer. Nu este destinat instalarii intr-un PC desktop standard fara airflow server adecvat.

Placa foloseste racire pasiva, deci nu are ventilator propriu integrat. Functionarea corecta necesita server compatibil, flux de aer adecvat si alimentare PCIe 16-pin corespunzatoare.

H100 NVL poate fi folosita individual ca GPU de 94GB, iar in configuratii cu doua placi conectate prin NVLink bridge se obtine o solutie cu 188GB HBM3 agregat pentru workload-uri LLM, conform designului NVIDIA H100 NVL.

Utilizare recomandata

NVIDIA H100 NVL 900-21010-0020-000 este recomandata pentru infrastructuri AI enterprise, inferenta LLM, modele lingvistice mari, HPC, procesare paralela, analiza de date, accelerare CUDA, virtualizare GPU si platforme NVIDIA AI Enterprise.

Este potrivita pentru servere certificate sau platforme enterprise validate pentru acceleratoare NVIDIA H100 NVL, unde sunt disponibile racirea, alimentarea si topologia PCIe/NVLink necesare.

Intrebari frecvente

1. Ce este NVIDIA 900-21010-0020-000?
Este un accelerator NVIDIA H100 NVL Tensor Core GPU cu 94GB HBM3, interfata PCIe 5.0 x16 si racire pasiva.

2. Cata memorie are H100 NVL?
Aceasta placa are 94GB memorie HBM3.

3. Este placa video pentru gaming?
Nu. Este un accelerator data center pentru AI, HPC, LLM inference si virtualizare GPU.

4. Are ventilator integrat?
Nu. Racirea este pasiva si necesita airflow adecvat din partea serverului.

5. Include NVLink bridge?
NVLink bridge-ul nu este mentionat ca inclus. NVIDIA listeaza bridge-ul H100 NVL cu part number separat 900-53651-0000-000.