VISION COMPUTERS, INC. PNY RTX H100 NVL - 94 Go HBM3-350-400W - Emballage en vrac et accessoires PNY

La carte graphique H100 NVL est conçue pour évoluer la prise en charge des modèles de langage volumineux, tels que GPT3-175B, dans les systèmes de serveur PCIe grand public, offrant jusqu'à 12 fois la performance de débit des systèmes HGX A100 lorsqu'elle est configurée avec 8 unités. Équipé de fonctionnalités avancées, y compris 94 Go de mémoire HBM3 haute vitesse, une connectivité NVLink pour une meilleure communication inter-GPU et une bande passante de mémoire impressionnante de 3938 Go/s, le H100 NVL est conçu pour les tâches d'inférence IA haute performance. La carte présente un spectre de performance robuste sur différents types de calcul : 68 TFLOPS pour FP64, 134 TFLOPS pour FP64 Tensor Core et FP32, escalade jusqu'à 7916 TFLOPS/TOPS pour les opérations FP8 et INT8 Tensor Core, tous bénéficiant d'optimisations de sparsity. Il permet aux serveurs grand public standard de fournir des capacités hautes performances pour l'inférence générative de l'IA, simplifiant le processus de déploiement pour les partenaires et les fournisseurs de solutions avec un délai de mise sur le marché rapide et une facilité d'évolutivité. L'efficacité énergétique du H100 NVL est optimisée avec une consommation d'énergie maximale configurable allant de 2 x 350 à 400 W, prenant en charge des tâches informatiques étendues sans consommation d'énergie excessive.