Чип NVIDIA GH100, лежащий в основе вычислительного процессора NVIDIA H100, выглядит очень впечатляюще, по крайней мере такие выводы можно сделать по официальному документу NVIDIA, опубликованному на выходных. Новый чип NVIDIA будет выпускаться по новейшему техпроцессу TSMC N4 (EUV класса 4 нм), будет имеет монолитный кристалл, окруженный шестью стеками памяти HBM3.
Вычислительный кристалл GH100 благодаря 4 нм техпроцессу имеет чудовищное количество транзисторов — 80 миллиардов, что почти на 50% больше, чем у GA100. Интересно, что при этом площадь кристалла GH100 меньше (814 мм²), чем у GA100 (826 мм²).
Иерархия компонентов GH100 аналогична архитектуре NVIDIA предыдущего поколения. Основной механизм обработки чисел распределен по 144 потоковым мультипроцессорам (SM). Чип имеет 18 432 ядра CUDA (FP32) и 9 216 ядер CUDA двойной точности (FP64). Также имеется 576 тензорных ядер четвертого поколения.
При этом чип GH100 оснащен 6144-битным интерфейсом памяти HBM3, а 80 ГБ — это стандартный объем памяти для него. Ожидается, что предлагаемая пропускная способность памяти превысит 3 ТБ/с. Хост-интерфейсы также получили серьезное обновление. Плата форм-фактора SXM поставляется с поддержкой NVLink последнего поколения (пропускная способность 900 ГБ/с).
Модель форм-фактора AIC (карта расширения) получила интерфейс PCI-Express 5.0 x16 (128 ГБ/с). Что касается энергопотребления, то H100 может потреблять до 700 Вт по сравнению с 400 Вт у A100.