Серверы NVIDIA DGX H200

NVIDIA DGX H200 - развитие платформы H100, где главный акцент сделан на объём и скорость доступа к памяти GPU. Для инференса и обучения моделей с миллиардами параметров пропускная способность памяти зачастую становится узким местом раньше вычислительной мощности - в H200 эта проблема решена на уровне архитектуры. ГК Хайтек поставляет серверы NVIDIA DGX H200 юридическим лицам.

Ключевое отличие от H100

GPU-ускорители H200 оснащены памятью HBM3e - значительно большего объёма и пропускной способности по сравнению с H100. Всё остальное: топология с восемью GPU, NVLink, NVSwitch, процессоры Intel Xeon Scalable, адаптеры ConnectX-7 и локальные NVMe - сохранено.

Для каких задач

• Инференс больших языковых моделей: увеличенный объём памяти GPU ускоряет обработку запросов к моделям с большим числом параметров
• Обучение моделей с длинным контекстом, где размер памяти ускорителя ограничивает работу с длинными последовательностями
• Наращивание существующей DGX-инфраструктуры без изменения общей архитектуры кластера

Доступна расширенная гарантия до 3 лет. Свяжитесь со специалистами ГК Хайтек для расчёта под ваш проект.