Поставка AI-сервера Hightech для работы с DeepSeek
HIGHTECH - системный интегратор и комплексный поставщик Dell, HPE и Lenovo в России и СНГ
Описание проекта
ГК Хайтек поставила сервер собственной сборки для организации, которая занимается социальной поддержкой и реабилитацией граждан.
К нам обратился заказчик, которому требовался мощный сервер для локального запуска DeepSeek. Важными условиями были уложиться в ограниченный бюджет, высокая скорость работы, надежность и возможность дальнейшего расширения.
Цели и задачи
Для развития ИТ-инфраструктуры требовался мощный сервер для работы с AI и большими языковыми моделями. Чтобы уложиться в стоимость проекта, специалисты ГК Хайтек предложили использовать две видеокарты NVIDIA RTX PRO 6000 Blackwell вместо более дорогих серверных ускорителей. Это позволило получить высокую производительность без лишних затрат.
Что поставили
Мы собрали сервер Hightech на базе Supermicro 4U со следующей конфигурацией:
- 2 процессора AMD EPYC 9354
- 256 ГБ оперативной памяти DDR5 ECC
- 2 SSD Samsung PM9D3a по 3,84 ТБ
- 1 SSD Samsung PM9D3a на 960 ГБ
- 2 видеокарты NVIDIA RTX PRO 6000 Blackwell Max-Q с 96 ГБ памяти
Результаты
Мы не просто собрали сервер. Перед отгрузкой специалисты ГК Хайтек полностью проверили его в работе.
Провели нагрузочные и синтетические тесты, а также развертывание LLM-фреймворков с подключением GPU. Заказчик получил готовое решение, которое можно сразу использовать.
Заказчик получил готовую платформу для работы с DeepSeek и другими LLM.
Сервер позволяет запускать нейросети локально, быстро обрабатывать большие объемы данных и не передавать информацию во внешние облачные сервисы.
ГК Хайтек проектирует, собирает и тестирует серверы для AI, машинного обучения и корпоративных LLM с учетом требований и бюджета каждого заказчика.