Обучение AI / ML
Критичны объём памяти ускорителей, масштабирование, межузловой fabric, скорость подачи данных и checkpoint-потоки.
Memory • Fabric • Storage throughputGPU • AI • HPC • DATA INFRASTRUCTURE
Вычислительная система начинается с нагрузки. Не с модели сервера.
Проектируем и комплектуем вычислительный контур под обучение и инференс ИИ, моделирование, научные расчёты и обработку данных — от профиля задачи до сети, хранения, питания, охлаждения и ввода в эксплуатацию.
01Профиль
нагрузки
нагрузки
02Архитектура
и масштаб
и масштаб
03Инфраструктура
и ввод
и ввод
COMPUTE COREGPUAI • HPC • DATA
TRAININGINFERENCEHPC / SIMULATIONFABRIC / STORAGEPOWER / COOLINGНагрузкамодель, данные, параллелизм, SLA
ВычисленияCPU, GPU, DPU и память
Fabricмежузловые и внешние сети
ДанныеNVMe, shared storage, архив
Инфраструктурастойка, питание, охлаждение
Сначала — профиль задачи
Четыре разных нагрузки — четыре разных акцента архитектуры
Количество ускорителей само по себе ничего не говорит о результате. Архитектура зависит от размера модели и данных, точности вычислений, параллелизма, требований к задержке, межузловому обмену и хранению.
Инференс
На первый план выходят latency, concurrency, модель обслуживания, энергоэффективность и предсказуемая доступность сервиса.
Latency • Concurrency • SLAHPC / моделирование
Баланс CPU/GPU, тип вычислительных ядер, MPI/межузловой обмен, локальная память и профиль конкретного кода.
CPU/GPU balance • MPI • FabricДанные и аналитика
Пропускная способность ingest, NVMe и shared storage, сеть, объём набора данных и режимы хранения/архива.
Data path • NVMe • StorageКласс платформы — после профилирования
DGX / HGX / MGX / OEM — не прайс-лист, а архитектурные варианты
Конкретное поколение ускорителей, производитель сервера, CPU, память, сетевые адаптеры, накопители и охлаждение подтверждаются по доступной спецификации и требованиям проекта.
DGX-класс
Высокоинтегрированная готовая система для задач, где важны согласованный аппаратно-программный стек и быстрый ввод в эксплуатацию.
Максимум интеграцииHGX-класс
Высокоплотная GPU-архитектура внутри OEM-сервера, когда нужен выбор CPU, памяти, сети, хранения и исполнения под инфраструктуру заказчика.
Высокая плотность GPUMGX-класс
Модульная серверная архитектура для вариативных сочетаний CPU, GPU, DPU и периферии в разных сценариях AI и ускоренных вычислений.
Гибкая конфигурацияOEM GPU-узел
Серверная платформа с PCIe-ускорителями или иным согласованным составом, когда задача не требует максимальной GPU-плотности.
Точный подбор под нагрузкуВажно:страница не фиксирует конкретное поколение GPU и не обещает наличие оборудования. Номенклатура, доступность, ограничения поставки и точная спецификация подтверждаются перед коммерческим предложением.
Система вокруг GPU
Ускоритель — только один слой вычислительной инфраструктуры
Результат определяется не отдельным GPU, а согласованностью всех шести контуров. Узкое место в сети, хранении, питании или охлаждении может обнулить преимущество дорогого вычислительного узла.
Тип вычислений, память, NUMA, PCIe/SXM-топология и требуемый баланс узлов.
Межузловой обмен, Ethernet/InfiniBand-класс и топология масштабирования под задачу.
Локальный NVMe, shared storage, ingest, checkpoint, dataset и архивные уровни.
Внешние сети, management, сегментация, доступ к данным и интеграция в контур заказчика.
Мощность стойки, резерв, воздушное или жидкостное исполнение и тепловой баланс площадки.
ОС, драйверы, контейнеры, оркестрация, мониторинг, развёртывание и сопровождение.
ИНТЕГРАЦИОННЫЙ РЕЗУЛЬТАТНе «сервер с GPU», а согласованный вычислительный контур под конкретный workload.
Sizing до BOM
Что определяет реальный размер системы
Первичный sizing связывает требования приложения с аппаратной архитектурой. Если входных данных мало, сначала фиксируем допущения и диапазон, а не выдаём псевдоточную конфигурацию.
Модель / код / frameworkТип нагрузки, версии ПО, precision и особенности масштабирования.
Размер данных и памятиModel footprint, batch, dataset, working set, checkpoint и cache.
ПроизводительностьВремя обучения, tokens/sec, jobs/day, latency, concurrency или другой измеримый KPI.
МасштабированиеОдин узел или кластер, интенсивность обмена и допустимые потери эффективности.
ПлощадкаСтойки, PDU, доступная мощность, холодопроизводительность и ограничения машинного зала.
SIZING GATEСначала измеримый workload
Затем — количество узлов, GPU, CPU, память, fabric, storage, питание и охлаждение.
От запроса к рабочему контуру
Семь шагов до ввода в эксплуатацию
Для новой инфраструктуры маршрут включает и сервер, и площадку. Для модернизации — сначала аудит существующей сети, хранения, электропитания и охлаждения.
Workload, данные, KPI, ПО, ограничения площадки и бюджетный диапазон.
Бенчмарк, оценка узких мест или расчётный профиль при отсутствии измерений.
Класс платформы, масштаб, CPU/GPU/DPU, сеть, storage и программный контур.
Точная спецификация оборудования и требования к стойке, питанию и охлаждению.
Комплектация, логистика, установка и физическая интеграция в инфраструктуру.
Firmware, драйверы, сеть, storage, базовый software stack и мониторинг.
Контроль согласованных KPI и передача рабочей конфигурации заказчику.
Что прислать для старта
Для первичной архитектуры достаточно семи групп данных
Обучение, инференс, HPC, рендеринг, аналитика или смешанный сценарий.
Framework, версии, контейнеры, библиотеки, модель/код и precision.
Время выполнения, latency, throughput, concurrency или другой критерий результата.
Объём, скорость ingest, хранение, checkpoint, резервирование и retention.
Сеть, storage, стойки, виртуализация, monitoring и ограничения интеграции.
Доступная мощность, PDU, охлаждение, ограничения машинного зала.
Регион, требуемые сроки, допустимое поэтапное масштабирование и бюджетный диапазон.
GPU / AI / HPC
Нужен сервер — или нужен вычислительный результат?
Передайте workload и ограничения инфраструктуры. Сначала определим архитектуру и узкие места, затем сформируем конфигурацию оборудования, требования к площадке и маршрут ввода.