Перейти к основному содержимому
AXIOMA AI
Все новости
Рынок AI

Lambda повышает устойчивость и эффективность AI Factory с NVIDIA Photonics

Lambda повышает устойчивость и эффективность AI Factory с NVIDIA Photonics
10 000
GPU в AI Factory Lambda

Lambda использует NVIDIA Photonics CPO-коммутаторы для подключения более чем 10 000 GPU в AI Factory, снижая энергопотребление и увеличивая надежность сети.

Для обучения моделей ИИ требуется, чтобы тысячи GPU работали вместе, что предполагает использование сети, способной обеспечивать высокую скорость, эффективность и устойчивость.

Lambda решает задачу построения такой сети с помощью CPO-коммутаторов NVIDIA Photonics, которые используются для подключения стоек NVIDIA GB300 NVL72 с более чем 10 000 GPU.

В тестах компании задержки сети сократились примерно на 4% на уровне стойки и до 10% на уровне пода, а в конфигурациях стойки, масштабируемого юнита и пода пропускная способность сети осталась такой же, как у традиционной плагируемой оптики.

NVIDIA Photonics повышает энергоэффективность и надежность за счет замены плагируемых трансиверов на интегрированные оптические движки, что позволяет достичь до 5-кратного улучшения энергоэффективности и до 15-кратного роста надежности по сравнению с традиционными плагируемыми оптическими решениями.

Lambda использует коммутаторы NVIDIA Photonics с 144 портами на 800 Гбит/с, охлаждаемые жидкостной системой, что позволило снизить среднюю температуру оптических компонентов до 36 °C против 51 °C у традиционных решений.

NVIDIA Photonics также перемещает преобразование электрического сигнала в оптический ближе к чипу коммутатора. Каждый коммутатор имеет 18 съемных внешних источников света, которые подают свет в оптические движки. Оптические движки расположены рядом с чипом на одном пакете и преобразуют электрические сигналы в свет, передаваемый по оптоволокну между частями кластера.

Технические специалисты могут заменять модули источников света в полевых условиях, в отличие от традиционной плагируемой оптики, где при выходе из строя лазера требуется замена всего модуля.

Интегрирование сокращает электрический путь с дюймов до миллиметров, что уменьшает потери сигнала. Оно также устраняет необходимость в ретаймерных чипах, снижая энергопотребление и количество компонентов в цепи передачи данных.

Одна прерванная связь в крупной задаче обучения может остановить тысячи GPU, а в агентном инференсе — вызвать каскадные задержки, поэтому каждое прерывание влияет на производительность AI Factory.

Это краткое изложение. Полный текст статьи доступен на сайте источника:

Читать полностью на NVIDIA

Как это касается вашего бизнеса

Изменения на рынке важны, когда руководитель видит их в показателях своей компании. Радар управления каждый день собирает брифинг: 10 приоритизированных сигналов о главном за 24 часа.