Lambda использует NVIDIA Photonics CPO-коммутаторы для подключения более чем 10 000 GPU в AI Factory, снижая энергопотребление и увеличивая надежность сети.
Для обучения моделей ИИ требуется, чтобы тысячи GPU работали вместе, что предполагает использование сети, способной обеспечивать высокую скорость, эффективность и устойчивость.
Lambda решает задачу построения такой сети с помощью CPO-коммутаторов NVIDIA Photonics, которые используются для подключения стоек NVIDIA GB300 NVL72 с более чем 10 000 GPU.
В тестах компании задержки сети сократились примерно на 4% на уровне стойки и до 10% на уровне пода, а в конфигурациях стойки, масштабируемого юнита и пода пропускная способность сети осталась такой же, как у традиционной плагируемой оптики.
NVIDIA Photonics повышает энергоэффективность и надежность за счет замены плагируемых трансиверов на интегрированные оптические движки, что позволяет достичь до 5-кратного улучшения энергоэффективности и до 15-кратного роста надежности по сравнению с традиционными плагируемыми оптическими решениями.
Lambda использует коммутаторы NVIDIA Photonics с 144 портами на 800 Гбит/с, охлаждаемые жидкостной системой, что позволило снизить среднюю температуру оптических компонентов до 36 °C против 51 °C у традиционных решений.
NVIDIA Photonics также перемещает преобразование электрического сигнала в оптический ближе к чипу коммутатора. Каждый коммутатор имеет 18 съемных внешних источников света, которые подают свет в оптические движки. Оптические движки расположены рядом с чипом на одном пакете и преобразуют электрические сигналы в свет, передаваемый по оптоволокну между частями кластера.
Технические специалисты могут заменять модули источников света в полевых условиях, в отличие от традиционной плагируемой оптики, где при выходе из строя лазера требуется замена всего модуля.
Интегрирование сокращает электрический путь с дюймов до миллиметров, что уменьшает потери сигнала. Оно также устраняет необходимость в ретаймерных чипах, снижая энергопотребление и количество компонентов в цепи передачи данных.
Одна прерванная связь в крупной задаче обучения может остановить тысячи GPU, а в агентном инференсе — вызвать каскадные задержки, поэтому каждое прерывание влияет на производительность AI Factory.
Это краткое изложение. Полный текст статьи доступен на сайте источника:
Читать полностью на NVIDIAКак это касается вашего бизнеса
Изменения на рынке важны, когда руководитель видит их в показателях своей компании. Радар управления каждый день собирает брифинг: 10 приоритизированных сигналов о главном за 24 часа.

