NVIDIA представила платформу Minerva — AIOps-решение для повышения продуктивности AI-фабрик за счёт единой аналитики по инфраструктуре и нагрузкам, превращающей данные в своевременные и практически применимые выводы.
Работа AI-фабрик является одной из самых сложных операций в мире, где огромное количество GPU работает в высокоскоростных сетях для обучения моделей и обслуживания приложений.
Платформа фокусируется на показателе выработки AI-фабрики — метрике полезной работы инфраструктуры через GPU-часы, goodput, время работы кластера и количество произведённых токенов.
Minerva объединяет данные от различных компонентов — GPU, сетевых интерфейсов, хранилищ, планировщиков и рабочих нагрузок — в динамический граф знаний, позволяющий операторам быстро находить причины замедления задач.
Платформа анализирует миллиарды точек данных в час с помощью контролируемого и неконтролируемого машинного обучения, выявляя аномалии, предсказывая сбои и группируя события в единые инциденты с вероятной первопричиной.
Minerva включает встроенного AI-ассистента и поддерживает подключение внешних агентных AI-инструментов, позволяя операторам взаимодействовать с системой на естественном языке и получать рекомендации по устранению неполадок.
IREN использует Minerva для оптимизации своих AI-фабрик. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI и Tesla планируют присоединиться к IREN в использовании платформы.
Это краткое изложение. Полный текст статьи доступен на сайте источника:
Читать полностью на NVIDIAКак это касается вашего бизнеса
Изменения на рынке важны, когда руководитель видит их в показателях своей компании. Радар управления каждый день собирает брифинг: 10 приоритизированных сигналов о главном за 24 часа.