NVIDIA разработала AI Factory Operations Agent — систему, использующую специализированных агентов для выявления сбоев, анализа причин и выдачи рекомендаций через чат-интерфейс в операциях NVIDIA DGX SuperPOD.
Система построена на основе NVIDIA NemoClaw blueprint с использованием NVIDIA OpenShell и работает полностью локально, применяя открытые модели NVIDIA Nemotron на кластерах NVIDIA DGX H100, NVIDIA DGX B200 и NVIDIA DGX GB300.
Специализированные агенты включают Job Recovery, Hardware, Observability, Research, Kubernetes и Cluster Management, каждый из которых предлагает целевые рекомендации и интегрируется с инструментами MCP, такими как веб-поиск, выполнение кода и Grafana-дашборды.
Ключевые выводы из производственного опыта включают чёткие границы агентов, исследование в режиме 'только чтение' для формирования доверия, корреляцию между слоями для выявления причин, пропущенных изолированными инструментами, точные определения инструментов MCP и прозрачность рассуждений, чтобы SRE могли проверять доказательства перед действиями.
Для мультиарендных AI-фабрик ограниченные агенты, инструменты, песочницы и разрешения Kubernetes обеспечивают изоляцию данных и операций каждого арендатора, при этом центральные операционные службы сохраняют более широкий обзор кластера, обеспечиваемый OpenShell через ядро-уровневые ограничения песочницы.
Чтобы начать оптимизацию управления операциями кластера, можно изучить пример AI Factory Operations Agent или получить доступ к фреймворку с открытым исходным кодом и коду напрямую на GitHub. Оркестрационная платформа доступна как экспериментальное программное обеспечение с открытым исходным кодом; API, конфигурация и требования к развертыванию могут изменяться между релизами.
Это краткое изложение. Полный текст статьи доступен на сайте источника:
Читать полностью на NVIDIAКак это касается вашего бизнеса
Новая модель или сервис дают эффект, только если данные и процессы компании к ним готовы. Аудит ИИ-готовности покажет, где ИИ даст максимальную отдачу, а где внедрять его преждевременно.