NVIDIA представила Nemotron 3.5 Super VL для агентов с мультимодальными рассуждениями
NVIDIA выпустила открытую мультимодальную модель Nemotron 3.5 Super VL с архитектурой mixture-of-experts, способную обрабатывать текст, изображения, документы и видео в одной модели.
Модель Nemotron 3.5 Super VL имеет архитектуру mixture-of-experts на 120 миллиардов параметров, задействующую 12 миллиардов параметров на токен для агентских рабочих процессов.
Она объединяет рассуждение, выполнение инструкций, использование инструментов и понимание текста, изображений, документов и видео в одной модели, исключая необходимость отдельных моделей для визуального восприятия.
На одной GPU модель обеспечивает в 5 раз более высокую пропускную способность для задач агентов по сравнению с другими открытыми моделями аналогичного размера.
Компании, включая Scale AI, Ramp и AI21, дообучили модель для специализированных рабочих процессов, добившись снижения стоимости вывода в 40 раз, задержки в 10 раз и повышения точности на 40%.
Разработчики могут дообучать модель с помощью NVIDIA NeMo, используя надзорное дообучение, адаптацию низкого ранга и обучение с подкреплением на открытых датасетах, опубликованных на Hugging Face.
Модель оптимизирована для эффективного вывода с использованием спекулятивного декодирования LiLiCorr, NVFP4-квантования, многоточечного предсказания и повторного использования контекста на платформах, включая NVIDIA DGX Spark.
Это краткое изложение. Полный текст статьи доступен на сайте источника:
Читать полностью на NVIDIAКак это касается вашего бизнеса
Изменения на рынке важны, когда руководитель видит их в показателях своей компании. Радар управления каждый день собирает брифинг: 10 приоритизированных сигналов о главном за 24 часа.