Оглавление

Компания Nvidia выпустила Nemotron 3.5 Super VL — мультимодальную модель с открытыми весами и 120 миллиардами параметров, специально оптимизированную для создания ИИ-агентов. Как сообщает The Decoder, архитектура новинки ориентирована на непрерывную работу в корпоративной среде, где требуется глубокий анализ документов, видео и сложных бизнес-процессов.

В основе Super VL лежит архитектура Mixture-of-Experts (MoE), позволяющая активировать лишь 12 миллиардов параметров для обработки каждого токена. Это обеспечивает баланс между мощностью и скоростью, необходимый для фоновых задач. Вместе с флагманской моделью дебютировали два компактных варианта Bolt, предназначенных для локального запуска на ПК и граничных устройствах.

Эффективность через дистилляцию и кэширование

Разработчики Nvidia применили метод дистилляции, перенеся возможности тяжелой модели Nemotron 3 Ultra в более компактную Super VL. По заявлениям компании, при пятикратном уменьшении числа параметров точность выполнения агентских задач — таких как вызов инструментов или многошаговое планирование — осталась на уровне оригинала, а в некоторых тестах даже превзошла его.

Особое внимание уделено сокращению вычислительных затрат. Использование формата NVFP4 позволяет запускать модель с 4-битной точностью на архитектуре Blackwell. Кроме того, внедрена система кэширования контекста: поскольку агенты часто получают одни и те же инструкции и описания инструментов, повторные вычисления исключаются, что ускоряет время до выдачи первого токена на 85%.

Для визуального восприятия модель использует встроенные механизмы анализа OCR, таблиц и графиков без привлечения сторонних нейросетей. В тесте CharXiv, оценивающем понимание диаграмм, Super VL достигла результата в 80,8%, что значительно выше показателей предыдущих итераций. Это превращает её в полноценный инструмент для автоматизации документооборота в финансах и страховании.

Выпуск 120-миллиардной модели под открытой лицензией выглядит как щедрый жест, но за ним стоит прагматичный расчет на продажу проприетарного «железа». Оптимизация под формат NVFP4 и глубокая интеграция с Dynamo делают Nemotron максимально эффективным только на картах Nvidia, превращая открытый софт в драйвер закрытой экосистемы. Это классический вендор-лок, упакованный в обертку демократизации технологий.

Локальные агенты и барьер аппаратных требований

Линейка Bolt призвана перенести интеллектуальных помощников с облачных серверов на рабочие станции. Модель Bolt 74B-A9B способна работать в рамках 24 ГБ видеопамяти благодаря агрессивному 2-битному квантованию. Она ориентирована на разработчиков, которым требуется автономный поиск по коду или локальный анализ данных без передачи информации вовне.

Тем не менее, даже «облегченная» версия требует топового оборудования, доступного немногим. Для массового сегмента Nvidia готовит Bolt E4B объемом всего 4 ГБ, которая должна появиться до конца месяца. Этот вариант нацелен на голосовых ассистентов и интерфейсы устройств, способных поддерживать естественный диалог в реальном времени.

Стратегия Nvidia по публикации не только весов, но и наборов данных вместе с рецептами обучения, заметно контрастирует с политикой закрытых лабораторий. Однако этот путь неизбежно ведет к покупке специализированных систем вроде DGX Spark. Пока гиганты вроде Meta или Google строят собственные чипы, Nvidia создает условия, при которых любой открытый проект будет работать лучше всего именно на её кремнии.