Пользователь Reddit смог ускорить генерацию на RTX 3090 в 4,6 раза, оптимизировав инференс
Энтузиаст смог разогнать генерацию текста на видеокарте RTX 3090 почти в пять раз, используя новые методы оптимизации инференса и спекулятивное декодирование.
NVIDIA
NVIDIA — производитель GPU для AI. Их чипы питают революцию машинного обучения. Капитализация превысила $3 триллиона.
Новости
Nvidia представила Nemotron 3.5 Super VL — открытую модель для корпоративных ИИ-агентов
Nvidia представила новую открытую модель Nemotron 3.5 Super VL и линейку Bolt, предназначенные для создания автономных ИИ-агентов и локальной работы на ПК.
NVIDIA и Riverlane ускоряют калибровку квантовых компьютеров с помощью GPU
Компании Riverlane и NVIDIA представили бенчмарки, доказывающие эффективность использования GPU для борьбы с дрейфом параметров в квантовых компьютерах.
NVIDIA обновила DLSS 5 — нейрорендеринг работает вдвое быстрее и требует меньше памяти
NVIDIA представила обновленную модель DLSS 5, которая работает в два раза быстрее сентябрьской версии и значительно эффективнее расходует видеопамять.
Nvidia встраивает аппаратный «предохранитель» в чипы для сдерживания ИИ-агентов
Nvidia анонсировала аппаратное решение Sentry для изоляции ИИ-агентов, чтобы предотвратить инциденты с утечкой данных и несанкционированным доступом, характерные для последних тестов OpenAI и Google.
Nvidia выпустила компактную модель Nemotron 3 Diarization для идентификации участников беседы
Nvidia представила открытую модель Nemotron 3 Diarization, которая способна распознавать до восьми спикеров в аудиопотоке с минимальной задержкой.
