NVIDIA открывает DFlash: новый подход к ускорению вывода языковых моделей
NVIDIA открыла исходный код DFlash — технологии, которая заменяет последовательное спекулятивное декодирование параллельной генерацией блоков, ускоряя инференс до 15 раз.
NVIDIA — производитель GPU для AI. Их чипы питают революцию машинного обучения. Капитализация превысила $3 триллиона.
NVIDIA открыла исходный код DFlash — технологии, которая заменяет последовательное спекулятивное декодирование параллельной генерацией блоков, ускоряя инференс до 15 раз.
Индустрия робототехники пытается повторить успех трансформеров, создавая модели мира, но сталкивается с фундаментальным отсутствием единых стандартов данных.
Проект ENPIRE от Nvidia позволяет роботам самостоятельно обучаться сложным физическим задачам, используя ИИ-агентов для написания кода и обмена опытом через Git.
Британский стартап Ineffable Intelligence построит один из крупнейших в мире кластеров на базе GPU Nvidia Vera Rubin в облаке Google для разработки автономного суперинтеллекта.
Google и Nvidia изучают возможность переноса части заказов на производство ИИ-чипов на заводы Intel из-за нехватки мощностей у TSMC.
Nvidia сертифицировала Samsung, SK Hynix и Micron в качестве поставщиков высокоскоростной памяти HBM4 для будущей архитектуры ИИ-ускорителей Vera Rubin.