Google представила VaultGemma — первую языковую модель с 1 млрд параметров, полностью обученную с дифференциальной приватностью. Модель доступна на Hugging Face и Kaggle.
Writer выпустила три компактные языковые модели Palmyra-mini размером 1.5-1.7B параметров с специализацией на логических рассуждениях и математике.
Together AI и Hugging Face представили интеграцию для дообучения любых совместимых моделей из каталога Hub. Разработчики теперь могут тонко настраивать модели без сложной инфраструктуры.
Hugging Face представила Jupyter Agent v2 — систему для обучения небольших языковых моделей анализу данных через выполнение кода в Jupyter Notebook.
Hugging Face анонсировала mmBERT — мультиязычную модель с поддержкой 1800+ языков, обученную на 3T+ токенов с инновационными методами прогрессивного обучения.
Техника управляемого декодирования позволяет контролировать генерацию текста языковыми моделями через внешние правила и ограничения, обеспечивая точное соответствие требованиям.