Швейцарские исследователи представили Apertus — полностью открытую языковую модель с акцентом на прозрачность и конфиденциальность. Модель доступна в версиях на 8 и 70 млрд параметров.
Earth Species Project запустила интерактивный интерфейс для языковой модели NatureLM-audio, позволяющий анализировать звуки животных без программирования через веб-интерфейс.
Coveo интегрирует свой Passage Retrieval API с Amazon Bedrock для повышения точности языковых моделей через двухэтапный поиск и гибридное ранжирование в корпоративной среде.
Scale AI обнаружила фундаментальную проблему цепочки инструментов в LLM и предложила революционный подход: заставить модели генерировать планы вместо выполнения задач.
Глубокий технический анализ работы больших языковых моделей под нагрузкой: как оптимизировать параллельную обработку запросов через понимание фаз предварительного заполнения и декодирования.
Обзор стратегий декодирования в языковых моделях: от жадного поиска до beam search и методов сэмплинга. Практические примеры на Python.