Google представила алгоритм TurboQuant, сокращающий объем KV-кэша без потери точности
Исследователи Google разработали TurboQuant — новый алгоритм квантования, который радикально сокращает объем KV-кэша и ускоряет работу языковых моделей.
Google Research
Новости
В Google придумали, обновлять убеждения LLM при получении новой информации
Google Research представила метод Bayesian teaching, позволяющий языковым моделям эффективнее обновлять знания в ходе диалога и работать в условиях неопределенности.
