Оглавление

DeepSeek и Moonshot AI показали, насколько сильно можно изменить результаты языковой модели после её первоначального обучения: в обновлениях V4.1-Flash-1017 и Kimi K3.1 Pro компании заявили о заметном росте показателей без смены базовой модели. Подробности — в материале BigGo Finance.

17 октября DeepSeek обновила V4.1 Flash до версии V4.1-Flash-1017, а 24 октября Moonshot AI выпустила Kimi K3.1 Pro. В обоих случаях компании связывают улучшения с постобучением — этапом, на котором уже обученную модель настраивают на выполнение конкретных задач. Архитектура, токенизатор и масштаб базовой модели, согласно заявлениям компаний, остались прежними.

DeepSeek сообщила, что в версии 1017 выросли результаты по всем 11 тестам: прибавка составила от 2 до 11,1 пункта. Цена API не изменилась, название модели осталось deepseek-flash, а существующие приложения не требуют правок. Kimi K3.1 Pro Moonshot AI прямо называет версией K3 после постобучения. Её базовая модель насчитывает 2,8 трлн параметров, из которых при работе активируются 104 млрд; она поддерживает контекст длиной в миллион токенов и принимает изображения и видео.

Что показывают тесты

На Terminal-Bench 4.0, который оценивает работу моделей с задачами в терминале, Kimi K3.1 Pro набрала 65,7%, тогда как Kimi K3 получила 13% в повторном тестировании Artificial Analysis. DeepSeek V4.1 Flash показала 31,2 балла, а версия 1017 — 42,3. При этом оценка K3 была получена сторонней организацией, а остальные результаты сообщены самими разработчиками. Методики не полностью совпадают, поэтому прямое сравнение требует осторожности.

Moonshot AI объясняет прогресс K3.1 Pro существенным увеличением вычислений на этапе постобучения: обучение с подкреплением проводилось сразу по сотням прикладных областей. Для этого компания обновила систему обучения с подкреплением, работу с длинным контекстом, эффективность обучения, программную среду для запуска задач и систему планирования вычислений. Кроме того, была создана отдельная общая платформа для проверки качества таких сред. Заявленная цель — добиться, чтобы дополнительные вычисления давали стабильный, а не случайный прирост.

У DeepSeek важна последовательность событий. Выпущенная 10 сентября V4.1 Flash уже включала изменения предварительного обучения и масштабное обучение с подкреплением. В ней применена архитектура Causal Encoder-Decoder: при обработке входа активируются 8 млрд параметров, при генерации — 16 млрд. По данным компании, это сокращает использование памяти KV-кэша до четверти относительно предыдущего поколения. Октябрьское обновление 1017, напротив, затронуло только постобучение — поэтому его результаты позволяют отдельно рассматривать вклад этого этапа.

За 37 дней между V4.1 Flash и обновлением 1017 показатель Terminal-Bench 4.0 вырос с 31,2 до 42,3, ProgramBench — с 20,3 до 29,1, DeepSWE v1.1 — с 74,2 до 77,0, а HLE — с 36,8 до 42,6. DeepSeek утверждает, что архитектура и структура весов за это время не менялись.

Разница между этапами обучения — не только в объёме данных, но и в том, что именно считается успехом. Предварительное обучение учит модель предсказывать следующее слово по предыдущему тексту. Поэтому связный и правдоподобный фрагмент может считаться удачным, даже если написанный код не запускается. Постобучение добавляет примеры правильного формата и суждений, обратную связь из рабочей среды и перенос результатов сильной модели на более компактную. Цель смещается от «какое слово вероятнее» к «выполнена ли задача».

DeepSeek признала в техническом отчёте V4.1, что не внедряла новых алгоритмов постобучения: использовалась стандартная последовательность из контролируемой тонкой настройки, обучения с подкреплением и дистилляции на данных, создаваемых самой моделью в процессе работы. Основные усилия компания направила на данные и среды задач. По её оценке, рост масштаба, разнообразия и проверяемости данных способен объяснить большую часть улучшений даже без нового алгоритма.

Проверяемая награда — условие, при котором этот подход работает особенно хорошо. Можно проверить, запускается ли код, отображается ли изображение из CAD-модели и проходят ли ответы автоматические тесты. Такие критерии делают обучение с подкреплением доступнее с инженерной точки зрения и позволяют обучать модели сразу для множества областей. Там, где ответ нельзя надёжно признать правильным или ошибочным, этот метод даёт меньше преимуществ. Этим источник объясняет концентрацию заметного прогресса в программировании, агентных задачах и 3D-моделировании.

Дистилляция решает другую задачу — снижает стоимость переноса уже найденных способностей. В опубликованном Thinking Machines эксперименте дистилляция на собственных траекториях модели в математических задачах сравнялась с обучением с подкреплением или превзошла его, потребовав примерно в 50–100 раз меньше вычислений. Повторно воспроизвести способность, согласно этой логике, дешевле, чем впервые её обнаружить; один базовый модельный ряд можно итеративно улучшать и переносить его навыки в меньшие модели.

Постобучение превращает общий потенциал модели в рабочую производительность — особенно там, где результат можно проверить автоматически. Но высокий балл ещё не гарантирует универсального превосходства: тесты и выбранная программная среда могут стать частью результата. Побеждает не просто модель, а связка модели, инструментов и правил оценки.

Вычисления, цена и ограничения

Приведённая в материале оценка распределения вычислительных ресурсов показывает сдвиг от предварительного обучения к последующим этапам. В первом квартале 2024 года на предварительное обучение, как сообщается, приходилось 67% вычислений ведущих лабораторий. К четвёртому кварталу 2026 года эта доля, по прогнозу, должна упасть до 7%; постобучение и обучение с подкреплением займут 55%, а повседневный инференс — 38%. Точность этих оценок не гарантирована, но направление подтверждают и другие приведённые цифры.

Ло Фули, руководитель команды больших моделей Xiaomi, описывает соотношение исследований, формального предварительного обучения и формального постобучения в эпоху чат-ботов как примерно 3:5:1. Для этапа агентов, по её словам, разумнее соотношение 3:1:1, а ведущие команды достигают 1:1. Постобучение DeepSeek-R1, согласно оценке в материале, стоило около $2 млн, предварительное обучение использованной для него V3 — $5,57 млн. Эти суммы рассчитаны не на полностью сопоставимой основе, но разница в масштабе заметна.

На DeepSWE версия 1017 получила 77% при средней стоимости $0,2 за задачу. Предыдущей версии требовалось $0,5 за задачу, чтобы получить 74,2%. Для сравнения, GPT-6 Astra, Gemini 3.8 Flash и Claude Opus 5 в приведённых данных стоят от $2 до $10 за задачу. Более низкая стоимость DeepSeek связана с более короткими ответами и быстрым выполнением — эффектами, которые материал также относит к результатам постобучения.

Результаты не означают, что постобучение заменяет предварительное обучение: базовая модель задаёт предел знаний и возможностей. Например, на HLE версия 1017 набрала 42,6 против 56,3 у Claude Opus 5. Но в инженерных и агентных задачах разрыв иной: на DeepSWE результат DeepSeek составил 77 против 74 у Opus 5, а на Automation-Bench — 60,5 против 50,3. Поэтому тезис о превосходстве постобучения применим прежде всего к практическому выполнению задач, а не ко всем возможностям модели.

Есть и зависимость от инструментов. Во время обучения 1017 DeepSeek отдельно назвала платформы DeepSeek Harness, Tencent CodeBuddy и WorkBuddy. Модель настраивали под конкретные программные среды, то есть под «оболочку», через которую пользователь взаимодействует с ней. На Terminal-Bench 4.0 для 1017 использовалась среда Claude Code, тогда как предыдущая версия тестировалась с DeepSeek Harness. Это могло повлиять на часть прироста: при другой среде преимущество такой настройки может уменьшиться.

Сравнивать самоотчётные показатели компаний следует с оглядкой. Все 11 результатов DeepSeek для 1017 получены в собственных тестах компании с выбранной ею системой оценки. Проверяемые награды тоже не безупречны: если тест составлен недостаточно строго, модель может научиться обходить его вместо решения задачи. Кроме того, рост возможностей может затрагивать кибербезопасность. Moonshot AI сообщила, что способности к кибератакам и защите от них естественным образом усиливались по мере обучения, даже без специального добавления соответствующих данных. Компания проследила их источник, удалила эти данные из этапов промежуточного обучения и обучения с подкреплением и закрепила принципы, включая отказ от выпуска открытых весов, которые продвигают абсолютный передовой уровень кибервозможностей.

По данным OpenRouter за 19–25 октября, мировой объём обращений к большим ИИ-моделям достиг 188 трлн токенов — на 14,63% больше, чем неделей ранее. На Китай пришлось 93,54 трлн токенов, на США — 22,47 трлн; Китай занимал первое место 26 недель подряд. DeepSeek V4.1-Flash-1017 стала лидером по объёму использования с 33,6 трлн токенов, показав недельный рост на 801%. Удешевление и сокращение времени выполнения задач помогают объяснить, почему компании активнее встраивают модели в производственные процессы.

Для рынка это означает, что конкуренция может смещаться от закупки ускорителей для предварительного обучения к созданию сред задач, привлечению экспертов и разработке проверяющих систем. Компании всё чаще оценивают не только вычислительные мощности, но и качество сред, чистоту данных и строгость тестов. При этом версии с небольшими изменениями номера способны заметно улучшить пользовательский опыт — но итоговая ценность зависит от того, насколько результаты сохраняются вне выбранного разработчиком теста и программной среды.