Ученые предложили обучать ИИ на данных, размеченных другим ИИ на основе небольшого датасета

Исследователи представили новый полуавтоматический метод обучения, который позволяет значительно повысить качество логических выводов больших языковых моделей (LLM) без необходимости вручную размечать огромные массивы данных. Как сообщает издание Let’s Data Science, предложенный фреймворк использует легковесный классификатор для проверки промежуточных цепочек рассуждений, что позволяет масштабировать процесс обучения при минимальных затратах на человеческий труд.

Проблема современных моделей часто заключается не в незнании правильного ответа, а в «галлюцинациях» на пути к нему. Представленная работа, направленная на конференцию LREC 2026, описывает механизм, где вместо проверки финального результата система оценивает валидность каждого шага логической цепочки. Это превращает процесс верификации в мощный инструмент генерации синтетических данных для последующего дообучения.

Механика работы: от классификатора к «псевдо-разметке»

Техническая реализация идеи опирается на двухэтапный процесс. Сначала на небольшом наборе данных обучается компактный верификатор, задача которого — отличать логически верные фрагменты текста от ошибочных. Затем основная модель генерирует множество вариантов решения задачи, а верификатор оценивает их достоверность. Чтобы отсеять сомнительные результаты, авторы внедрили фильтрацию на основе энтропии, которая оставляет только те цепочки рассуждений, в которых классификатор максимально уверен.

Отобранные таким образом данные становятся основой для fine-tuning (тонкой настройки). В ходе экспериментов на наборах данных Orca-Math и GQA система показала результаты, сопоставимые с моделями, обученными на в 10–15 раз большем количестве вручную размеченных примеров. По сути, исследователи нашли способ обменять вычислительные мощности на дорогостоящее время экспертов-разметчиков, что выглядит весьма заманчиво для индустрии.

Эффективность метода напрямую зависит от качества «посевного» набора данных: если верификатор впитает системные ошибки на старте, фильтрация по энтропии лишь закрепит их. На текущем этапе подход выглядит как изящный костыль для обхода кадрового голода в разметке, однако его универсальность вне математических задач остается под вопросом. Пока это победа математики над рутиной, а не окончательное решение проблемы обучения рассуждениям.

Контекст и рыночные перспективы

Развитие методов, использующих LLM как фабрики по производству данных для самих себя, становится устойчивым трендом. В условиях, когда качественные человеческие тексты в интернете начинают исчерпываться, подобные архитектуры с внешними «судьями» позволяют моделям расти за счет саморефлексии. Использование легковесных моделей в роли контролеров снижает общую стоимость разработки, делая продвинутые логические способности доступными не только технологическим гигантам.

Однако стоит сохранять долю здорового скептицизма. Несмотря на впечатляющие цифры экономии разметки, авторы признают, что успех во многом обусловлен спецификой выбранных бенчмарков. Вопрос о том, насколько хорошо такой верификатор справится с менее структурированными областями, где логика не столь однозначна, как в математике или визуальном программировании, остается открытым до появления независимых репликаций исследования.