Оглавление

Длительная работа исследовательских ИИ-агентов над одной задачей часто приводит к стагнации результатов, даже если выделять системе дополнительные вычислительные мощности. Как сообщает издание The Decoder, масштабное исследование Microsoft Research выявило любопытный парадокс: накопленный контекст диалога начинает ограничивать поиск нейросети, заставляя её ходить по кругу в рамках одних и тех же идей.

Исследователи детально изучили работу так называемых Autoresearch agents — систем, которые автономно генерируют решения, тестируют их и вносят правки на основе обратной связи. Выяснилось, что восемь идентичных запусков одного и того же агента на одной задаче могут завершиться с радикально разными результатами — от 68.3 до 100 баллов, при этом разрыв не сокращается даже при увеличении времени работы.

Ловушка «бассейнов идей»

Визуализация траекторий поиска показала, что решения в рамках одного сеанса обычно группируются в тесном пространстве, которое авторы назвали «бассейнами идей». Агент тратит львиную долю ресурсов на микро-оптимизацию внутри одного неудачного «бассейна», вместо того чтобы переключиться на принципиально иной подход, который мог бы привести к успеху. Примечательно, что даже периодическое сжатие истории чата не спасает от этой инерции мышления.

Для решения проблемы был предложен метод Fork-and-Flush, состоящий из двух этапов. Сначала происходит «ветвление» (forking), когда агент разделяется на несколько параллельных потоков, наследуя все созданные файлы и рабочее окружение. Затем следует «очистка» (flushing), при которой каждый поток полностью теряет историю переписки, сохраняя при этом доступ к коду и результатам в рабочей папке.

Парадокс современных LLM заключается в том, что их хваленая контекстная память превращается в когнитивную ловушку. Сохраняя нить рассуждений, агент становится заложником собственных ранних ошибок, что критично для R&D-задач. Метод Fork-and-Flush — это, по сути, принудительная лоботомия во благо: сохраняя артефакты работы, но стирая «воспоминания» о процессе, мы заставляем модель взглянуть на собственные наработки свежим взглядом, что на 66% эффективнее тупого наращивания вычислительных циклов.

Результаты тестирования и перспективы

Метод Fork-and-Flush был протестирован на 13 сложных задачах, включая криптоанализ и оптимизацию ядер VLIW, с использованием моделей GPT-5.6-terra и GPT-5.5. На идентичном бюджете вычислений новый подход показал нормализованный средний балл 0.78, в то время как обычные одиночные запуски едва достигали 0.47. Это подтверждает, что «свежий взгляд» для ИИ важнее, чем бесконечная рефлексия над старыми логами.

Исследование также затронуло модели разного масштаба, от Qwen3.5-4B до 27B, при решении задач MAX-3-SAT. Выяснилось, что вариативность результатов наиболее высока именно на границе текущих возможностей модели. Поскольку научные исследования всегда проводятся на пределе известного, регулярный сброс контекста останется необходимым инструментом даже для самых продвинутых систем будущего.