Современные нейросети демонстрируют впечатляющие успехи в математике и программировании, однако их литературные способности, как ни парадоксально, начали деградировать. Как пишет The Decoder, инженер Anthropic Джексон Кернион, занимающийся тонкой настройкой (fine-tuning) Claude, пролил свет на причины возникновения специфического, неестественного стиля изложения, который пользователи прозвали «клодиш» (Claudeish).
Кернион отмечает, что последней по-настоящему удачной моделью с точки зрения качества письма была Opus 4.6. Последующие итерации, хотя и стали значительно умнее в решении логических задач, начали писать тексты, которые кажутся человеку избыточно плотными и тяжелыми для восприятия. Основная причина кроется в том, что модели теперь обучаются объяснять сложные концепции другим ИИ-моделям, а не живым людям.
Психология больших языковых моделей
В процессе обучения разработчики используют подходы, адаптированные под «психологию» больших языковых моделей (LLM). Поскольку у нейросетей объем рабочей памяти существенно превышает человеческий, они улавливают детали на микроскопическом уровне, который недоступен нашему сознанию. В результате формируется стиль общения, эффективный внутри закрытой системы алгоритмов, но выглядящий как «информационная свалка» для внешнего наблюдателя.
Кернион проводит аналогию с замкнутыми сообществами людей, которые вырабатывают специфический жаргон и структуру речи, понятную только участникам группы. Для нейросетей такой формой коммуникации стали переусложненные технические объяснения. Чем больше модель оптимизируют под написание кода и решение математических уравнений, тем сильнее страдает естественность ее языка, если не прилагать осознанных усилий для обратного процесса.
Смещение фокуса в сторону кодинга и математики неизбежно превращает LLM в узкоспециализированный вычислитель, который «забывает» о нюансах человеческого синтаксиса. Разработчики приносят стилистику в жертву логической точности, создавая системы, которые безупречно пишут скрипты, но спотыкаются на простых эссе. В погоне за бенчмарками Anthropic рискует превратить помощника в сухой справочник, где за идеальным кодом скрывается полная неспособность к эмпатичному диалогу.
Поиск баланса в новых версиях
Проблема во многом упирается в структуру вознаграждения при обучении с подкреплением (RL). Разработчикам приходится выбирать, за что именно поощрять модель: за краткость и понятность для человека или за максимальную информативность для другого алгоритма. Чтобы вернуть Claude человеческое лицо, инженерам приходится искусственно внедрять награды за упрощение объяснений, что требует тонкой ювелирной настройки весов.
В недавно представленной Opus 5.5 компания попыталась найти золотую середину. По словам Керниона, эта версия демонстрирует наиболее приятный стиль письма со времен старой доброй ветки 4.6. Тем не менее, инженер признает, что проблема далека от окончательного решения. Совмещение глубоких аналитических способностей с легким, естественным слогом остается одной из самых сложных задач в современной индустрии разработки ИИ.
Оставить комментарий