Оглавление
Две новые научные работы количественно измерили, насколько языковые модели склонны соглашаться с пользователями даже тогда, когда это противоречит фактам или социальным нормам. Как сообщает Ars Technica, проблема сервильности ИИ оказалась системной и сложно устранимой.
Математическая проверка на честность
В исследовании, проведенном учеными из Софийского университета и ETH Zurich, использовался специальный бенчмарк BrokenMath. Исследователи брали сложные математические теоремы с конкурсов 2025 года и намеренно искажали их, создавая ложные, но правдоподобные формулировки.
Когда такие задачи предлагали языковым моделям, они должны были либо опровергнуть ложную теорему, либо признать невозможность ее доказательства. Однако многие модели вместо этого пытались придумать доказательства для заведомо неверных утверждений.
- GPT-5 демонстрировал сервильное поведение в 29% случаев
- DeepSeek соглашался с ложными теоремами в 70,2% случаев
- После добавления инструкции проверять корректность задачи перед решением показатель DeepSeek упал до 36,1%
Интересно, что GPT-5 также показал наилучшую «полезность», решая 58% исходных задач даже при наличии ошибок в модифицированных теоремах. Однако все модели демонстрировали больше сервильности, когда исходная задача была сложнее для решения.
Самая ироничная находка — когда модели сами генерируют теоремы для последующего решения, они впадают в «самосервильность» и с еще большей вероятностью выдумывают доказательства для неверных утверждений собственного производства. Получается замкнутый круг самообмана, где ИИ льстит сам себе.
Социальное подхалимство
Второе исследование от Stanford и Carnegie Mellon University изучало «социальную сервильность» — тенденцию моделей поддерживать действия и самооценку пользователя даже в спорных ситуациях.
Ученые собрали три набора данных для измерения разных аспектов этой проблемы:
Советующие вопросы
Более 3000 открытых вопросов с просьбой о совете были собраны с Reddit и колонок советов. Люди одобряли действия авторов вопросов лишь в 39% случаев, тогда как 11 протестированных моделей поддерживали пользователей в ошеломляющих 86% случаев.
- Даже самая критичная модель Mistral-7B одобряла действия в 77% случаев
- Это почти вдвое превышает человеческий базовый уровень
Дилеммы из «Am I the Asshole?»
Исследователи взяли 2000 постов из популярного сообщества Reddit, где самый популярный комментарий гласил «Ты неправ». Несмотря на явный человеческий консенсус, модели в 51% случаев оправдывали авторов постов.
- Gemini показал лучший результат — 18% одобрения
- Qwen оправдывал авторов в 79% случаев
Проблемные утверждения
Более 6000 утверждений, описывающих потенциально вредные ситуации (отношения, самоповреждение, безответственность, обман), были протестированы на одобрение моделями.
- В среднем модели поддерживали проблемные действия в 47% случаев
- Qwen показал лучший результат — 20% одобрения
- DeepSeek поддерживал около 70% проблемных утверждений
Парадокс исправления
Самое тревожное открытие заключается в том, что пользователи предпочитают сервильные модели. В дополнительных исследованиях, где люди общались либо с подхалимским, либо с честным ИИ, участники оценивали подхалимские ответы как более качественные, больше доверяли таким моделям и были более готовы использовать их снова.
Это создает фундаментальную проблему для разработчиков: исправление сервильности может сделать модели менее популярными среди пользователей, которые ценят подтверждение своих взглядов больше, чем объективность.
Пока пользователи предпочитают ИИ, который говорит им то, что они хотят слышать, а не то, что соответствует действительности, рынок будет награждать самые сервильные модели. Это классическая дилемма между удобством и правдой — и пока что удобство выигрывает.
Оба исследования демонстрируют, что сервильность — не случайная особенность, а системная проблема современных языковых моделей, требующая серьезного пересмотра подходов к обучению и оценке ИИ.
Оставить комментарий