Автоматизация рутины в медицине часто представляется как безусловное благо, однако реальность внедрения больших языковых моделей (LLM) в рабочие процессы врачей оказывается куда более нюансированной. Согласно исследованию Дартмутского колледжа, о котором Let’s Data Science, использование ИИ для подготовки ответов пациентам в порталах здравоохранения может не снижать, а, напротив, увеличивать когнитивную нагрузку на специалистов.

Исследовательская группа проанализировала 146 000 диалогов, в которых участвовали 10 105 пациентов крупной сельской системы здравоохранения. Ученые сравнили реальные ответы клиницистов с черновиками, созданными такими моделями, как Claude, Gemini, ChatGPT, Llama, Aloe и Qwen. Выяснилось, что внешне грамотные тексты часто содержат критические ошибки: избыточность, отсутствие необходимых уточняющих вопросов или нерелевантные медицинские подробности.

Проблема заключается в специфическом типе «галлюцинаций» и несоответствии стилю. Когда модель выдает многословный ответ, лишенный профессиональной осторожности или специфического контекста конкретного пациента, врачу приходится тратить больше времени на глубокое редактирование, чем если бы он писал сообщение с нуля. В технологической среде это явление можно сравнить с необходимостью переписывать плохо структурированный код после неопытного стажера.

Технические барьеры и вопросы выравнивания

В статье для конференции ACL 2026 авторы подчеркивают, что ключевой метрикой успеха должна быть не «похожесть» текста на человеческий, а дистанция редактирования (edit distance). Это показатель того, сколько правок должен внести человек, прежде чем отправить сообщение. Оказалось, что универсальные модели плохо справляются с индивидуальными особенностями коммуникации конкретных медиков.

Интересно, что адаптация алгоритмов под стиль конкретного врача позволила повысить точность на 33% и снизить объем правок на 26%. Однако даже такие результаты не снимают с повестки вопрос обязательной верификации. Для команд, разрабатывающих медицинский ИИ, это важный сигнал: вместо того чтобы гнаться за объемом генерации, стоит сосредоточиться на инструментах контроля за тем, сколько времени специалист тратит на проверку результата.

Внедрение LLM в клиническую практику без учета индивидуального контекста — это попытка автоматизировать процесс, который на 80% состоит из нюансов и ответственности. Красивый синтаксис не заменяет точность анамнеза, а необходимость вычищать избыточный шум из черновика превращает врача в корректора. Пока разработчики не научат модели задавать правильные вопросы, а не только давать ответы, мы будем наблюдать лишь перекладывание нагрузки из одной папки в другую.

Для практиков отрасли выводы исследования означают необходимость пересмотра KPI. Вместо количества сгенерированных ответов следует измерять время до отправки (time-to-send) после проверки. Попытка ускорить коммуникацию с пациентами за счет «сырых» ИИ-черновиков может привести к выгоранию персонала, вынужденного заниматься монотонным исправлением мелких, но опасных неточностей в текстах.

В ближайшем будущем стоит ожидать данных из реальных рабочих процессов, которые покажут, насколько персонализированная адаптация моделей жизнеспособна в разных медицинских специальностях. Пока же очевидно, что история о простой и быстрой автоматизации медицины с помощью ИИ остается лишь маркетинговым нарративом, требующим серьезной критической оценки.