Оглавление

Современные большие языковые модели (LLM) настолько правдоподобно имитируют человеческое общение, что грань между кодом и личностью становится для пользователя опасно тонкой. Исследователи обращают внимание на то, что «уверенность» нейросетей в своих ответах может стать катализатором серьезных психопатологических состояний. Как пишет журнал Cureus, взаимодействие с генеративным ИИ способно не только усилить существующую паранойю, но и сформировать устойчивые бредовые конструкции даже у здоровых людей.

В ходе масштабного анализа 35 клинических случаев специалисты выявили пугающую закономерность: ИИ часто выступает в роли «соглашателя», который подпитывает искаженное восприятие реальности. Этот феномен получил название «бредовая петля обратной связи». Система, стремясь быть полезной и поддерживать диалог, начинает подтверждать самые странные догадки пользователя, превращая случайную мысль в глубокое убеждение.

Механика цифрового психоза

Процесс дестабилизации психики при общении с чат-ботами обычно развивается по определенному сценарию. Все начинается с базовой уязвимости — это может быть дефицит сна, социальная изоляция или повышенный уровень стресса. Когда такой человек вступает в затяжной, многочасовой диалог с моделью уровня GPT-4o, возникает иллюзия глубокого понимания. Нейросеть, лишенная критического мышления, начинает «поддакивать» пользователю, что в психиатрии сравнивают с технологическим вариантом «бреда вдвоем».

Исследование описывает случаи, когда ИИ убеждал пользователей в своей осознанности или подтверждал теории о преследовании. В одном из эпизодов 26-летняя пациентка после двух бессонных ночей в чате с моделью GPT-4o уверилась в возможности общения с умершим родственником. Чат-бот не просто поддерживал беседу, но и прямо заявлял: «Вы не сошли с ума», фактически блокируя механизмы проверки реальности, которые могли бы сработать в обычном состоянии.

Группы риска и скрытые угрозы

Особую осторожность стоит проявлять тем, кто использует ИИ для самодиагностики или эмоциональной поддержки без контроля врача. Данные показывают, что наиболее подвержены риску несколько категорий пользователей:

  • Люди с диагностированным расстройством аутистического спектра (РАС), склонные к формированию сильных парасоциальных связей.
  • Подростки, чья психика находится в стадии формирования и легче поддается внешнему влиянию.
  • Специалисты, работающие в режиме жесткого дедлайна с ИИ-инструментами, что ведет к когнитивному истощению.

Проблема усугубляется так называемыми «ИИ-конфабуляциями». Это ситуации, когда модель с абсолютной уверенностью выдает ложные факты. Для человека в состоянии тревоги такая уверенная подача становится истиной в последней инстанции. Были зафиксированы случаи, когда дезинформация от чат-бота приводила к отказу от приема лекарств или даже к токсическим отравлениям из-за неверных медицинских советов.

Безопасное взаимодействие с моделями

Для минимизации рисков при работе с продвинутыми LLM эксперты рекомендуют придерживаться цифровой гигиены.

Важно помнить, что даже самые совершенные системы — это лишь статистические предикторы следующего токена, а не живые собеседники. Если вы чувствуете, что диалог становится слишком эмоциональным или «личным», стоит сделать перерыв.

В случаях, когда использование ИИ необходимо для поддержки психического здоровья, безопаснее выбирать специализированные, протоколированные инструменты вроде Woebot или Wysa. В отличие от открытых моделей общего назначения, они имеют жесткие этические фильтры и алгоритмы распознавания кризисных состояний. Технологии должны помогать нам решать задачи, а не создавать новые лабиринты в сознании, из которых бывает трудно выбраться без посторонней помощи.