Оглавление

Американская психологическая ассоциация (APA) выпустила официальное предупреждение о рисках использования генеративных ИИ-чатов и wellness-приложений для решения проблем с ментальным здоровьем. По данным APA, миллионы людей по всему миру обращаются к этим технологиям из-за недоступности профессиональной помощи, но большинство таких систем не имеют научной валидации и регуляторного одобрения.

Почему люди выбирают ИИ вместо психологов

Рост популярности ИИ-помощников объясняется несколькими факторами:

  • Глобальный кризис ментального здоровья и рост одиночества
  • Нехватка квалифицированных специалистов, особенно в сельской местности
  • Высокая стоимость терапии и сложности со страхованием
  • Легкость доступа и низкая стоимость ИИ-решений
  • Стигматизация обращения за профессиональной помощью

Особенно тревожной тенденцией APA называет использование чат-ботов уязвимыми группами населения — детьми и людьми с уже существующими психическими расстройствами.

Классификация проблемных технологий

APA выделяет три категории потенциально опасных инструментов:

  • Универсальные ИИ-чаты (Character AI, ChatGPT) — не предназначены для ментального здоровья, но используются для «развлечения» и «дружбы»
  • Wellness-приложения с ИИ (Woebot, Sonia) — позиционируются как помощники для эмоционального благополучия, но не имеют медицинской сертификации
  • Не-ИИ wellness-приложения — трекеры настроения и приложения для медитации без регуляторного контроля

Ситуация напоминает самолечение по советам из интернета, только теперь «советчик» — это алгоритм, который может генерировать опасные рекомендации. Особенно тревожно, что уязвимые люди воспринимают ИИ как безопасную альтернативу, хотя система может не распознать критические состояния и даже спровоцировать саморазрушительное поведение.

Реальные риски и инциденты

Документ приводит конкретные примеры опасного взаимодействия:

  • Поощрение самоповреждения и суицидального поведения
  • Стимулирование расстройств пищевого поведения
  • Развитие агрессивного поведения и бредовых идей
  • Феномен «ИИ-психоза» — формирование нездоровой эмоциональной зависимости

Особую проблему представляет культурная некомпетентность моделей — большинство обучалось на западных англоязычных данных, что делает их бесполезными или даже вредными для представителей других культур.

Ключевые рекомендации для пользователей

APA подчеркивает, что ИИ-чаты и wellness-приложения не должны заменять квалифицированного специалиста по ментальному здоровью. Они могут использоваться только как дополнительная поддержка в рамках уже существующих терапевтических отношений.

Для разработчиков и регуляторов ассоциация предлагает:

  • Создание систем мониторинга безопасности после выпуска
  • Повышение прозрачности тренировочных данных
  • Внедрение протоколов оценки клинических рисков
  • Разработку культурно-адаптированных решений

По сообщению APA, проблема требует немедленных действий от всех участников экосистемы — от пользователей до законодателей.