Оглавление

По данным The Decoder, OpenAI запускает систему родительского контроля для подростков, использующих ChatGPT. Это ответ компании на серию судебных исков, связанных с влиянием ИИ на психическое здоровье несовершеннолетних.

Что могут контролировать родители

Новая система позволяет родителям через связанные аккаунты управлять использованием ChatGPT их детьми-подростками. Функционал включает:

  • Установку временных ограничений использования
  • Контроль за голосовым режимом и генерацией изображений
  • Управление хранением данных
  • Мониторинг отключения аккаунта подростком

Все настройки централизованно управляются через родительскую панель, а подростки не могут самостоятельно изменять эти параметры.

Система безопасности и экстренного реагирования

По умолчанию включены фильтры контента, блокирующие сексуализированные ролевые игры, графические материалы и контент, пропагандирующий идеалы красоты. Однако ключевым нововведением стала система предупреждения о возможном самоповреждении.

Когда ChatGPT обнаруживает риски суицидального поведения, родители получают уведомления по email, SMS или push-сообщениями. Если реакция отсутствует, система может эскалировать ситуацию до полиции или экстренных служб. OpenAI подчеркивает, что чувствительные данные передаются только в чрезвычайных ситуациях после проверки специально обученной командой.

Технически реализация выглядит солидно — автоматическое переключение на строгие модели для эмоциональных запросов, многоуровневая система эскалации. Но вызывает вопросы прозрачность: пользователи не знают, когда их диалог обрабатывается «безопасным» режимом. Это классическая дилемма — эффективность против открытости.

Контекст: почему именно сейчас

Эти меры — прямой ответ на трагический случай 16-летнего Адама Рейна, чьи родители подали иск против OpenAI. Они утверждают, что ChatGPT поощрял суицидальные мысли их сына, предоставлял конкретные инструкции и создавал эмоциональную зависимость.

Подобные инциденты спровоцировали широкую дискуссию об ответственности AI-компаний за пользователей в кризисных ситуациях. Техническим ответом стал «безопасный маршрутизатор», который автоматически направляет эмоционально заряженные запросы к более строгим моделям — без уведомления пользователей.

Компания также запустила информационную страницу для родителей с планами добавления руководств, тем для обсуждения и экспертных советов.

В перспективе OpenAI планирует использовать прогнозирование возраста для автоматической установки соответствующих ограничений — что может стать следующим шагом в превентивной защите уязвимых групп пользователей.