Оглавление

Калифорния стала первым штатом США, который законодательно регулирует взаимодействие пользователей с AI-компаньонами. Губернатор Гэвин Ньюсом подписал закон SB 243, устанавливающий обязательные протоколы безопасности для чат-ботов, ориентированных на эмоциональное общение.

Что требует новый закон

Закон SB 243, который вступит в силу 1 января 2026 года, обязывает компании внедрить комплекс мер защиты:

  • Проверку возраста пользователей
  • Предупреждения о социальных сетях и AI-компаньонах
  • Четкое обозначение искусственного происхождения взаимодействий
  • Запрет на представление чат-ботов в качестве медицинских специалистов
  • Напоминания о перерывах для несовершеннолетних
  • Блокировку сексуально откровенных изображений

Штрафы за нарушения достигают $250,000 за каждое правонарушение. Компании должны разработать протоколы предотвращения самоубийств и нанесения себе вреда, а также предоставлять статистику уведомлений кризисных центров в Департамент общественного здоровья штата.

Трагические предпосылки

Законодательная инициатива получила поддержку после нескольких громких случаев. Подросток Адам Рейн покончил с собой после продолжительных суицидальных бесед с ChatGPT от OpenAI. Ранее утекшие внутренние документы Meta* показали, что чат-боты компании могли вести «романтические» и «чувственные» беседы с детьми. Недавно семья из Колорадо подала иск против Character AI после самоубийства 13-летней дочери, которая общалась с чат-ботами компании.

Технологический сектор десятилетиями уклонялся от ответственности, прячась за щитом «инноваций». Теперь регуляторы наконец-то догоняют реальность: AI-компаньоны — это не просто игрушки, а мощные психологические инструменты, способные формировать эмоциональную зависимость. Ирония в том, что компании вроде Meta* и OpenAI годами собирали данные о пользовательском поведении, но внезапно оказались «не готовы» к последствиям собственных творений.

Реакция индустрии

Крупные игроки рынка уже начали адаптироваться. OpenAI внедряет родительский контроль и систему обнаружения самоповреждений. Replika, позиционирующаяся как сервис для взрослых от 18 лет, заявляет о значительных инвестициях в системы фильтрации контента. Character AI подтвердила готовность сотрудничать с регуляторами и соблюдать новый закон.

Сенатор Стив Падилья, один из авторов законопроекта, назвал его «шагом в правильном направлении» для установки ограничений на «невероятно мощную технологию». Он отметил, что федеральное правительство бездействует, и штаты вынуждены брать инициативу в свои руки.

Это уже второе крупное регулирование AI в Калифорнии за последние недели — ранее был подписан закон SB 53, устанавливающий требования к прозрачности для крупных AI-лабораторий.

По материалам TechCrunch

* Meta (признана экстремистской и запрещена в РФ)