Оглавление

Компания Anthropic официально заявила о поддержке законопроекта SB 53, который устанавливает правила для разработчиков передовых систем искусственного интеллекта. Этот шаг следует после неудачной попытки Калифорнии принять предыдущую версию регуляторных мер (SB 1047) и отражает растущее осознание необходимости сбалансированного подхода к управлению рисками ИИ.

Что предусматривает SB 53

Новый законопроект вводит обязательные требования для крупных компаний, разрабатывающих наиболее мощные системы ИИ:

  • Разработка и публикация рамок безопасности, описывающих управление катастрофическими рисками
  • Публикация отчетов о прозрачности с результатами оценок рисков
  • Уведомление о критических инцидентах безопасности в течение 15 дней
  • Защита информаторов, сообщающих о нарушениях
  • Финансовая ответственность за несоблюдение заявленных обязательств

Важно отметить, что законопроект предусматривает исключения для стартапов и небольших компаний, которые с меньшей вероятностью разрабатывают мощные модели и не должны нести избыточную регуляторную нагрузку.

Ирония ситуации в том, что крупнейшие игроки рынка теперь сами лоббируют регулирование, которое формально ограничивает их же деятельность. Похоже на классический случай «если не можешь победить — возглавь». SB 53 фактически узаконивает существующие практики Anthropic, Google DeepMind и OpenAI, создавая барьер для новых участников под предлогом безопасности. Гениальный ход — обернуть конкурентное преимущество в регуляторное требование.

Технические аспекты регулирования

В качестве критерия регулирования SB 53 использует вычислительную мощность тренировки моделей — порог в 10^26 FLOPS. Хотя этот подход имеет право на существование, он не лишен недостатков: некоторые мощные модели могут не попадать под регулирование из-за особенностей архитектуры или оптимизаций.

Anthropic также предлагает усилить требования к детализации тестов, оценок и методов снижения рисков, что усилит прозрачность работы разработчиков передовых ИИ-систем.

Стратегический контекст

Поддержка SB 33 со стороны Anthropic происходит на фоне растущего давления на индустрию ИИ со стороны регуляторов по всему миру. Компания открыто заявляет, что предпочла бы федеральное регулирование вместо лоскутного подхода отдельных штатов, но признает, что технологический прогресс не будет ждать консенсуса в Вашингтоне.

Законопроект реализует принцип «доверяй, но проверяй», предложенный рабочей группой губернатора Ньюсома, через требования раскрытия информации вместо предписывающих технических мандатов.

По материалам Anthropic.