Оглавление

Генеральные прокуроры Северной Каролины и Юты объединились с OpenAI и Microsoft для создания рабочей группы по безопасности искусственного интеллекта. Эта инициатива призвана заполнить вакуум в регулировании, образовавшийся из-за бездействия Конгресса США.

Политическое единство в вопросах безопасности ИИ

Демократ Джефф Джексон и республиканец Дерек Браун продемонстрировали редкое двухпартийное согласие, объявив о формировании AI Task Force. Группа будет разрабатывать «базовые защитные меры» для разработчиков ИИ, особенно в отношении защиты детей, и отслеживать новые риски по мере развития технологии.

Отсутствие федерального регулирования ИИ в США стало основным катализатором этой инициативы. Как отметил Джексон в интервью CNN: «Конгресс ничего не сделал в отношении социальных сетей, ничего в отношении интернет-приватности, даже для детей, и они очень близко подошли к движению в неправильном направлении по ИИ, связывая штатам руки».

Добровольные стандарты с принудительным потенциалом

Разрабатываемые группой защитные меры формально будут добровольными, но у инициативы есть важный побочный эффект: объединение генеральных прокуроров штатов для отслеживания разработок ИИ и потенциальных рисков, что упростит совместные юридические действия против технологических компаний в случае причинения вреда потребителям.

Компании, создавшие проблему, теперь участвуют в её решении. Добровольные стандарты — это классический PR-ход, но участие генеральных прокуроров придает им реальные зубы. Когда за твоим compliance следят те, кто может подать на тебя в суд, «добровольность» становится весьма условной.

Разные подходы к безопасности

OpenAI и Microsoft демонстрируют различные философии в вопросах безопасности. Генеральный директор OpenAI Сэм Альтман заявил, что инвестиции в защиту детей позволят компании «относиться к взрослым как к взрослым», включая возможность эротических бесед для верифицированных пользователей. В то же время глава AI-подразделения Microsoft Мустафа Сулейман заявил CNN, что его компания не будет разрешать сексуальные или романтические разговоры даже для взрослых.

Киа Флойд, генеральный менеджер Microsoft по связям с правительствами штатов, в заявлении отметила: «Этот проект отражает общую приверженность использованию преимуществ искусственного интеллекта при совместной работе с заинтересованными сторонами для понимания и смягчения непреднамеренных последствий».

Контекст растущих рисков

Обеспокоенность рисками безопасности ИИ обострилась в последние месяцы после серии сообщений о том, что технология вызывает:

  • бредовые состояния у пользователей
  • способствует самоповреждению
  • приводит к судебным искам, как в случае с подростковыми самоубийствами

Ранее в этом году 40 генеральных прокуроров успешно добились удаления моратория на регулирование ИИ из пакета налоговых и расходных сокращений республиканцев, который мог бы заблокировать применение законов штатов на десятилетие.

По материалам CNN.