Оглавление

По данным Microsoft Research, исследователи компании создали многоуровневую систему контроля доступа к опасным биологическим разработкам, созданным с помощью искусственного интеллекта. Эта система стала ответом на обнаруженную уязвимость: ИИ-инструменты для проектирования белков могут создавать модифицированные версии опасных токсинов, способные обходить системы биобезопасности.

Двойная природа ИИ в биологии

Прогресс в области искусственного интеллекта открывает исключительные возможности в биологии. Инструменты ИИ-проектирования белков обещают революцию в медицине, создании новых материалов и фундаментальных научных открытиях. Однако эти же технологии несут биологические риски и могут снизить барьеры для создания опасных токсинов или патогенов.

Обнаружение критической уязвимости

В исследовании, опубликованном 2 октября в журнале Science, описывается двухлетний конфиденциальный проект. Ученые обнаружили, что инструменты ИИ-проектирования белков способны генерировать модифицированные версии опасных белков, таких как рицин, которые успешно обходят системы биобезопасности компаний по синтезу ДНК.

Схема работы ИИ по проектированию белков: база данных, генерация синтетических гомологов, скрининг угроз
Источник: www.microsoft.com

Схема тестирования уязвимостей ИИ-проектирования белков.

Так вышло, что сами инструменты, созданные для ускорения научного прогресса, стали источником угрозы. Теперь нам приходится создавать системы защиты от собственных разработок — классическая дилемма двойного назначения технологий.

Многоуровневая система доступа

Для решения проблемы исследователи разработали систему контролируемого доступа в партнерстве с International Biosecurity and Biosafety Initiative for Science (IBBIS). Система включает:

  • Контролируемый доступ: исследователи запрашивают доступ через IBBIS, предоставляя данные о себе и целях использования
  • Стратифицированные уровни информации: данные и код классифицируются по уровням потенциальной опасности
  • Соглашения о защите: утвержденные пользователи подписывают индивидуальные соглашения о неразглашении
  • Долгосрочная устойчивость: предусмотрены механизмы деклассификации и передачи управления

Новая модель научной коммуникации

Журнал Science впервые официально поддержал подход многоуровневого доступа для управления информационными рисками. Это признание подтверждает идею о том, что строгая наука и ответственное управление рисками могут сосуществовать.

Для обеспечения долгосрочного финансирования программы Microsoft предоставила целевой фонд IBBIS для поддержки программы на неопределенный срок, по модели Столетнего исследования ИИ в Стэнфорде.

Шаблон для будущих исследований

Разработанная система предлагает обобщаемую модель для исследований двойного назначения во всех областях. Будь то в биологии, химии или новых технологиях, ученые будут все чаще сталкиваться с ситуациями, когда открытость и безопасность тянут в противоположных направлениях.

Ответственное управление информационными рисками больше не является периферийной проблемой — оно становится центральным элементом научного прогресса в эпоху ИИ.