Искусственный интеллект компании Anthropic, известный под кодовым именем Mythos, сумел выявить критические бреши в защите закрытых правительственных систем США. Как сообщает NDTV, тестирование проводилось в рамках совместной инициативы с американскими разведывательными службами.

Осведомленный источник на условиях анонимности подтвердил, что модель Mythos обнаружила слабые места в инфраструктуре безопасности буквально за несколько часов. Впрочем, обнаружение уязвимости еще не означает ее автоматическую эксплуатацию, хотя сам факт скорости работы алгоритма заставляет задуматься о надежности «цифровых крепостей» государства.

Проверки проходили под эгидой Project Glasswing — проекта, объединившего технологических гигантов для защиты критически важного программного обеспечения. Целью инициативы является предотвращение катастрофических последствий, которые современные LLM могут создать для национальной безопасности и экономики, если попадут в плохие руки.

Политические последствия и «цифровой занавес»

Сенатор-демократ Марк Уорнер на слушаниях в банковском комитете Сената упомянул, что инструмент проник в засекреченные системы «не за недели, а за часы». Ссылаясь на главу Агентства национальной безопасности генерала Джошуа Радда, Уорнер подчеркнул беспрецедентную эффективность подобных нейросетей в поиске багов.

На фоне этих успехов отношения между Anthropic и администрацией президента США Трампа становятся все более натянутыми. Недавно правительство выпустило директиву, запрещающую иностранным гражданам доступ к флагманским моделям компании — Fable 5 и Mythos 5, что выглядит как попытка установить технологический протекционизм в сфере ИИ.

Сама компания Anthropic выразила несогласие с жесткостью этих мер, назвав их избыточными. По мнению разработчиков, риски безопасности, на которые указывает государство, не оправдывают полной блокировки моделей для широкого круга пользователей, тем более что Anthropic и так ограничивала доступ к наиболее мощной версии Mythos.

Способность Mythos находить эксплойты в закрытом софте подтверждает, что грань между инструментом аудита и кибероружием окончательно стерлась. Однако административные запреты на доступ иностранных лиц выглядят запоздалой попыткой закрыть дверь, когда код уже написан. Изоляция передовых моделей скорее лишит американских ИБ-специалистов лучшего щита, чем остановит прогресс оппонентов, давно освоивших open-source аналоги. В этой гонке побеждает не тот, кто прячет, а тот, кто быстрее патчит.

Группа экспертов по кибербезопасности, включая представителей Nvidia и Adobe, уже обратилась к властям с просьбой отменить ограничения. В их открытом письме отмечается, что Mythos действительно хорош в поиске изъянов в коде, но он не является уникальным в своем роде, и лишение США таких инструментов защиты играет на руку конкурентам.

Ситуация осложняется недавним указом Дональда Трампа, который ввел добровольную систему проверки рисков национальной безопасности для разработчиков ИИ перед публичным релизом. Это создает новую реальность, где технологическим компаниям приходится балансировать между инновациями и строгим надзором спецслужб.