Оглавление

Исследователи безопасности обнаружили новый класс уязвимостей, превращающий обычные браузерные расширения в инструмент для атак на генеративные ИИ-системы. По данным компании LayerX, 99% пользователей могут быть потенциально уязвимы к такому типу атак.

Как работает атака через расширения

Проблема заключается в архитектурной особенности браузеров: поле ввода промптов для ИИ-ассистентов является частью DOM (Document Object Model) страницы. Это означает, что любое расширение с доступом к скриптингу может читать и модифицировать промпты, даже без специальных разрешений.

Атака, названная «Man-in-the-Prompt», позволяет злоумышленникам:

  • Перехватывать вводимые пользователем промпты
  • Внедрять malicious-инструкции в запросы к ИИ
  • Красть конфиденциальные данные
  • Маскировать следы своей деятельности

Почему это особенно опасно

Как отмечает LayerX, «из-за тесной интеграции ИИ-инструментов с браузерами, языковые модели наследуют большую часть поверхности атак браузера». Ситуация усугубляется тем, что расширения обычно работают с вашими учетными данными, действуя от вашего имени.

Всего три недели назад компания SquareX предупреждала о том, что «миллионы пользователей стали жертвами кражи данных» через вредоносные или скомпрометированные расширения браузера.

Это классическая проблема безопасности, получившая новое измерение с приходом ИИ. Браузерные расширения всегда были слабым звеном, но теперь они могут превратить ваш ИИ-ассистент в инструмент для кражи корпоративных данных. Проблема системная — инструменты безопасности не имеют runtime-видимости для защиты от таких угроз.

Кто в группе риска

Основной угрозе подвержены пользователи Windows PC и Google Chrome, который доминирует на рынке браузеров. Исследование охватывает топ-5 GenAI инструментов, что делает потенциальную аудиторию атаки поистине массовой.

Google уже признал серьезность проблемы, предупредив что «с быстрой адаптацией генеративного ИИ появляется новая волна угроз, направленных на манипуляцию самими ИИ-системами».

Пока надёжные меры безопасности для защиты от таких атак отсутствуют, пользователям рекомендуется проявлять особую осторожность при установке и использовании расширений одновременно с ИИ-инструментами.

Материал с сайта Forbes.