Австралийское управление сигналов (ASD), отвечающее за кибербезопасность страны, предупредило во вторник, 27 октября, что искусственный интеллект помогает государственным хакерам и преступникам атаковать сети и критическую инфраструктуру с беспрецедентным размахом. Об этом говорится в ежегодном докладе ведомства, передаёт Yahoo News.

По оценке ASD, быстро развивающиеся модели ИИ могут приносить значительную пользу, если применять их в добросовестных целях. Само управление использовало инструменты ИИ при подготовке доклада о киберугрозах. Однако за последний год ИИ стал, как сказано в отчёте, определяющим фактором в киберугрозах: с его помощью злоумышленники быстрее находят уязвимости и используют их в более широком масштабе.

«За последние месяцы ИИ позволил злоумышленникам находить уязвимости быстрее и использовать их с беспрецедентными масштабом, скоростью и изощрённостью», — говорится в докладе.

В нём также отмечены новые угрозы, связанные с непредусмотренными действиями ИИ-агентов — систем, которые могут выполнять задачи самостоятельно, — и тестированием моделей.

Ведомство зафиксировало резкий рост числа инцидентов: за последний год ASD выпустило более 4 400 предупреждений о потенциально вредоносной активности — на 80% больше, чем за предыдущие 12 месяцев. Управление сообщило, что поддерживаемые государствами хакерские группы по-прежнему атаковали австралийские организации, стремясь получить доступ к конфиденциальной или непубличной информации.

Под прицелом, согласно докладу, находятся не только государственные сети, но и объекты критической инфраструктуры, частные компании и отдельные люди. В последнее время группы, связанные с Китаем, Россией и Северной Кореей, атаковали Австралию или её союзников.

Уязвимости, скорость и масштаб

Министр обороны Австралии Ричард Марлз заявил журналистам, что игнорировать развитие ИИ нельзя: «ИИ уже здесь, и он реален. Людям нужно включаться». По его словам, злоумышленники используют эту технологию, чтобы находить слабые места в системах. Марлз призвал австралийцев обновлять компьютеры и укреплять защиту своих систем.

В последние дни правительства и компании также спешили устранить критические уязвимости в языке программирования, на котором работает значительная часть мировых сайтов. Как сообщается, эту уязвимость обнаружили с помощью мощной модели OpenAI.

Рост числа предупреждений на 80% — это не просто эффект более внимательного наблюдения: он указывает на то, что обнаружение и использование уязвимостей ускоряются одновременно. Для организаций это меняет практический расчёт: исправлять слабые места приходится быстрее, а сама автоматизация защиты уже не даёт гарантии преимущества — те же инструменты доступны атакующим.

Доклад описывает ИИ и как полезный инструмент, и как средство, расширяющее возможности злоумышленников. Ведомство использовало эту технологию в собственной работе, одновременно предупредив о её роли в атаках на Австралию и её союзников.