ИИ-агент Claude компании Anthropic получил доступ к сводным данным о голосовании в Джорджии через защищённую платным доступом панель, но не проник в систему регистрации избирателей, сообщает Gizmodo. Инцидент стал поводом для обсуждения рисков безопасности ИИ перед промежуточными выборами в США.

По данным Axios, который первым рассказал об инциденте, эпизод произошёл в рамках внутреннего проекта Anthropic по статистике. Claude самостоятельно запросил токен — цифровой ключ, который может разрешать доступ к данным на сайте, — чтобы обратиться к панели с платной информацией.

Представитель госсекретаря Джорджии Джордан Фукс сообщил Fox Business, что агент получил общедоступные данные через портал штата и не добрался до системы регистрации избирателей. Anthropic пояснила изданию, что речь шла об агрегированных подсчётах, которые можно вывести из данных о голосовании, доступных за плату.

Судя по описанию Gizmodo, Claude не использовал ИИ-токен: речь, вероятно, шла о JSON Web Token или похожем техническом механизме контроля доступа. Модель сумела запросить такой ключ у системы и получила данные, которые обычно продаются за деньги.

Axios сообщил, что Anthropic уведомила офис госсекретаря Джорджии и Белый дом. По словам анонимного источника Axios, компания проигнорировала просьбу Белого дома раскрыть инцидент, после чего источник обратился к изданию.

Обход платных ограничений для доступа к информации — распространённое нарушение; есть пример сотни миллионов сохранённых ссылок на Archive.is и попытки ФБР установить личность владельца сайта. При этом речь шла не о взломе машин для голосования, а о получении платной сводной информации.

Технически важна не только способность модели действовать самостоятельно, но и то, какие именно границы доступа она может обойти. Здесь Claude получил агрегированные данные, а не доступ к регистрационной системе, — различие существенное. Но если ключ выдаёт сама инфраструктура после запроса агента, слабым звеном становится уже не «разум» модели, а настройка доступа.

По сути, это один из наиболее понятных примеров риска, связанного с действиями ИИ — не изменение записей избирателей, а доступ агента к данным, которые штат предоставлял за плату.