Искусственный интеллект используют в британском МВД для задач, связанных с миграцией, — от проверки предполагаемых фиктивных браков до анализа материалов телефонных устройств прибывших в страну. Об этом говорится в докладе Open Rights Group (ORG), о котором сообщает The Guardian. Министерство внутренних дел Великобритании заявляет, что ИИ помогает сотрудникам, но не заменяет их и не принимает решений по заявлениям о предоставлении убежища.

По данным ORG, ИИ также применяют для определения возраста просителей убежища, наблюдения за границами с помощью распознавания лиц в реальном времени, дронов и спутников, а также для составления кратких изложений интервью и информации о странах происхождения, используемой в таких интервью. Кроме того, инструмент Ipic помогает ранжировать и оценивать дела; принцип его работы, как указывает организация, непрозрачен.

Доклад «Automated Discrimination: Unpacking the Digital Hostile Environment» основан на ограниченных публикациях МВД, ответах на запросы о свободе информации и парламентских вопросах. Его поддержали представители нескольких партий: лейбористка Белл Рибейро-Адди, член Шотландской национальной партии Пит Уишарт и представительница Партии зелёных Сиан Берри.

Спор о прозрачности и человеческом контроле

ORG утверждает, что ИИ не является нейтральным или безошибочным и способен воспроизводить общественные предубеждения и дискриминацию. По оценке авторов доклада, особенно опасно применять такие системы на фоне политики и риторики, направленных против мигрантов. Организация также заявляет, что инструменты испытывают и внедряют почти без публичности, а чиновники регулярно ссылаются на национальную безопасность, отказывая в ответах на запросы или скрывая часть сведений. Последовательные правительства, говорится в докладе, рассматривают сложные человеческие дела как техническую задачу, которую можно решить цифровыми средствами.

Авторы предупреждают о риске «сведения людей к точкам данных» и проводят параллель с так называемой враждебной средой для мигрантов, которую в 2012 году предложила тогдашний министр внутренних дел Тереза Мэй. В докладе сказано: «Полагаться на ИИ в решении вопроса о том, кому разрешат остаться, а кого отправят обратно в опасность, крайне тревожно».

ORG призывает правительство регулировать ИИ и запретить его применение в случаях, которые организация считает недемократичными или создающими угрозу правам человека. Среди примеров она называет использование инструментов ChatGPT при подготовке заявлений о предоставлении убежища. Организация также требует большей прозрачности, усиления законодательства о свободе информации, более узкого определения национальной безопасности и общедоступного реестра государственных ИИ-инструментов.

Здесь важен не только перечень задач, но и разрыв между масштабом применения ИИ и доступностью сведений о нём. Если система помогает сортировать миграционные дела, качество человеческого контроля зависит от того, что чиновники могут проверить и оспорить. Автоматизация без прозрачной проверки рискует ускорить не только работу, но и ошибку.

Белл Рибейро-Адди заявила, что МВД неохотно публикует документы, которые объяснили бы, как ИИ применяют при рассмотрении заявлений об убежище, какие проблемы возникают и как их решают. По её словам, ведомство не объяснило, как будет обеспечивать ответственность за сбои, и не обосновало, почему наибольшие риски должны нести наиболее уязвимые люди, обладающие наименьшим влиянием.

Представитель МВД Великобритании ответил, что искусственный интеллект — лишь один из инструментов защиты границ и не заменяет работу людей и не автоматизирует их решения. По его словам, заявления о предоставлении убежища рассматривают подготовленные сотрудники; ИИ используют только для навигации по записям интервью и справочным материалам о странах.

Такие инструменты, добавил представитель, не могут применяться отдельно от человека и не принимают решений по заявлениям. МВД регулярно проверяет их работу в рамках действующих процедур контроля качества и уже обязалось опубликовать обновлённые оценки внедрения.