Оглавление

Microsoft продолжает агрессивно внедрять искусственный интеллект в Windows 11, переходя от простых генеративных функций к полноценным автономным агентам. Новая сборка для тестеров программы Windows Insider включает переключатель «экспериментальных агентских функций» для поддержки Copilot Actions — системы, которая должна работать в фоновом режиме и выполнять задачи без постоянного контроля пользователя.

Что такое ИИ-агенты и какие риски они несут

В отличие от обычных ИИ-помощников, эти агенты предназначены для выполнения многоэтапных задач в фоне: организация файлов, планирование встреч, отправка электронных писем. Microsoft позиционирует их как «активных цифровых помощников», способных выполнять сложные задачи для повышения эффективности и продуктивности.

Однако компания прямо признает, что эти агенты создают «новые риски безопасности», связанные с возможностью злоумышленников давать им инструкции. Проблема в том, что AI-агенты склонны к ошибкам и конфабуляциям — они могут уверенно действовать, даже когда не понимают, что делают.

Интерфейс настроек ИИ-агента Windows 11 с переключателем экспериментальных функций

Три ключевые платформенные возможности

В основе видения Microsoft лежат три новые возможности платформы, которые входят в предварительную версию и фундаментально меняют то, как агенты работают в Windows:

  • Agent Connectors — нативная поддержка Model Context Protocol (MCP), открытого стандарта от Anthropic, позволяющего AI-агентам подключаться к внешним инструментам и источникам данных
  • Agent Workspace — изолированная, контролируемая политиками и аудируемая среда, где агенты могут взаимодействовать с программным обеспечением
  • Windows 365 для агентов — расширение этой инфраструктуры до облака, превращающее Cloud PC в среду выполнения для агентов

Microsoft создала так называемый «реестр на устройстве» — защищенное управляемое хранилище, где разработчики могут регистрировать возможности своих приложений как коннекторы для агентов, делая их обнаруживаемыми для любого совместимого агента в системе.

Меры безопасности и их ограничения

Microsoft пытается минимизировать риски несколькими способами:

  • Агенты работают под отдельными пользовательскими аккаунтами
  • Им предоставляется собственный «рабочий стол», не мешающий пользователю
  • Требуется подтверждение доступа к данным
  • Все действия агентов логируются и отличаются от пользовательских
  • Показывается список планируемых действий для многошаговых задач

Несмотря на эти меры предосторожности, агенты получают доступ к чтению и записи большинства файлов в пользовательском аккаунте — по умолчанию ко всем папкам Документов, Загрузок, Рабочего стола, Музыки, Изображений и Видео. Они также имеют доступ к приложениям, установленным для всех пользователей системы.

Конкретные угрозы

Microsoft специально упоминает угрозу «кросс-промпт инъекций (XPIA)», когда вредоносный контент в элементах интерфейса или документах может переопределить инструкции агента, приводя к непреднамеренным действиям вроде эксфильтрации данных или установки malware.

История с Windows Recall явно научила Microsoft осторожности — теперь они хотя бы предупреждают о рисках заранее. Но сама концепция автономных AI-агентов с доступом к файловой системе выглядит как мечта для создателей вредоносного ПО. Остается надеяться, что когда эти функции выйдут в релиз, они останутся отключенными по умолчанию, а не станут очередным навязчивым «улучшением», которое нужно вручную выключать после чистой установки системы.

Параллельно с разработкой агентов Microsoft работает над «очеловечиванием» Copilot, добавляя анимированного персонажа по имени Mico, напоминающего старого доброго Clippy, и улучшая распознавание голосового ввода.

По материалам Ars Technica