Почему, чтобы использовать ИИ-агентов, нужно переосмыслить цифровую устойчивость компаний

Цифровая устойчивость — способность предотвращать, выдерживать и восстанавливаться от цифровых сбоев — долгое время была стратегическим приоритетом для предприятий. С появлением агентного ИИ потребность в надежной устойчивости стала как никогда острой.

Агентный ИИ представляет новое поколение автономных систем, способных к проактивному планированию, рассуждению и выполнению задач с минимальным вмешательством человека. По мере перехода этих систем от экспериментальных проектов к ключевым элементам бизнес-операций они открывают новые возможности, но также создают новые вызовы для обеспечения цифровой устойчивости. Автономность, скорость и масштаб работы агентного ИИ могут усилить воздействие даже незначительных несоответствий данных, фрагментации или пробелов в безопасности.

Хотя глобальные инвестиции в ИИ, по прогнозам, достигнут $1,5 триллиона в 2025 году, менее половины бизнес-лидеров уверены в способности своих организаций поддерживать непрерывность обслуживания, безопасность и контроль затрат во время непредвиденных событий. Этот недостаток уверенности в сочетании с возрастающей сложностью, вызванной автономным принятием решений агентным ИИ и его взаимодействием с критической инфраструктурой, требует переосмысления цифровой устойчивости.

Машинные данные: основа агентного ИИ и цифровой устойчивости

Ранние модели ИИ сильно зависели от данных, созданных человеком, таких как текст, аудио и видео, но агентный ИИ требует глубокого понимания машинных данных организации: журналов, метрик и другой телеметрии, генерируемой устройствами, серверами, системами и приложениями.

Для эффективного использования агентного ИИ в обеспечении цифровой устойчивости он должен иметь беспрепятственный доступ к этому потоку данных в реальном времени. Без комплексной интеграции машинных данных организации рискуют ограничить возможности ИИ, пропустить критические аномалии или допустить ошибки. Как подчеркивает Камал Хати, старший вице-президент и генеральный менеджер Splunk, компании Cisco, агентные системы ИИ полагаются на машинные данные для понимания контекста, моделирования результатов и непрерывной адаптации. Это делает контроль машинных данных краеугольным камнем цифровой устойчивости.

«Мы часто описываем машинные данные как сердцебиение современного предприятия, — говорит Хати. — Агентные системы ИИ питаются этим жизненно важным пульсом, требуя доступа к информации в реальном времени. Важно, чтобы эти интеллектуальные агенты работали непосредственно со сложным потоком машинных данных и чтобы сам ИИ обучался на этом же потоке данных».

Немногие организации в настоящее время достигают уровня интеграции машинных данных, необходимого для полноценного использования агентных систем. Это не только сужает спектр возможных вариантов использования агентного ИИ, но, что хуже, может приводить к аномалиям данных и ошибкам в результатах или действиях. Модели обработки естественного языка, разработанные до появления генеративных предобученных трансформеров, страдали от лингвистических неоднозначностей, предвзятости и несоответствий. Подобные сбои могут происходить и с агентным ИИ, если организации поторопятся без предоставления моделям фундаментального понимания машинных данных.

Для многих компаний поддержание темпа прогресса ИИ стало серьезной проблемой. «В некотором смысле скорость этих инноваций начинает нам вредить, потому что создает риски, к которым мы не готовы, — говорит Хати. — Проблема в том, что с эволюцией агентного ИИ использование традиционных языковых моделей, обученных на человеческом тексте, аудио, видео или печатных данных, не работает, когда ваша система должна быть безопасной, устойчивой и всегда доступной».

Проектирование тканей данных для устойчивости

Для устранения этих недостатков и построения цифровой устойчивости технологические лидеры должны перейти к тому, что Хати описывает как проектирование тканей данных, более подходящих для требований агентного ИИ. Это включает объединение фрагментированных активов из сфер безопасности, ИТ, бизнес-операций и сетей для создания интегрированной архитектуры, которая соединяет разрозненные источники данных, разрушает изолированные хранилища и обеспечивает анализ в реальном времени и управление рисками.

«Как только у вас появляется единое представление, вы можете делать все эти автономные и агентные вещи, — говорит Хати. — У вас гораздо меньше слепых зон. Принятие решений происходит намного быстрее. И неизвестность перестает быть источником страха, потому что у вас есть целостная система, способная поглощать эти удары и нарушения без потери непрерывности».

Для создания этой унифицированной системы команды по данным должны сначала разрушить ведомственные разрозненные хранилища в том, как данные распределяются, говорит Хати. Затем они должны внедрить федеративную архитектуру данных — децентрализованную систему, где автономные источники данных работают вместе как единое целое без физического объединения — чтобы создать единый источник данных при сохранении управления и безопасности. И наконец, команды должны обновить платформы данных, чтобы обеспечить доступность этого нового унифицированного представления для агентного ИИ.

Во время этого перехода команды могут столкнуться с техническими ограничениями, если будут полагаться на традиционные платформы, ориентированные на структурированные данные — то есть в основном количественную информацию, такую как записи клиентов или финансовые транзакции, которые можно организовать в предопределенном формате (часто в таблицах), удобном для запросов. Вместо этого компаниям нужна платформа, которая также может управлять потоками неструктурированных данных, таких как системные журналы, события безопасности и трассировки приложений, которые не имеют единообразия и часто являются качественными, а не количественными. Анализ, организация и извлечение инсайтов из таких данных требуют более продвинутых методов, обеспечиваемых ИИ.

Использование ИИ как партнера

Сам ИИ может быть мощным инструментом в создании тканей данных, которые обеспечивают работу систем ИИ. Инструменты на основе ИИ могут, например, быстро идентифицировать отношения между разрозненными данными — как структурированными, так и неструктурированными — автоматически объединяя их в единый источник истины. Они могут обнаруживать и исправлять ошибки, а также использовать обработку естественного языка для тегирования и категоризации данных, чтобы упростить их поиск и использование.

Агентные системы ИИ также могут использоваться для расширения человеческих возможностей в обнаружении и расшифровке аномалий в потоках неструктурированных данных предприятия. Часто эти аномалии находятся за пределами человеческой способности быстро обнаруживать или интерпретировать, что приводит к пропущенным угрозам или задержкам. Но агентные системы ИИ, спроектированные для восприятия, рассуждения и автономных действий, могут заполнить этот пробел, обеспечивая предприятия более высокими уровнями цифровой устойчивости.

«Цифровая устойчивость — это не только сопротивление нарушениям, — говорит Хати. — Это также эволюция и рост со временем. ИИ-агенты могут работать с огромными объемами данных и непрерывно учиться у людей, которые обеспечивают безопасность и надзор. Это настоящая самооптимизирующаяся система».

Человек в контуре управления

Несмотря на свой потенциал, агентный ИИ должен позиционироваться как вспомогательный интеллект. Без надлежащего контроля ИИ-агенты могут вызывать сбои приложений или создавать риски безопасности.

Четко определенные ограничители и поддержание человека в контуре управления являются «ключом к надежному и практичному использованию ИИ», говорит Хати. «ИИ может улучшить человеческое принятие решений, но в конечном счете люди находятся за рулем».

Мы создаем все более автономные системы, но чем сложнее они становятся, тем больше нуждаемся в человеческом контроле. Агентный ИИ обещает эффективность, но реальная цена — это архитектурная сложность, сравнимая с проектированием жизнеобеспечения космической станции. Компании, спешащие внедрить эти системы без должной инфраструктуры данных, рискуют получить не помощника, а цифрового Франкенштейна, способного усиливать ошибки с катастрофической скоростью.

По материалам TechnologyReview.