Инференс в промышленном масштабе становится ключевым источником доходов от ИИ

Обучение модели искусственного интеллекта для прогнозирования отказов оборудования — это техническое достижение. Но настоящая бизнес-трансформация происходит только тогда, когда прогноз встречается с действием — в тот момент, когда модель успешно идентифицирует неисправное оборудование. Одна веха существует в презентации proof-of-concept, другая — реально влияет на прибыль.

Крейг Партридж, старший директор по всемирному цифровому консалтингу в HPE, считает, что «истинная ценность ИИ заключается в инференсе». Именно инференс — операционный слой, который использует все обучение в реальных рабочих процессах — оправдывает инвестиции в ИИ. Партридж уточняет: «Фраза, которую мы используем для этого — „доверенный инференс ИИ в масштабе и в продакшене“. Именно здесь, по нашему мнению, будет наибольшая отдача от инвестиций в ИИ».

Достижение этой точки — сложная задача. Кристиан Райхенбах, всемирный цифровой консультант HPE, ссылается на результаты недавнего опроса компании среди 1775 ИТ-лидеров: хотя почти четверть (22%) организаций уже операционализировали ИИ — по сравнению с 15% в предыдущем году — большинство остаются застрявшими на стадии экспериментов.

Доверие как предпосылка для масштабируемого ИИ с высокими ставками

Доверенный инференс означает, что пользователи могут реально полагаться на ответы, которые они получают от систем ИИ. Это важно для приложений вроде генерации маркетинговых текстов и развертывания чат-ботов службы поддержки, но абсолютно критично для сценариев с более высокими ставками — скажем, робота, ассистирующего во время операций, или автономного транспортного средства, перемещающегося по оживленным улицам.

Независимо от варианта использования, установление доверия потребует удвоения усилий по качеству данных; прежде всего, результаты инференса должны строиться на надежных основаниях. Эта реальность лежит в основе одного из любимых мантр Партриджа: «Плохие данные на входе равны плохому инференсу на выходе».

Райхенбах приводит реальный пример того, что происходит, когда качество данных оказывается недостаточным — рост ненадежного контента, генерируемого ИИ, включая галлюцинации, который засоряет рабочие процессы и заставляет сотрудников тратить значительное время на проверку фактов. «Когда что-то идет не так, доверие падает, рост производительности не достигается, и желаемый результат не достигается», — говорит он.

С другой стороны, когда доверие должным образом встроено в системы инференса, эффективность и рост производительности могут увеличиться. Возьмем команду сетевых операций, задачей которой является устранение неисправностей конфигураций. С доверенным механизмом инференса это подразделение получает надежного помощника, который может предоставлять более быстрые, точные, индивидуально подобранные рекомендации — «круглосуточного члена команды, которого у них раньше не было», — говорит Партридж.

Переход к data-centric мышлению и подъем AI factory

В первой волне ИИ компании спешили нанять специалистов по данным, и многие рассматривали сложные модели с триллионами параметров как основную цель. Но сегодня, когда организации переходят от ранних пилотов к реальным, измеримым результатам, фокус сместился в сторону инженерии данных и архитектуры.

«За последние пять лет более значимым стало разрушение информационных барьеров, доступ к потокам данных и быстрое извлечение ценности», — говорит Райхенбах. Эта эволюция происходит параллельно с подъемом AI factory — постоянно работающей производственной линии, где данные проходят через конвейеры и циклы обратной связи для генерации непрерывной аналитики.

Этот сдвиг отражает эволюцию от model-centric к data-centric мышлению, и с ним приходит новый набор стратегических соображений. «Все сводится к двум вещам: Насколько интеллект — сама модель — действительно ваш? И насколько входные данные — данные — уникально ваши, от ваших клиентов, операций или рынка?» — говорит Райхенбах.

Эти два центральных вопроса влияют на все — от направления платформы и операционных моделей до инженерных ролей и соображений доверия и безопасности. Чтобы помочь клиентам отобразить их ответы — и перевести их в действенные стратегии — Партридж разбирает матрицу импликаций AI factory HPE из четырех квадрантов:

• Run: Доступ к внешней, предварительно обученной модели через интерфейс или API; организации не владеют моделью или данными. Реализация требует сильной безопасности и управления. Также требуется создание центра компетенций, который принимает и сообщает решения об использовании ИИ.
• RAG (retrieval augmented generation): Использование внешних предварительно обученных моделей в сочетании с проприетарными данными компании для создания уникальных инсайтов. Реализация фокусируется на подключении потоков данных к возможностям инференса, которые обеспечивают быстрый, интегрированный доступ к полнофункциональным платформам ИИ.
• Riches: Обучение пользовательских моделей на данных, находящихся в предприятии, для уникальных возможностей дифференциации и инсайтов. Реализация требует масштабируемых, энергоэффективных сред и часто высокопроизводительных систем.
• Regulate: Использование пользовательских моделей, обученных на внешних данных, требующих той же масштабируемой настройки, что и Riches, но с дополнительным фокусом на юридическом и регуляторном соответствии для обработки чувствительных, не принадлежащих данных с особой осторожностью.

Важно, что эти квадранты не являются взаимоисключающими. Партридж отмечает, что большинство организаций — включая саму HPE — работают во многих квадрантах. «Мы строим собственные модели, чтобы помочь понять, как работают сети», — говорит он. «Затем мы развертываем эту аналитику в наших продуктах, чтобы наш конечный клиент получил возможность работать в том, что мы называем квадрантом „Run“. Так что для них это не их данные; это не их модель. Они просто добавляют эту возможность внутри своей организации».

Интересно наблюдать, как индустрия наконец-то переходит от хайпа вокруг моделей-гигантов к прагматичному пониманию, что реальная ценность создается на этапе применения. Матрица HPE — это не просто теоретическая конструкция, а отражение рыночной реальности, где большинство компаний будут работать одновременно в нескольких квадрантах. Главная ирония в том, что самый популярный квадрант «Run» — это по сути аутсорсинг аналитики, тогда как настоящая конкурентная дифференциация скрывается в «Riches».

Момент ИТ для масштабирования и лидерства

Вторая часть коронной фразы Партриджа об инференсе — «в масштабе» — говорит о главном напряжении в корпоративном ИИ: то, что работает для нескольких вариантов использования, часто ломается при применении ко всей организации.

«Есть ценность в экспериментах и обсуждении идей», — говорит он. «Но если вы хотите действительно увидеть преимущества ИИ, это должно быть чем-то, во что может вовлечься каждый, и что решает множество различных вариантов использования».

По мнению Партриджа, задача превращения точечных пилотов в общеорганизационные системы уникально подходит для основных компетенций ИТ-функции — и это возможность для лидерства, которую функция не может позволить себе упустить. «ИТ берет вещи, которые являются мелкомасштабными, и внедряет дисциплину, необходимую для их работы в масштабе», — говорит он. «Поэтому ИТ-организации действительно должны активно участвовать в этих дебатах».

Для ИТ-команд, довольствующихся пребыванием на обочине, история предлагает поучительный пример из последнего крупного инфраструктурного сдвига: миграции предприятий в облако. Многие ИТ-отделы оставались в стороне от принятия решений во время ранней волны внедрения облачных технологий десять лет назад, в то время как бизнес-подразделения независимо развертывали облачные сервисы. Это привело к фрагментированным системам, дублирующим расходам и пробелам в безопасности, на устранение которых ушли годы.

Та же динамика грозит повториться с ИИ, поскольку различные команды экспериментируют с инструментами и моделями вне поля зрения ИТ. Этот феномен — иногда называемый теневым ИИ — описывает среды, где пилотные проекты множатся без надзора или управления. Партридж считает, что большинство организаций уже работают в квадранте «Run» в некоторой степени, поскольку сотрудники будут использовать инструменты ИИ независимо от того, уполномочены они на это официально или нет.

Вместо того чтобы запрещать эксперименты, теперь мандатом ИТ является привнесение в них структуры. И предприятия должны разработать стратегию платформы данных, которая объединяет корпоративные данные с защитными механизмами, структурой управления и доступностью для питания ИИ. Также критически важно продолжать стандартизацию инфраструктуры (такой как платформы частного облачного ИИ).

По сообщению MIT Technology Review, переход от экспериментов к промышленному инференсу становится ключевым вызовом для корпоративного ИИ.