Оглавление
Writer пишет о том, как команда разработчиков решает одну из фундаментальных проблем в работе AI-агентов — раздувание контекста и снижение точности инструментов при работе с сотнями API-эндпоинтов.
От скепсиса к практической реализации
Когда появляется очередной протокол, обещающий объединить все стандарты, опытные разработчики закономерно скептичны. MCP (Model Context Protocol) не стал исключением — многие задавались вопросом, зачем нужен еще один стандарт, когда большинство инструментов представляют собой просто обертку над существующими REST API.
Однако практика показала, что MCP делает нечто большее, чем просто переупаковывает API-экосистему. Протокол позволяет развертывать гибкий интеллект в виде кода, что оправдывает все сложности внедрения.
Мы десятилетиями пытались заставить API быть удобными для людей, а теперь оказалось, что для эффективной работы с ИИ нужен совершенно другой подход к описанию инструментов. Это напоминает историю с SOAP и REST, только теперь мы адаптируемся не под человека, а под модель.
Автоматизация создания инструментов
Первой серьезной проблемой стала необходимость предоставить AI-агентам доступ к сотням сервисов и тысячам возможных вызовов инструментов. Ручное написание описаний для каждого эндпоинта заняло бы месяцы и было бы непрактичным решением.
Команда разработала внутренний пайплайн, который автоматизирует создание MCP-инструментов путем прямого поглощения спецификаций OpenAPI v3 и коллекций Postman. Когда спецификации OpenAPI недоступны, используется кастомный агент для скрапинга данных с сайтов документации.
Перевод с языка разработчиков на язык ИИ
Простая конвертация спецификаций OpenAPI недостаточна для гарантии корректного использования инструментов агентами. Сырая API-документация написана для людей-разработчиков, а не для языковых моделей, и часто не хватает семантической ясности, необходимой для эффективного вызова инструментов.
После первоначальной конвертации запускается постобработка с использованием собственной модели Palmyra X5, которая анализирует и переписывает описания инструментов, делая их «дружественными для ИИ». Это гарантирует, что они четко передают назначение и параметры инструмента так, как агент может интуитивно понять.
Сокращение опций и улучшение точности
Автоматизация пайплайна поглощения API — это хорошо, но предоставление списка из 100 коннекторов для каждого запроса и затем открытие сотен инструментов из выбранных коннекторов добавляет огромное количество данных в контекстное окно, ограничивая возможность добавления другого контента и увеличивая риск того, что ИИ собьется с пути или создаст галлюцинации.
Решение команды — переход от десятков инструментов к двум основным: поиску и выполнению. Вместо простого сопоставления по ключевым словам их шлюз динамически генерирует и оценивает список потенциальных инструментов с использованием векторного поиска на основе косинусного сходства. Этот процесс измеряет семантическое расстояние между естественноязыковым запросом агента и описанием каждого доступного инструмента, возвращая ранжированный список наиболее релевантных вариантов.
Источник: writer.com
Самое элегантное в этом подходе то, что мы позволяем ИИ решать, что искать, используя естественный язык — то, что языковые модели делают лучше всего. Это похоже на найм опытного архитектора вместо того, чтобы пытаться самостоятельно подключить каждую розетку в здании.
Предпринимательский подход к MCP
Команда создает систему корпоративного уровня MCP, которая включает шлюз между агентами и внешними MCP-серверами. Этот шлюз обеспечивает доступ только к доверенным инструментам и предоставляет IT-администраторам детализированный контроль над доступом и ролями для поддержания строгой безопасности.
Клиенты смогут использовать этот же пайплайн для подключения своих внутренних API, создавая приватный и безопасный набор инструментов, доступный только агентам их организации. Возможность версионировать и сегментировать интеграции для каждого клиента является краеугольным камнем корпоративной стратегии.
Получение данных от сторонних сервисов раньше представляло собой статичный рабочий процесс — ручное подключение API, аутентификация, преобразование полезной нагрузки, построение графиков, обновления по электронной почте/PM и вся логика ветвления и повторных попыток. С MCP и агентами вы определяете и открываете небольшой набор семантических инструментов и позволяете агенту планировать динамически.
По материалам Writer
Оставить комментарий