Оглавление

Финансовый гигант TP ICAP решил проблему ручного анализа десятков тысяч записей встреч в своей CRM-системе, построив интеллектуального ассистента на базе Amazon Bedrock. Решение ClientIQ сократило часы ручной работы до секунд автоматизированного анализа.

Проблема неиспользуемых данных

За годы работы TP ICAP накопила в своей CRM-системе Salesforce десятки тысяч записей встреч с поставщиками. Эти заметки содержали богатую качественную информацию о продуктах, интеграционных обсуждениях, отношениях с клиентами и стратегическом направлении. Однако данные практически не использовались — бизнес-пользователи тратили часы на ручной поиск по записям, зная о существовании информации, но не имея возможности эффективно её находить.

ClientIQ: умный CRM-ассистент

Созданный Innovation Lab компании, ClientIQ позволяет пользователям взаимодействовать с данными Salesforce через естественные языковые запросы. Система поддерживает:

  • Вопросы на обычном английском: «Как улучшить отношения с клиентами?», «Что клиенты думают о нашем решении?», «Как повлиял Brexit на наших клиентов?»
  • Уточняющие вопросы в диалоге
  • Фильтрацию по временным периодам
  • Прямой доступ к исходным документам через ссылки на конкретные записи Salesforce

ClientIQ обеспечивает полную прослеживаемость, включая ссылки на исходные данные и прямые ссылки на оригинальные записи Salesforce.

Интерфейс аналитической системы Client IQ с вопросом и готовым ответом
Источник: aws.amazon.com

Архитектура решения

Рассмотрев встроенного AI-ассистента CRM, команда выбрала разработку кастомизированного, более экономичного решения, точно соответствующего их требованиям. Партнерство с AWS позволило построить enterprise-решение на базе Amazon Bedrock.

Решение использует два подхода для обработки запросов:

  1. RAG workflow — для получения инсайтов из неструктурированных заметок встреч
  2. SQL generation workflow — для ответов на аналитические запросы через структурированные данные

Система автоматически определяет оптимальный путь обработки каждого запроса с помощью LLM и генерирует ответы на естественном языке. Важно, что ClientIQ соблюдает существующие границы разрешений — пользователи получают доступ только к данным, к которым у них есть права в CRM-системе.

Ключевые технологии Amazon Bedrock

TP ICAP использовала несколько управляемых возможностей Amazon Bedrock:

  • Foundation models — выбор лучших моделей для конкретных задач: Anthropic Claude 3.5 Sonnet для классификации и Amazon Nova Pro для генерации SQL из текста
  • Knowledge Bases — полностью управляемая RAG-функциональность со встроенным управлением контекстом сессии и атрибуцией источников
  • Bedrock Evaluations — автоматизированная оценка качества и производительности системы

Интересно наблюдать, как финансовые гиганты переходят от пилотных проектов к production-решениям на базе управляемых AI-сервисов. TP ICAP демонстрирует классический кейс enterprise-внедрения: вместо экспериментов с open-source моделями они выбрали готовую платформу, что позволило сократить время разработки с месяцев до недель. Особенно впечатляет комбинация RAG и text-to-SQL подходов — это именно то, что нужно бизнесу: не просто чат-бот, а полноценный аналитический инструмент.

Решение было развернуто в продакшн всего за несколько недель вместо месяцев, которые потребовались бы при самостоятельной настройке инфраструктуры для хостинга моделей.

По материалам AWS Machine Learning Blog.