Оглавление
Власти Буэнос-Айреса реализовали масштабный проект по цифровизации государственных услуг с использованием генеративного ИИ. Ассистент Boti, работающий через WhatsApp*, теперь обрабатывает более 3 миллионов запросов ежемесячно, помогая гражданам ориентироваться в сложной системе из 1300 правительственных процедур.
Техническая архитектура решения
Система построена на основе Amazon Bedrock и LangGraph, что позволяет создать агентный ИИ-помощник с двумя ключевыми компонентами: системой входных ограничений (guardrail) и агентом правительственных процедур.
Система входных ограничений использует кастомный классификатор на основе LLM для анализа входящих запросов, определяя, следует ли одобрить или заблокировать запрос на основе его содержания. Одобренные запросы обрабатываются агентом правительственных процедур, который извлекает соответствующую информацию и генерирует ответы.
Инновационный подход к поиску информации
Для повышения точности поиска разработчики создали новую систему поиска с рассуждением, которая сначала извлекает сравнительные сводки для различения похожих процедур, а затем применяет LLM для выбора наиболее релевантных результатов. Этот подход показал точность поиска до 98.9%, что на 12.5–17.5% выше стандартных методов RAG.
Локализация для аргентинского диалекта
Особое внимание уделено адаптации под локальные языковые особенности. Система использует характерные черты риоплатского испанского диалекта, включая voseo (использование «vos» вместо «tú») и periphrastic future (использование «ir a» перед глаголами). Эксперты оценили точность использования voseo в 98%, а periphrastic future — в 92%.
Впечатляющие цифры точности — это хорошо, но настоящий прорыв здесь в другом. Команда не просто внедрила очередной чат-бот, а решила фундаментальную проблему бюрократии через точную языковую адаптацию. То, что система понимает местный диалект с его грамматическими особенностями — это уровень зрелости ИИ, до которого многим коммерческим проектам еще расти годами. Жаль, что у нас подобные системы чаще всего ограничиваются шаблонными ответами без учета языковых нюансов.
Система использует Amazon Bedrock Knowledge Bases для хранения информации о правительственных процедурах и Amazon Bedrock Converse API для выводов LLM, что позволяет оптимизировать производительность и задержки для различных подзадач.
Оценка эффективности показала, что система ограничений успешно блокирует вредный контент, включая оскорбительные выражения, вредные мнения, попытки prompt injection и неэтичное поведение. Результаты этого пилотного проекта открывают новую эру взаимодействия между гражданами и правительством.
По материалам AWS Machine Learning Blog
* принадлежит Meta, признанной экстремистской и запрещенной в РФ
Оставить комментарий