Оглавление

Как пишет Writer, их флагманская модель Palmyra X5 стала доступна на Amazon Bedrock, предлагая разработчикам корпоративное решение для работы с большими контекстами и вызова инструментов через управляемый API.

Что представляет собой Palmyra X5

В апреле 2025 года WRITER представила Palmyra X5 на платформе Amazon Bedrock. Это продвинутая адаптивная модель рассуждений со встроенным вызовом инструментов, контекстным окном в 1 миллион токенов и оптимизацией затрат для масштабирования.

Разработчики используют возможности глубокого мышления Palmyra X5 для более предсказуемого вызова инструментов, что позволяет реализовывать сложные корпоративные сценарии использования на Bedrock.

Интеграция мощных языковых моделей в управляемые облачные платформы — это не просто техническое удобство, а стратегический шаг к демократизации сложных AI-возможностей. Palmyra X5 с её контекстом в миллион токенов теоретически может анализировать документацию объемом с несколько книг, но реальная ценность проявится только когда разработчики научатся эффективно использовать этот потенциал без взрывного роста затрат.

Ключевые возможности

Фундаментальные модели WRITER на Amazon Bedrock предоставляют инженерным командам инструменты для создания корпоративных AI-агентов:

  • Единый API доступ: интеграция возможностей рассуждения и длинного контекста без управления инфраструктурой
  • Масштабируемость корпоративного уровня: работа на инфраструктуре AWS с гарантированной надежностью
  • Настраиваемые рабочие процессы: адаптация к корпоративным данным через автоматизацию и управление промптами
  • Настраиваемая оркестрация: построение многошаговых конвейеров и агентских приложений

Практический пример: Text-to-SQL агент

Рассмотрим пример Text-to-SQL агента, использующего Palmyra X5 на Amazon Bedrock. Полный пример доступен в репозитории GitHub.

Диаграмма архитектуры языковой модели Palmyra X5 на платформе Amazon Bedrock

Агент преобразует естественно-языковые вопросы в SQL-запросы, выполняемые против финансовых данных. С помощью вызова инструментов агент получает детали схемы из AWS Glue Data Catalog и выполняет запросы через Amazon Athena к данным в Amazon S3.

Архитектура решения

Основной модуль взаимодействия:

# main.py - Core interaction loop
def invoke_text_to_sql(query, agent_id, agent_alias_id):
 agent_response = bedrock_agent_runtime_client.invoke_agent(
 inputText=query,
 agentId=agent_id,
 agentAliasId=agent_alias_id,
 sessionId=str(uuid.uuid4()),
 enableTrace=True,
 )

 for event in agent_response.get("completion"):
 if formatted_response := format_agent_response(event):
 print(formatted_response)

Lambda-функция, соединяющая Palmyra X5 с AWS сервисами:

# utils/lambda_function.py - Get Database Schema
def get_schema():
 try:
 print("'/getschema' has called.")
 glue_client = boto3.client("glue")

 database_name = "financialdata"
 table_schema_list = []
 response = glue_client.get_tables(DatabaseName=database_name)

 table_names = [table.get("Name") for table in response.get("TableList", [])]

 for table_name in table_names:
 response = glue_client.get_table(
 DatabaseName=database_name, Name=table_name
 )
 columns = (
 response.get("Table", {})
 .get("StorageDescriptor", {})
 .get("Columns", [])
 )
 schema = {column.get("Name"): column.get("Type") for column in columns}
 table_schema_list.append({f"Table: {table_name}": f"Schema: {schema}"})

 return table_schema_list
 except Exception as e:
 error_message = f"Error in 'get_schema' handler occurred: {str(e)}"
 print(error_message)
 return error_message

Результаты работы

При запросе «What customer has the highest transaction amount?» агент использует /getschema для понимания структуры таблиц и /querydatabase для выполнения SQL через Athena. Результаты форматируются и возвращаются, показывая как Palmyra X5 и Bedrock превращают естественно-языковые вопросы в точные инсайты.

По материалам Writer.