Opacus добавил поддержку mixed precision для DP-SGD, ускоряя обучение в 2-6 раз и вдвое сокращая потребление памяти. Технология особенно эффективна при использовании LoRA.
Amazon Q Business внедрил агентный RAG для обработки сложных корпоративных запросов. Система декомпозирует вопросы, использует интеллектуальный поиск и обеспечивает прозрачность процессов.
AWS представила метод ускорения миграции legacy-систем в облако через интеграцию AI-инструментов Amazon Q, Bedrock Data Automation и протокола MCP. Развёртывание инфраструктуры сокращается до минут.
Практическое руководство по развёртыванию RAG-ассистента на Amazon EKS Auto Mode с NVIDIA NIM. Автоматизация GPU-инфраструктуры и управление моделями через Kubernetes.
Amazon Bedrock запускает AgentCore Runtime — серверную среду для промышленного развертывания ИИ-агентов. Решает проблемы масштабирования, безопасности и интеграции различных фреймворков.
Решение для запуска моделей Hugging Face в JAX после удаления нативной поддержки: использование torchax для преобразования PyTorch-моделей, работа с JIT-компиляцией и Pytree.