Обзор новых инструментов Lambda для ИИ-инфраструктуры: управление кластерами, оптимизация инференса и интеграция MLflow во втором квартале 2025 года.

Nvidia, Microsoft и другие AI-гиганты составляют 25% капитализации S&P 500, вызывая опасения повторения пузыря доткомов. Аналитики фиксируют рекордные оценки и рост защитных позиций инвесторов.

Решение для запуска моделей Hugging Face в JAX после удаления нативной поддержки: использование torchax для преобразования PyTorch-моделей, работа с JIT-компиляцией и Pytree.

Salesforce снизила затраты на инференс LLM в 8 раз благодаря компонентам SageMaker, решающим проблему неэффективного использования GPU при работе с моделями разного размера и нагрузки.

Google представил CTCL — метод генерации дифференциально приватных синтетических данных без тонкой настройки миллиардных LLM. Лёгкая 140M модель создаёт данные по тематическим паттернам, снижая затраты и риски.

Компания Anthropic поддержала инфраструктурные инициативы американского плана развития ИИ, но раскритиковала ослабление экспортного контроля и недостаток требований к прозрачности разработки ИИ.