Запуск моделей Hugging Face в JAX после удаления нативной поддержки

Решение для запуска моделей Hugging Face в JAX после удаления нативной поддержки: использование torchax для преобразования PyTorch-моделей, работа с JIT-компиляцией и Pytree.

Salesforce оптимизирует затраты на LLM с помощью компонентов инференса AWS SageMaker

Salesforce снизила затраты на инференс LLM в 8 раз благодаря компонентам SageMaker, решающим проблему неэффективного использования GPU при работе с моделями разного размера и нагрузки.

Google представил метод генерации приватных данных без дорогих больших моделей

Google представил CTCL — метод генерации дифференциально приватных синтетических данных без тонкой настройки миллиардных LLM. Лёгкая 140M модель создаёт данные по тематическим паттернам, снижая затраты и риски.

Anthropic оценивает американский план развития ИИ

Компания Anthropic поддержала инфраструктурные инициативы американского плана развития ИИ, но раскритиковала ослабление экспортного контроля и недостаток требований к прозрачности разработки ИИ.

Anthropic представил индекс экономического влияния ИИ на основе данных Claude

Anthropic представил индекс экономического влияния ИИ на основе анализа миллионов диалогов с Claude. Исследование выявило преобладание усиления над автоматизацией и неравномерное внедрение по отраслям.

Фото межзвездной кометы 3I/ATLAS, сделанное телескопом Hubble

Hubble зафиксировал рекордную межзвездную комету, летящую к Солнцу со скоростью 58 км/с

Hubble зафиксировал межзвёздную комету 3I/ATLAS, летящую к Солнцу со скоростью 58 км/с — рекорд для солнечной системы. Объект размером до 5,6 км стал третьим подтверждённым «гостем» из другой звёздной системы.