Новости о технике и железе для искусственного интеллекта. GPU, TPU, специализированные AI-чипы от NVIDIA, AMD, Intel. Облачные платформы для ML, обзоры программного обеспечения, фреймворков и инструментов разработки. Аппаратное обеспечение для обучения и инференса нейросетей. Сравнения производительности и рекомендации по выбору.
Broadcom заключила крупнейшую сделку на $10 млрд с новым заказчиком ИИ-чипов, вероятно OpenAI, что вызвало рост акций на 15% и усилило позиции компании на рынке кастомных процессоров.
Китайский производитель ИИ-чипов Cambricon показал рекордную прибыль в 1 млрд юаней благодаря политике импортозамещения и санкционным ограничениям для Nvidia.
Cloudflare разработала платформу Omni для запуска большего количества AI-моделей на ограниченном числе GPU через интеллектуальное управление памятью и изоляцию процессов.
Модели Mixture-of-Experts обещают эффективность, но сталкиваются с аппаратными ограничениями. Анализ проблем масштабирования и альтернативных решений от Cerebras.
Baseten достиг 225% сокращения расходов для AI-инференса через комбинацию NVIDIA Blackwell на Google Cloud и оптимизированного программного стека.
Microsoft разработала аналоговый оптический компьютер, решающий сложные задачи в 100 раз быстрее с минимальным энергопотреблением. Технология успешно протестирована в банковской сфере и медицине.
