Новости о технике и железе для искусственного интеллекта. GPU, TPU, специализированные AI-чипы от NVIDIA, AMD, Intel. Облачные платформы для ML, обзоры программного обеспечения, фреймворков и инструментов разработки. Аппаратное обеспечение для обучения и инференса нейросетей. Сравнения производительности и рекомендации по выбору.
Lambda и ECL запустили первые водородные системы NVIDIA GB300 NVL72 для ИИ-вычислений с нулевыми выбросами. Мощность каждого кластера — 142 кВт, развертывание заняло рекордные 2 часа.
Cerebras запускает программу сертификации для API-провайдеров языковых моделей с требованиями к производительности, безопасности и совместимости.
OpenAI, Oracle и SoftBank расширяют проект Stargate пятью новыми дата-центрами суммарной мощностью 7 ГВт и инвестициями $400 млрд.
Энергоэффективность инференса больших языковых моделей улучшилась в 100 000 раз за 10 лет. ИИ может сэкономить 4,5% энергии в промышленности, транспорте и зданиях к 2035 году.
Энергетические потребности ИИ перекраивают глобальную карту технологической инфраструктуры, создавая новый разрыв между регионами с доступом к чистой энергии и без него.
Nscale строит специализированные дата-центры для ИИ с прямым жидкостным охлаждением и использованием возобновляемой энергии. Компания уже работает в Европе и США.
