Илон Маск рассчитывает, что к предстоящему Рождеству модели стартапа xAI достигнут уровня развития решений от OpenAI и Anthropic. Как сообщает издание Electronics Weekly, амбициозный график компании опирается на беспрецедентные темпы наращивания серверных мощностей в дата-центре Colossus.
Несмотря на то что xAI существует всего три года, в то время как конкуренты развивают свои проекты от шести до десяти лет, Маск сохраняет уверенность в успехе. Ключевым фактором здесь выступает так называемая вторая производная — скорость ускорения разработки, которая, по мнению предпринимателя, позволит xAI занять лидирующие позиции уже через полгода.
Техническим фундаментом для этого рывка служит площадка Colossus 2 в Мемфисе. На текущий момент объект оперирует внушительным массивом из 110 000 графических процессоров NVIDIA GB200 и 440 000 единиц GB300. Однако это лишь промежуточный этап в реализации масштабного плана по расширению инфраструктуры.
Масштабирование архитектуры Blackwell
План расширения дата-центра расписан буквально по неделям, напоминая отлаженный конвейер. До конца текущей недели планируется ввести в эксплуатацию 220 000 ускорителей GB300, а аналогичный объем мощностей должен быть развернут к концу ноября. Финальная партия процессоров ожидается в декабре, что укомплектует объект полностью.
В результате этих манипуляций Colossus 2 будет располагать 1,2 миллионами чипов архитектуры Blackwell. Стоит учитывать, что это дополнение к уже существующему кластеру Colossus 1, который объединяет 230 000 GPU, включая модели H100, H200 и GB200. Суммарный парк оборудования к концу года должен составить 1,44 миллиона GPU.
Концентрация такой вычислительной мощи в одних руках выглядит впечатляюще, но наличие миллионов GPU Blackwell не гарантирует автоматического превосходства в качестве ответов модели. Архитектурная сложность обучения на таких масштабах неизбежно столкнется с проблемами интерконнекта и энергопотребления, которые невозможно решить простым увеличением количества чипов. Пока xAI покупает железо, конкуренты оттачивают алгоритмическую эффективность, и этот разрыв в опыте остается главным препятствием для Маска.
Вопрос о том, достаточно ли простого количественного превосходства в «железе» для качественного скачка в возможностях LLM, остается открытым. История индустрии знает немало примеров, когда грубая вычислительная сила не могла компенсировать тонкие настройки алгоритмов и чистоту обучающих выборок, которыми славятся Anthropic и OpenAI.
Тем не менее, темпы закупки оборудования NVIDIA впечатляют. Если графики поставок и пусконаладочных работ будут соблюдены, xAI создаст одну из самых мощных вычислительных сред в мире. Это превращает теоретическую гонку вооружений в области искусственного интеллекта в очень конкретную битву инфраструктурных мощностей.
Оставить комментарий