Разделение инференса LLM: как Kubernetes адаптируют под специфику стадий prefill и decode
Переход от монолитного инференса к разделению стадий prefill и decode позволяет оптимизировать использование GPU, но требует сложной оркестрации в Kubernetes.
Новости
30 июня 2026
- Промпт-инъекции до сих пор остаются главной уязвимостью корпоративного ИИ
- OpenAI представила семейство GPT-5.6 с тремя уровнями производительности и не для всех
- Криптовалютная биржа Coinbase переходит на китайские ИИ-модели GLM и Kimi ради экономии
- Большинство ИИ-моделей провалили тест по управлению стартапом в течение 500 дней
- Компактная модель VibeThinker-3B от Sina в тестах показала себя на уровне DeepSeek V3.2
- NVIDIA открывает DFlash: новый подход к ускорению вывода языковых моделей
В США создается новая коалиция за жесткое регулирование ИИ и с многомиллионым бюджетом
Новая коалиция консервативных групп в США начинает масштабную лоббистскую кампанию за ужесточение контроля над разработчиками искусственного интеллекта.
Внедрение ИИ снова сделало актуальным диплом филолога в компаниях Big Tech
Редактор Google Мари Пабелонио объясняет, почему в эпоху нейросетей гуманитарное образование становится стратегическим преимуществом для работы в техгигантах.
Иллюзия незаменимости: навыки «вайб-кодинга» не спасают от сокращений в BigTech
Бывшая сотрудница Amazon была уволена, несмотря на активное использование ИИ-инструментов в работе. Почему индивидуальные навыки владения ИИ не гарантируют защиту от массовых корпоративных сокращений.
Alibaba сокращает треть штата, чтобы стать ключевым игроком на рынке ИИ
Alibaba сократила численность персонала на 34% после продажи Sun Art и Intime, переориентируя ресурсы на разработку ИИ-агентов и облачные вычисления.
ИИ-бум сделал миллиардером основателя компании-производителя лазерных диодов
Спрос на фотонные чипы для ИИ-инфраструктуры превратил основателя Yuanjie Semiconductor Чжан Сингана в миллиардера. Акции компании выросли на 780% за год.
