Южнокорейский телекоммуникационный гигант KT объявил о запуске «KT NPU LLM Station» — специализированного программно-аппаратного комплекса для корпоративного сектора. Как пишет finance.biggo.com, это решение объединяет в одном корпусе нейронный процессор (NPU) отечественного производства и проприетарную большую языковую модель компании.
Техническая начинка устройства представляет собой тандем из чипа ATOM-MAX от стартапа Rebellions и модели Mi:dm K 2.5 Pro. Такое сочетание выбрано не случайно: разработчики позиционируют систему как полностью автономный стек, способный работать в условиях строгого сетевого разделения, что критически важно для оборонного и финансового секторов.
Технологический суверенитет в одной коробке
В эпоху доминирования ускорителей от Nvidia, попытка создать полностью локальную экосистему выглядит амбициозно, если не сказать дерзко. KT делает ставку на концепцию sovereign AI (суверенного ИИ), где данные не покидают периметр организации и не транслируются в зарубежные облачные сервисы, что часто становится камнем преткновения для государственных структур.
Использование NPU вместо привычных GPU сулит выгоду в энергоэффективности при инференсе — процессе исполнения уже обученной модели. По заявлениям KT, чипы ATOM-MAX демонстрируют превосходство над аналогами в специфических задачах обработки запросов, что позволяет снизить общую стоимость владения инфраструктурой для конечного заказчика.
Переход на локальные NPU — это здравый прагматизм в условиях дефицита глобальных цепочек поставок, однако аппаратная специализация часто оборачивается «золотой клеткой» софта. Пока мир живет в экосистеме CUDA, корейское решение рискует остаться нишевым заповедником для госсектора, где безопасность важнее гибкости разработки. Настоящий вызов здесь не в железе, а в способности API бесшовно переварить существующие пайплайны без мучительного рефакторинга.
Для упрощения внедрения система поддерживает технологию RAG (генерация с дополнением выборки), позволяющую модели отвечать на вопросы, опираясь на внутренние документы компании сразу после включения. Это избавляет бизнес от необходимости проводить длительное дообучение нейросети на собственных данных, что обычно требует участия высокооплачиваемых специалистов.
Перспективы развития и «железные» агенты
В ближайших планах компании значится развертывание семейства ИИ-агентов, включая инструмент для автоматизации протоколирования встреч и помощника для написания кода под рабочим названием K-Claw. 19 августа стало точкой отсчета для экспансии платформы в сегмент краевых вычислений (Edge Computing), где низкая задержка важнее огромных вычислительных мощностей.
Управляющий директор подразделения AX Business в KT Ли Джин Хён отметил, что данное решение является наиболее практичным вариантом для организаций, стремящихся к цифровой трансформации без потери контроля над данными. Остается лишь наблюдать, насколько успешно корейский «full-stack» сможет конкурировать с глобальными облачными гигантами на их поле.
Оставить комментарий