Автор новой архитектуры Skynet предлагает вместо векторного поиска встроить память в процесс

Разработчик под псевдонимом 0xcc.re представил архитектуру Skynet, которая призвана излечить языковые модели от хронической амнезии. Как сообщает Let’s Data Science, проект переносит логику рассуждений ИИ на примитивы акторов языка Elixir, создавая долгоживущие сущности, способные сохранять состояние между вызовами.

В основе концепции лежат так называемые Souls («Души») — процессы Elixir GenServer, которые функционируют как автономные единицы с восьмислойным когнитивным стеком. Вместо того чтобы полагаться на классическую схему RAG (генерация с дополнением извлеченными данными), где контекст собирается заново при каждом запросе, Skynet управляет памятью как внутренним состоянием процесса.

Архитектурный сдвиг от RAG к процессам

Автор проекта критикует стандартные подходы за фрагментарность: при использовании векторного поиска LLM часто получает обрывки информации, которые не складываются в связное повествование. Более того, постоянное изменение извлекаемого контекста «сбивает» кэширование промптов, что делает каждый вызов модели холодным и, как следствие, более дорогим и медленным.

В Skynet реализована иерархическая структура модулей, вдохновленная нейробиологией. Система экспериментирует с динамическим порождением процессов и использованием функции Code.eval_string для исполнения кода на лету. Это позволяет агенту не просто «вспоминать» факты, а поддерживать непрерывную линию логики в рамках своей операционной среды.

Перенос памяти из внешних векторных баз непосредственно в стейт процесса — это изящная попытка обойти ограничения stateless-природы современных трансформеров. Однако использование Code.eval_string в связке с LLM без жесткой песочницы выглядит как приглашение на вечеринку для хакеров. Архитектурная элегантность не всегда синоним промышленной надежности.

Перспективы и риски реализации

Для индустрии этот эксперимент примечателен тем, что он смещает фокус с манипуляций с промптами на системную инженерию рантайма. Если традиционные агенты живут «от вызова к вызову», то Souls в теории могут существовать неопределенно долго, накапливая опыт в локальном состоянии процесса. Это меняет операционные компромиссы между задержкой, стоимостью и безопасностью системы.

На данный момент проект остается на стадии прототипа и личного блога, не подкрепленного бенчмарками или кейсами промышленного внедрения. Практикам стоит внимательно следить за тем, появятся ли открытые реализации этого восьмислойного стека и как разработчики планируют решать вопросы изоляции при исполнении динамического кода, сгенерированного нейросетью.