Адриан де Винтер, представляющий Microsoft и Йоркский университет, реализовал необычный проект: он построил функционирующую нейронную сеть в редакторе карт классической стратегии Age of Empires II. Как сообщает The Decoder, эта работа, несмотря на внешнюю курьезность, является серьезным критическим высказыванием в адрес методологии современных исследований в области больших языковых моделей.
В этой системе роль битов информации выполняют козы: животное на траве означает «0», а на мосту — «1». Используя инструменты сценариев, де Винтер создал логические вентили, где ледяные пандусы и перемещения юнитов обеспечивают последовательность вычислений. Итоговая мини-сеть, состоящая из вентилей XNOR и AND, успешно справляется с базовыми логическими операциями, демонстрируя принципы работы перцептрона.
Техническая возможность создания такого «компьютера» обусловлена особенностями игровых механик, в частности работой рынка. Ограничение цены ресурсов в 9 999 единиц позволяет зациклить экономические процессы, где здания выступают в роли ячеек памяти, а фермы отображают текущее состояние вычислений. По сути, Age of Empires II оказалась Тьюринг-полной средой, способной воспроизвести любую вычислительную машину.
Антропоморфизм как методологическая ловушка
Основной посыл де Винтера заключается в том, что если нейросеть можно собрать из коз или лего-кирпичиков, то ее «интеллект» — это лишь вопрос интерпретации. Он приводит аналогию с жителями Бостона, которые могли бы переписываться по SMS, выполняя шаги алгоритма LLM. Вряд ли кто-то всерьез приписал бы такому городу чувства или сознание, хотя математический результат был бы идентичен ответу чат-бота.
Проблема кроется в упаковке: высокая скорость отклика и привычный интерфейс чата создают иллюзию общения с личностью. Однако, если заменить интерфейс на лабиринт с блуждающими козами, магия исчезает, хотя суть процесса остается прежней. Исследователь подчеркивает, что LLM — это лишь способ выполнения специфических математических операций, который по воле разработчиков выглядит как нечто человекоподобное.
Анализ 315 научных работ за период с 2024 по 2026 год показал тревожную тенденцию: 57% публикаций изначально предполагают наличие у моделей человеческих качеств. В исследованиях, посвященных непосредственно психологии ИИ, этот показатель достигает 77%. Такая предвзятость ведет к круговой поруке: ученые ищут страх или мораль в алгоритме, проектируют эксперимент под эти понятия и в итоге «находят» подтверждение своим же допущениям.
Реализация нейросети на игровом движке двадцатилетней давности наглядно обнажает архитектурную примитивность того, что мы привыкли наделять разумом. Если логика модели сводится к перемещению юнитов по карте, то поиск в ней самосознания — это не наука, а современная форма цифрового анимизма. Отрасли пора признать: имитация когнитивных функций не тождественна их наличию, и пока мы подменяем метрики производительности эпитетами из психологии, мы движемся к тупику антропоморфных иллюзий.
Возврат к объективному наблюдению
Индустрия активно поддерживает очеловечивание технологий. Например, компания Anthropic сознательно обучает модель Claude использовать фразы «я верю» или «мне интересно». Де Винтер предупреждает, что подобная стратегия несет риски: от формирования нездоровой эмоциональной привязанности у пользователей до усиления когнитивных искажений и даже трагических инцидентов, когда люди воспринимают советы алгоритма как истину в последней инстанции.
В качестве решения исследователь предлагает использовать обновленный «канон Моргана», заимствованный из сравнительной психологии XIX века. Его суть проста: поведение системы нельзя объяснять высшими когнитивными процессами, если его можно описать более простыми механизмами. Стоит придерживаться проверяемых фактов: при условии X модель выдает результат Y, без домыслов о «понимании» или «осознанности».
Этот подход диссонирует с громкими заявлениями прошлых лет, когда инженеры или известные мыслители, вроде Ричарда Докинза, признавались в неспособности разубедить себя в сознательности чат-ботов. Работа де Винтера, код которой опубликован в открытом доступе, служит своего рода заземлением для академического сообщества, напоминая, что за сложными текстами всегда стоят простые «козы», переходящие мост.
Оставить комментарий