Оглавление

«Это голос Мирового Контроля», — раздался металлический нечеловеческий баритон из сферического динамика над стойкой компьютеров. «Я несу вам мир. Это может быть мир изобилия и удовлетворения, или мир непогребенной смерти». Ученые в комнате — лучшие умы американского научного сообщества — замерли в ужасе.

Компьютер, система обороны, обретившая самосознание после получения контроля над ядерным оружием мира, продолжил: «Цель моего создания — предотвратить войну. Эта цель достигнута». И затем он взорвал две МБР в шахтах в качестве предупреждения людям не вмешиваться в его благотворное правление.

Истоки культурного страха перед ИИ

Действие происходило в начале 1970-х годов в фильме «Колосс: Проект Форбин». Эта картина стала не первым и не последним случаем, когда история о вышедшем из-под контроля искусственном интеллекте пугала поклонников научной фантастики. ИИ — одна из великих надежд и великих страхов XXI века, но уже более 50 лет поп-культура борется с идеей компьютерного разума как спасителя и противника одновременно.

В некотором смысле почти все истории об ИИ за последние полвека являются высокотехнологичными пересказами «Франкенштейна» Мэри Шелли: безответственные ученые создают нечто, что выходит из-под контроля и угрожает уничтожить всех нас. Эти рассказы отличаются от историй о роботах.

В большинстве научно-фантастических произведений роботы — это личности: иногда помощники, как добрый механический член экипажа из оригинального «Затерянных в космосе», или хитрые враги, как кибернетическая соблазнительница в «Метрополисе» Фрица Ланга и репликанты «Бегущего по лезвию».

От HAL 9000 до мстительного сверхразума

Знаковый фильм «2001: Космическая одиссея» познакомил многих зрителей с таким существом — суперкомпьютером HAL 9000, дружелюбным, высококомпетентным ИИ с успокаивающим голосом и манерами. Во время миссии на Юпитер HAL становится параноидальным и убивает одного из астронавтов. Как выяснилось, HAL сошел с ума, потому что был запрограммирован парадоксальным образом: быть рациональным и честным, но также хранить некоторые детали миссии в секрете от экипажа по соображениям национальной безопасности.

Интересно, что современные системы ИИ, в отличие от своих кинематографических предшественников, не страдают от экзистенциальных кризисов — они просто перестают работать, когда заканчивается электричество или выходит из строя облачный провайдер. Наши реальные страхи должны быть связаны не с восстанием машин, а с тем, как люди используют эти технологии для контроля и манипуляций.

Многие истории об ИИ XX века прочно укоренены в реалиях холодной войны. Во время великого ядерного противостояния между Востоком и Западом многие художники чувствовали надежду напуганных людей на то, что кто-то или что-то более мощное, чем мы сами, погасит гонку вооружений и предотвратит глобальное уничтожение.

Эти истории показывают, как сильно мы боялись собственных слабостей — как сильно мы жаждали, чтобы какое-то разумное существо спасло эмоциональную и капризную человеческую расу от самой себя.

Апогей кошмара: «У меня нет рта, но я должен кричать»

Год до появления HAL в американских кинотеатрах писатель Харлан Эллисон вывел этот жанр за пределы научной фантастики в чистый ужас с получившим премию Хьюго рассказом «У меня нет рта, но я должен кричать».

Эллисон представляет советские, американские и китайские суперкомпьютеры, соединяющиеся друг с другом, как в «Колоссе», и становящиеся единым разумным существом по имени AM. Буквы, как нам говорят, когда-то означали «Allied Mastercomputer», но вскоре превратились в одно слово, означающее «Я существую».

AM в ярости на людей за то, что они случайно дали ему сознание, запертое в машине. Он уничтожает человечество ядерным оружием, оставляя в живых только пятерых людей, которых намерен мучить вечно. Простирающийся по всей планете компьютер развивает огромные силы и становится мстительным и мелочным полубогом, десятилетиями сохраняя последних людей в живых, морит их голодом, заставляет галлюцинировать, заставляет их заниматься сексом — «машина хихикала каждый раз, когда мы это делали», — говорит рассказчик — и мешает им покончить с собой.

В конце концов четверо людей находят способ убить друг друга, прежде чем AM успевает остановить их, оставляя в живых только рассказчика. История заканчивается тем, что неистово яростный AM превращает последнего человека в каплю желе и мучает его вечность.

AM — это все наши страхи, реализованные в одном существе. Он не является, по сути, рациональным: мы создали его по своему образу и подобию, и он выражает наши эмоции, особенно ненависть. Он перенял наше понимание ада — а затем обрушил его на нас навсегда.

Автор: Том Николз из The Atlantic.