Отказ системы: история роботов и андроидов в литературе

«Правила жизни» продолжают публиковать серию материалов, посвященных отношениям человека с искусственным интеллектом. Арен Ванян — исследователь, автор телеграм-канала «Арен и книги» — объясняет, как роботы, андроиды и ИИ появились в художественной литературе и как чувствуют там себя сейчас.
Отказ системы: история роботов и андроидов в литературе
«Правила жизни»

Глава первая,в которой одна девушка оказалась прозорливее двух мужчин

Майскую ночь на берегу Женевского озера 18-летняя англичанка Мэри провела в компании главных поэтов Англии: своего мужа Перси Шелли и его нового друга Джорджа Байрона. Шел 1816 год — «год без лета», как его окрестили европейцы из-за аномально холодной погоды. Молодые люди вынужденно остались греться у камина в старом особняке Байрона и развлекали себя чтением немецких сказок о привидениях. Ночь увенчалась решением, что каждый из них напишет рассказ о сверхъестественном.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Каждое следующее утро Байрон устраивал Мэри допросы, когда она уже напишет рассказ; сам он, конечно же, ничего писать не собирался и просто наслаждался растерянностью юной девушки. В те же дни Мэри увидела сон о молодом ученом, который своими руками собрал человека из кусков тела. Ее сон был навеян воспоминанием о путешествии по Германии, когда она увидела заброшенный немецкий замок Франкенштейн, в котором, согласно легенде, в XVII веке обитал одинокий алхимик. Все это — допросы, сон и воспоминание — побудило Мэри все-таки написать рассказ, который перерос в эпистолярный «роман ужасов» под названием «Франкенштейн, или Современный Прометей» (1818).

Искусственный интеллект в литературе
«Правила жизни»

Роман посвящен ученому Виктору Франкенштейну, последователю оккультных наук, который втайне от всех создает искусственного человека из разрозненных частей тел, но затем отрекается от своего детища. Общество тоже отвергает нового человека из-за его уродства. Чувство мести подталкивает чудовище пуститься в преследование своего создателя, превращая жизнь Виктора в нескончаемый кошмар.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Что имела в виду Мэри Шелли? Был ли новый человек — этот униженный и оскорбленный — метафорой порабощенной патриархальным миром женщины? А может, чудовище — это метафора самих мужчин, которые убивают тех, кто подарил им жизнь? Или ограничиться авторской интерпретацией античного мифа о Прометее? Ведь этот великий титан, как и Виктор Франкенштейн, создал своими руками человека и обманул богов, за что был впоследствии наказан Зевсом.

Примечательно, что тем же холодным летом 1816 года Перси Шелли и Джордж Байрон написали своих «Прометеев». В отличие от молодой девушки, они восхваляли его, а не осуждали. Оба поэта следовали логике философского романтизма, культивируя образ художника-творца. Но прозорливее оказалась Мэри. Именно ее жуткая интерпретация современного Прометея закрепилась в будущем и повлияла на становление нового литературного жанра — научной фантастики. А патологические отношения ученого-творца к созданному им искусственному человеку — от любви и восхищения до ненависти и презрения — стали классическим нарративом об отношениях человека к созданным им роботам, андроидам и искусственному интеллекту в целом.


​​​​​​​​​​​​Глава вторая,в которой писатели боялись будущего

Федор Достоевский скептически относился к идее европейских левых о справедливом обществе, основанном на научных знаниях. «Устроить так человека, — писал он в "Дневнике писателя", — можно только страшным насилием и поставив над ним страшное шпионство и беспрерывный контроль самой деспотической власти». Пророчество Федора Михайловича, конечно же, исполнилось, но не в Европе, а в России. В октябре 1917 года к власти пришли большевики и погрузили бывшую империю в кровопролитный хаос красного террора, Гражданской войны и колониальных войн с бывшими имперскими владениями. Но либерально настроенные интеллектуалы Европы были уверены, что все самое худшее в России только впереди. Одним из таких интеллектуалов, настроенных враждебно к коммунизму (и к фашизму, и к любым другим радикальным социальным экспериментам), был чешский писатель и драматург Карел Чапек.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Случайно или нет, но пионерами научной фантастики часто были молодые писатели. Чапеку был 31 год, когда в январе 1921-го в пражском Национальном театре состоялась официальная премьера спектакля по его пьесе «Р. У. Р.», или «Россумские Универсальные Роботы». Россумы — это династия капиталистов, владеющих промышленной фабрикой по изготовлению человекоподобных роботов для удовлетворения нужд обычного человека. Главная задача роботов — освободить людей от физического труда. Эта цель будет достигнута: роботы занимаются всевозможным физическим трудом, пока человек купается в изобилии и наслаждается свободным временем. Но вскоре роботы объединяются для бунта, захватывают фабрику Россумов и истребляют людей.

Искусственный интеллект в литературе
«Правила жизни»

Чапек описал в своих произведениях много страхов человека первой половины ХХ века: от страха перед технологиями до страха перед восставшими массами. Талантливее всего он развил эту тему в эпической антиутопии «Война с саламандрами» (1936) — одном из лучших научно-фантастических романов в истории. По сюжету люди открывают небывало умных морских амфибий — саламандр, чей интеллект сопоставим с человеческим. Конечно, в первую очередь люди налаживают с саламандрами торговлю, помогают им с заселением малолюдных земель и используют их как подводную рабочую силу. Но вскоре саламандры перенимают наши идеи о справедливости, осваивают технологии, в том числе оружие, задумываются о своем унизительном положении в мире и при поддержке некоторых стран добиваются независимости. Их руководитель — популист, расист и диктатор Верховный саламандр, который, по мысли Чапека, был пародией на Адольфа Гитлера. Так между людьми и саламандрами развязывается война. Заканчивается роман знаменитым метафизическим эпилогом, в котором предсказывается новый круговорот жизни на земле.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Восставших масс боялся и сам Чапек. Его не покидал страх, что соотечественники тоже сотворят бесславную революцию и окажутся во власти безумного диктатора. Но вместо этого его страна была оккупирована иностранным диктатором: в марте 1939 года нацистская Германия полностью оккупировала территорию Чехословакии. Сам Чапек, последовательный антифашист, должен был быть арестован гестапо сразу после вторжения. Но когда нацисты пришли к нему домой, то узнали, к своему удивлению, что писатель умер от пневмонии еще в декабре 1938 года.

Глава третья, в которой люди придумали роботам законы

Большевиков боялись не только в Европе, но и в самой России. 3 февраля 1921 года в США прибыл корабль с мигрантами, и на его борту была семья русских евреев. Старшим ребенком в семье был мальчик по имени Айзек Азимов. Его родители говорили между собой на идише и английском, рано приучили своего сына к западному образу жизни, а также привили любовь к науке.

Айзек принадлежал к поколению американцев, которое почти не заметило Второй мировой войны. Он работал химиком на военной судоверфи, отслужил в армии меньше года, не покидая Штаты, и по окончании войны вернулся к академической карьере. В свободное время он занимался сочинением научной фантастики. Число написанных им книг переваливает за сотню, но остановимся на одной — сборнике рассказов «Я, робот» (1950). Девять рассказов посвящены отношениям людей и роботов. В них же выведены знаменитые три закона робототехники. Можно сказать, что эта книга — манифест научно-фантастического жанра.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
Искусственный интеллект в литературе
«Правила жизни»
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Тем не менее роботы в изложении Азимова, как когда-то чудовище Франкенштейна в романе Мэри Шелли, неминуемо вызывают у людей сначала восторг, а затем страх. Особенно когда они слишком напоминают человека или, не дай бог, претендуют на его привилегированное положение. Подобный нарратив можно интерпретировать как метафору Другого, когда общество маргинализирует какую-нибудь социальную группу: афроамериканцев, представителей сообществ ЛГБТ+, политических инакомыслящих. Так, почти все рассказы Азимова из этого сборника были написаны еще до принятия Закона о гражданских правах 1964 года, положившего конец общественной сегрегации и дискриминации при найме на работу.

К слову, сам Азимов в 1960-е находился под надзором ФБР — из-за высказанных вслух симпатий к научно-техническому прогрессу в СССР.

Глава четвертая, в которой не каждому дано мечтать об электроовцах

ФБР следили не только за Азимовым. «Маккартизм» породил слежку за всеми гражданами, симпатизировавшими коммунистам. В Голливуде даже составили «черный список» актеров, сценаристов и режиссеров с «неправильными» политическими взглядами. Нам это должно быть знакомо, правда? А тут еще новая война — теперь во Вьетнаме. Понадобилось двенадцать лет, чтобы американцы наконец устроили массовые протесты, которые увенчались 21 октября 1967 года «походом на Пентагон». Иллюзорное благополучие на фоне дебильной войны не могло не разозлить образованных, серьезных и не потерявший веру в будущее молодых людей. Май 1968-го стал их временем — временем революционных протестов.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Современником всех этих событий был американский писатель Филип Дик. Теоретик постмодернизма Фредрик Джеймисон называл его «Шекспиром научной фантастики»: ни один другой писатель не потратил так много сил, чтобы сделать этот жанр «взрослым». Взять хотя бы его знаменитый роман «Мечтают ли андроиды об электроовцах?» (1968) .

Искусственный интеллект в литературе
«Правила жизни»
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Дик описал альтернативную историю: мировая война опустошила Землю, большинство людей эмигрировали во внеземные колонии и у каждого человека имеется слуга-андроид. Но андроиды все чаще восстают против хозяев и сбегают на Землю, надеясь создать там свое государство. Поимкой бунтующих андроидов занимаются «охотники за головами», в том числе главный герой Рик Декард. Он вылавливает их на земле и определяет, андроиды они или люди, с помощью теста на эмпатию; если они проваливают тест, то Декард убивает их. Эмпатия определяется просто: например, андроиды никогда не будут мечтать о домашнем животном — источнике эмпатии для людей. Дело еще и в том, что на Земле практически не осталось животных и поэтому люди мечтают иметь настоящих домашних питомцев — это, помимо всего, подчеркивает их высокий социальный статус. Бедные, кстати, тоже обзаводятся животными — но, увы, не настоящими, а всего-навсего андроидами, репликами. Например, электроовцами.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Дик умудрился зайти так далеко, что голова идет кругом. В его романе отражены холодная война, угрожавшая миру ядерным уничтожением; антиколониальные восстания, поразившие западные империи в 1950‒1960-е годы; проблема общества потребления, описанная неомарксистами; редактирование генома, связанное с расшифровкой структуры ДНК в 1953-м; экологические проблемы, возникшие из-за последствий радиоактивных катастроф; дорогостоящие органические продукты, которые могут позволить себе лишь представители upper middle class и выше (то есть очень узкий круг людей); а также удовлетворение человеческих нужд — сексуальных, чувственных, да каких угодно — в виртуальной вселенной или благодаря высокоточным репликам. Вот кто пророчествовал безошибочно.

Глава пятая, в которой андроиды обрели Бога

Со второй половины ХХ века и вплоть до недавнего времени страны с демократической формой правления переживали сильный рост либеральных гуманитарных ценностей. Эта перемена сильно повлияла на содержание научно-фантастических романов. Если прежде Другой, будь то андроид или инопланетянин, подвергался преследованию, дискриминации или разного рода унижениям со стороны людей, то в современных романах андроиды все чаще гуманизируются, очеловечиваются. А в романе «Клара и Солнце» (2021) нобелевского лауреатаКадзуо Исигуро андроиды и вовсе становятся лучшими друзьями людей.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

По сюжету дети из привилегированных семей будут «форсированы» (генетически отредактированы) для улучшения умственных способностей. Но их школьное обучение будет проходить исключительно дистанционно, и родители, беспокоясь о социализации детей, начнут покупать им друзей-андроидов. Главным героем романа оказывается как раз такой андроид, по имени Клара.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
Искусственный интеллект в литературе
«Правила жизни»

Сначала она изучает мир через витрину магазина, в котором продается, а затем становится «подругой» для 14-летней девочки. По ходу романа Клара наблюдает, как ее хозяйка влюбляется в мальчика, лишенного «форсирования». Она сопереживает им, поддерживает их, когда им грустно, и прощает ошибки, которые, по ее мнению, будут судьбоносными. Клара развивается, учится сложным человеческим чувствам и достигает уникальной мудрости, воплощенной в одном нашем качестве — качестве, которым наделены многие персонажи литературной вселенной Исигуро, — самоотречении.

А главное, Исигуро не просто наделяет андроидов эмпатией, душой и даже мудростью. Он показывает в них зачатки веры. Так, Клара работает на солнечной батарее и воспринимает Солнце как божество. Ей кажется, что Оно везде присматривает за ней и всегда слышит ее молитвы. В конце концов она даже отдается во власть идеи, что Солнце заботится не только об андроидах, но и о людях.