T

Главные страхи человечества

Страх второй

искусственный ИНТЕЛЛЕКТ

Иллюстратор Олег Буевский

Человек начал бояться восстания роботов еще до того, как научился их создавать. Страх перед разумной машиной стал одним из главных сюжетов научной фантастики XX века. Теперь нас повсеместно окружают роботы, но восстание машин откладывается на неопределенный срок.

«Я твой слуга, я твой работник», – пела культовая группа Kraftwerk в 1978-м. Одинаковые красные рубашки, застывшие лица, замедленные движения – трудно сказать, чего в клипе на песню Die Roboter больше – ужаса перед механическими существами или восхищения их неизбежным совершенством.

В 1921 году на сцене пражского театра была впервые сыграна пьеса Карела Чапека «Россумские универсальные роботы» об искусственных существах, которые отказались подчиняться человеку. Так появился новый термин, пожалуй, один из самых важных для описания развития высоких технологий. К слову, придумал его не автор пьесы, а его брат Йозеф.

В эпоху между двумя мировыми войнами роботы стали символом мира будущего. Он представлялся таким, каким был показан в культовом «Метрополисе» Фрица Ланга: уходящие ввысь небоскребы, летающие машины и, конечно же, роботы. Андроид с женской внешностью – один из главных героев этого фантастического фильма и первый Терминатор в истории кино. Чтобы подавить зреющее восстание, городские власти придают роботу облик Марии, лидера недовольных рабочих. По мере развития событий женщина-робот уничтожает часть мегаполиса и доводит до безумия толпы его жителей.

Придуманные Чапеком и Лангом сюжеты будут появляться в книгах, фильмах, а потом и в видеоиграх. Будет считаться, что машины сначала заменят людей на рабочем месте, а затем и вовсе истребят или поработят весь человеческий род. В роботах пугала даже не столько попытка неживого подражать живому, сколько сама мысль о том, что они будут рассуждать самостоятельно, оказавшись при этом умнее нас, и придут в конце концов к выводу, что люди совершенно бесполезны, то есть подтвердят подозрение, и так терзавшее человека с тех пор, как он научился мыслить сам.

Страх становился все более ощутим по мере того, как шла уже не выдуманная, а реальная автоматизация и роботизация в развитых странах. Во второй половине прошлого века на больших заводах появились автоматические конвейеры – шурупы и гайки теперь закручивали не живые люди, а самые настоящие автоматоны. В 1954 году появляются первые электронные манипуляторы, напоминающие гигантские механические руки. Алгоритмы управления для них создал «дедушка робототехники» Джордж Девол: задачи роботам ставились с помощью команд, нанесенных на перфокарты – бумажные «флешки» того времени. Постепенно промышленные роботы появились во всех отраслях. В авангарде железного наступления находилась Япония – еще полвека назад она вышла на первое место по количеству ежегодно выпускаемых роботов.

К началу 1980-х тема разумных машин тесно переплелась со стремительно развивающейся компьютерной индустрией. Казалось, именно она даст роботам полноценный интеллект, поставив наконец машины вровень с людьми. Инженеры и ученые были уверены: создание полноценного искусственного интеллекта – дело времени.

«Бегущий по лезвию» (1982) и «Тер­минатор» (1984), создававшиеся как обычные голливудские блокбастеры, неожиданно стали классикой нового времени – не в последнюю очередь потому, что оба этих фильма были построены на страхе перед роботами.

В «Терминаторе» роботы – нечто враждебное и чужое людям, хотя и имеющее похожую форму. У них нет свободы воли – они механизмы, которые полностью зависят от своей программы. Во второй части главного злодея удается перепрограммировать, и он начинает защищать героев с тем же рвением, с каким раньше преследовал, и даже учится подражать человеческим жестам и реакциям, но все же не становится человеком. «Бегущий по лезвию» предлагает поверить в совсем другой тип человеко-машин. Они сделаны из биоматериалов и почти неотличимы от настоящих людей, которые превратили их в рабов и используют для самых опасных работ, войны и секса. Андроиды не стремятся к власти или уничтожению человеческой расы, они мечтают только о свободе. В фильме такая ситуация названа «рабством ангелов» – словно они уже не штампуемые на заводе устройства, а сверхъестественные создания, вызванные к жизни «колдовством» ученых. Более того, они искренне верят в свою человечность, пока их истинная натура не выявляется охотником на андроидов с помощью особого теста – именно охотники выглядят куда большими злодеями, чем пытающиеся скрыться от них беглецы. 

Андроиды не стремятся к власти или уничтожению человеческой расы. 

Они уже не штампуемые на заводе устройства, а сверхъестественные создания, вызванные к жизни «колдовством» ученых. Более того, они искренне верят в свою человечность

Железные киллеры или новый вид разумной жизни – два этих представления о роботах до сих пор соревнуются в массовой культуре. Хотя второй вариант встречается чаще: андроиды отстаивают свои права в таких популярных тайтлах, как игра Detroit: Become Human и сериале «Мир Дикого Запада», и по мере того как политическая и культурная инклюзивность входит в моду, делают это все успешнее.

В «Мире Дикого Запада» критика антропоцентризма выходит на новый уровень: в специальных парках развлечений клиенты насилуют, пытают и убивают «актеров»-андроидов, пока некоторые из них не обретают свободную волю и не начинают мстить своим мучителям самым жестоким образом. Андроиды в этом сюжете встают в один ряд с сексуальными и этническими меньшинствами, и нет сомнений, что активисты однажды согласятся добавить на и без того пестрый флаг социального прогрессивизма еще одну полосу – на этот раз серо-стального цвета.

Правы ли покойный физик Стивен Хокинг и эксцентричный миллиардер Илон Маск, неоднократно называвшие мыслящие машины одной из главных угроз человечеству?

Сегодня роботы не только собирают на конвейерах самую сложную технику, участвуют в хирургических операциях, управляют пассажирскими лайнерами и беспилотными такси – первая в истории картина кисти нейросети, попавшая на аукцион Christie’s, была продана за $432 тыс., а условно человекоподобные (и собакоподобные) роботы компании Boston Dynamics на рекламных видео танцуют и занимаются паркуром. Получается, машины способны выполнять не только механическую, но и творческую работу и, таким образом, способны заменить людей во всех сферах жизни?

Теперь нас окружают роботы, но восстание машин откладывается на неопределенный срок. Оказалось, что создать искуственный разум так же тяжело, как понять естественный. 

Вероятно, нет. Танцы и картины роботов, конечно, вызывают интерес у публики, но как курьез. Виртуальные музыканты вряд ли смогут добиться такой же популярности, как настоящие звезды шоу-бизнеса с их скандалами, рехабами, разводами и запутанными отношениями. Людям нужны люди, и при помощи роботов тоже творит человек – только опосредованно.

Что до таких работ, как курьер, продавец или водитель, то они действительно в скором времени могут достаться специально обученным машинам. Но и здесь почвы для антиутопических прогнозов нет: история робототехники (да и вообще новых технологий) доказывает, что их внедрение обычно меняет положение в любой отрасли к лучшему. Рабочие, раньше стоявшие у раскаленных печей и тяжелых прессов, не потеряют работу – они получат более легкую и высокооплачиваемую, став менеджерами и операторами.

Остается еще один вопрос – могут ли машины взбунтоваться? По сценарию «Терминатора», коварный «Скайнет» должен был начать войну против человечества в августе 1997 года, но полноценный искусственный интеллект не создан до сих пор. В 1950 году британский математик Алан Тьюринг на страницах философского журнала Mind предложил тест, успешное прохождение которого позволило бы считать машину мыслящей и разумной: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы – ввести человека в заблуждение, заставив сделать неверный выбор». Сегодняшние нейросети вполне способны ввести в заблуждение человека – по некоторым оценкам, до половины контента в современном интернете уже генерируют боты, а не люди. При этом нейросети по-прежнему остаются только набором алгоритмов, которые можно научить подражать людям, но нельзя научить мечтать о власти или свободе. Чтобы сделать машину разумной, ученым сначала придется понять, что именно делает разумным человека, – а на этот счет есть очень разные мнения. К сожалению или к счастью, механическая Галатея пока не в состоянии ожить без вмешательства богов. 

{"width":320,"column_width":36,"columns_n":6,"gutter":20,"line":20}
default
true
320
762
false
false
false
[object Object]
{"mode":"page","transition_type":"slide","transition_direction":"horizontal","transition_look":"belt","slides_form":{}}
{"css":".editor {font-family: EsqDiadema; font-size: 19px; font-weight: 400; line-height: 26px;}"}