Страшное сияние совершенного разума: почему мы боимся искусственного интеллекта и как преодолеть страх?

Искусственный интеллект дает человечеству колоссальные возможности и одновременно большие риски. Мы радуемся онлайн-переводчикам, общительным чат-ботам, ладно рисующим нейросетям, роботам-пылесосам и вообще всему, что облегчает жизнь (не говоря уже о научных достижениях). Но вместе с тем как будто опасаемся, что скоро ИИ вытеснит из этой жизни нас самих. Откуда взялся этот страх и насколько он оправдан? Давайте разбираться.

Исследования искусственного интеллекта в современном смысле (то есть как компьютерной программы, способной выполнять различные задачи и обучаться) начались в 1930-х годах. В 1927 году компания Westinghouse Electric Company выпустила одного из первых роботов — мистера Телевокса. Он был запрограммирован отвечать на звонки и выполнять простые команды. Например, можно было позвонить домой и уточнить у Телевокса, выключен ли в квартире свет, или попросить разогреть в духовке ужин (робот включал ее дистанционно).

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

В 1956 году прошел Дартмутский научный фестиваль, на котором впервые прозвучал термин «искусственный интеллект». С этого фестиваля начинается золотой век ИИ, искусственный интеллект становится официальным направлением науки. Появляется множество роботов с искусственным интеллектом, отлично решающих узкий набор задач, но вычислительных мощностей для создания более универсальных машин не хватает.

Мэр Нью-Йорка Джимми Уолкер и Телевокс
Мэр Нью-Йорка Джимми Уолкер и Телевокс
Getty Images

Количество роботов — от пылесоса до умного чайника, — использовавшихся в бытовой жизни, росло, исследователи строили прогнозы дальнейшего внедрения технологий в жизнь. В 1965 году Ирвинг Гуд в работе «Размышления о первой ультраразумной машине» сформулировал принцип технологической сингулярности, или взрыва интеллекта, согласно которому искусственный сверхинтеллект сможет создавать все более и более совершенные машины в очень короткие сроки и люди перестанут успевать за техническим прогрессом, чем вызвал большую дискуссию в обществе. Как и любой новый виток развития социальной сферы, это повлекло за собой этические вопросы. Безопасно ли взаимодействие с машинами? Где границы взаимодействия и кто контролирует роботов?

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
Айзек Азимов, «Я, робот», 1950 год
Getty Images

Одно из самых известных решений проблемы предложил писатель-фантаст Айзек Азимов. В книге «Я, робот» он изложил несколько историй, которые описывали гипотетические преимущества и возможности искусственного интеллекта, а также разработал три закона робототехники, которые знакомы многим:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
  3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит первому и второму законам.

Но, как мы понимаем много лет спустя, постулаты, во-первых, так и остались фантастикой, во-вторых, стали почвой для будущих сомнений, опасений и пугающих сценариев.

Как люди стали бояться ИИ?

«Искусственный интеллект» — красивая метафора, смысл которой выходит далеко за пределы объекта, который она описывает. В 1990-х годах настоящим прорывом стали нейросети. Они умели собирать данные, формировать опыт, анализировать полученную информацию и делать из нее выводы, чем занимаются и по сей день, только на значительно больших скоростях. Необходимость использовать словосочетание «искусственный интеллект» фактически отпала, потому что для современных технологий есть более точные и менее вызывающие определения. Как говорил сам автор термина Джон Маккарти, «стоит системе нормально начать работать, как ее сразу перестают называть искусственным интеллектом».

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Человеку свойственно опасаться нового — в этом суть закона выживания. Искусственный интеллект провоцирует защитную реакцию у большинства, так как неизвестность — главное, что пугает в технологическом прогрессе. Многие люди не понимают, как работает искусственный интеллект и какие у его работы могут быть последствия. А еще опасаются, что искусственный интеллект заменит их на работе, потому что быстрее, эффективнее будет справляться с задачами.

«Терминатор» (1984)
«Терминатор» (1984)
Legion-Media

За этот страх по большей части ответственна культура. Искусственный интеллект в фильмах, книгах и медиа часто изображается в форме злого гения, который хочет уничтожить человечество. Вместе с тем существует множество сюжетов взаимодействия человека с технологией: от самореализации через робота (как, например, в фильме «Живая сталь») до полного подавления человеческой воли машиной (фильм «Апгрейд»), от использования технологий во благо (например, виртуальная ассистентка Железного человека — Пятница) до захвата мира разумными машинами (серия фильмов «Терминатор» или трилогия «Матрица»). Умные машины появились в фантастических произведениях задолго до реальности. Например, слово «робот» впервые употребил чешский писатель Карел Чапек в пьесе 1920 года R.U.R. (сокращение от чешского названия вымышленной фирмы Rossumovi univerzální roboti, «Россумские универсальные роботы»). Его роботы по описанию сразу были близки к современному пониманию андроидов.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Вот и сегодня люди воображают искусственный интеллект практически как живой организм, способный если не заменить человека, то вызвать чувства, как в фильме «Она» (а реальные технологии, такие как Siri, Алиса или чат-бот любого банка, уже и не воспринимаются как ИИ). На самом деле машины, насколько бы продвинутыми ни были, не обладают нервной системой, и даже абсолютно точная эмуляция человеческого мозга в электронном варианте не может заставить робота чувствовать и испытывать эмпатию.

Карел Чапек, пьеса R.U.R, 1920
Карел Чапек, пьеса R.U.R, 1920
Legion-Media

Журналисты также искажают образ нейросетей и искусственного интеллекта. Вместо того чтобы просвещать читателей и показывать, как эффективно использовать нейросеть в бытовой жизни, они занимаются поисками нетолерантности и неэтичности в поведении ChatGPT. Сможет ли он написать слово на n? При каких обстоятельствах он оскорбит пользователя? Можно ли вывести его на конфликт? Сколько гендеров существует, по мнению нейросети? Репутацию и суть технологии эти вопросы явно размывают.

Конечно, суть ее в художественных произведениях и в реальности разная: в первом случае искусственный интеллект помогает выразить авторскую идею и участвует в развитии драматургического конфликта, во втором — служит чисто утилитарным целям.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Можно ли изменить отношение к искусственному интеллекту?

Несмотря на распространенный страх, некоторые фильмы, произведения и люди все-таки поддерживают положительную репутацию нейросетей.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

В фильме 1990 года «Вспомнить все» ИИ помогает главному герою расследовать преступления на Марсе, а в серии компьютерных игр Мass effect без ИИ не победить внеземных угроз — на него вся надежда. В популярном научно-фантастическом сериале «Черное зеркало», посвященном влиянию технологий на нашу жизнь, искусственный интеллект порой также представлен положительным персонажем. Например, в одной из серий он помогает людям найти идеального партнера для жизни. Утопический тиндер будущего.

«Вспомнить все» (1990)
«Вспомнить все» (1990)
Legion-Media

Искусственный интеллект часто упоминается в гендерных исследованиях. Одна из самых известных феминисток прошлого века Донна Хэрэуй вообще считала, что киборгизация поможет преодолеть бинарность, в том числе четкое деление общества на два гендера со всеми вытекающими проблемами и стереотипами. Так, киборг становился новой единицей общества, которая не подчинялась правилам, сложившимся за многие века. Сегодня правозащитники идут дальше: некоммерческая организация Сyborg Foundation поднимает вопросы людей, которых уже сегодня можно назвать киборгами (ее сооснователь художник Нил Харбиссон называет себя первым киборгом в мире, поскольку вживил себе в череп специальную антенну, преобразующую световые волны в звук).

Должна ли у них быть лицензия на использование технологии, свой международный закон? Как должна выглядеть страховка киборга? Кто будет защищать гражданские свободы и неприкосновенность тел киборгов?

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Большой вклад в популяризацию тезиса «технология — лучший друг человека» внес Стивен Хокинг: известный физик и космолог публично выступал в пользу исследований и развития искусственного интеллекта. Хокинг считал, что при правильном использовании ИИ может помочь людям решить многие глобальные проблемы, а личным примером показывал, что тяжелый недуг перестает быть препятствием к активной научной и публичной деятельности в тот момент, когда ты впускаешь технологию не только в свою жизнь, но и в организм.

Именно эту идею проповедуют трансгуманисты: по их мнению, главная задача человека — улучшить качество собственной жизни, преодолеть болезни и смерть, а лучшими помощниками в этом процессе должны быть технологии. Киборгизация, регенеративная медицина, различные цифровые практики: виртуальная реальность, метавселенные — все это должно сделать человека счастливым. С одной стороны, звучит вызывающе, с другой — технологии давно упрощают нашу жизнь, а мы уже этого не замечаем. Например, носители так называемой цифровой грамотности имеют явное преимущество перед теми, кто эффективность технологий даже на самом простом, бытовом уровне отрицает.

Антропоморфный робот Электро на нимке Фрэнка Навары из павильона Westinghouse на Всемирной выставке в Нью-Йорке в 1939 году;
Антропоморфный робот Электро на нимке Фрэнка Навары из павильона Westinghouse на Всемирной выставке в Нью-Йорке в 1939 году;
Marco Covi/Electa/Mondadori Portfolio
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Существует и более радикальный подход — постгуманизм. Эта философия опирается на соображение, что человек достиг пика своей эволюции в дарвиновском понимании и, чтобы выйти на следующий уровень, нужно не просто применить продукт его интеллектуальной деятельности, а непосредственно внедрить его в жизнь — например, вживить чип в мозг, чтобы усовершенствовать зрение или слух. Сюда же можно отнести биохакинг — улучшение показателей здоровья с помощью медикаментов, правильного образа жизни и, конечно, технологий, например чипов, считывающих показатели давления, температуры и уровня сахара в крови. Не лечение болезней, а именно апгрейд тела и собственных возможностей. Быстрее, выше, сильнее.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Оба течения в основном теоретические, но три основные идеи трансгуманизма кажутся любопытными. Первая — это супердолгожительство. Убеждение в том, что жизнь конечна, а тем более ограничена условным веком, — это культурный стереотип, который заставляет человека распределять события внутри отведенного ему срока: выйти замуж до 25 лет, до 30 — родить, до 45 — добиться определенных успехов в работе. А если представить, что жизнь — это 200, а то и 250 лет? Как изменится наше отношение к течению времени? К собственному здоровью и биологическому возрасту? Что, если не торопить события, попробовать успеть больше и подстроить под это образ жизни?

Повышение уровня жизни за счет снижения стресса — другая задача трансчеловека. И разве мы не занимаемся этим сегодня, когда принимаем лекарства или осваиваем практики, которые помогают снизить тревожность, победить депрессию? Стресс стал главной хандрой XXI века, первоисточником других проблем и даже болезней. Высокий уровень жизни — это не только материальные блага и доступ к ним, это в первую очередь гармония с самим собой, и на этом предлагают фокусироваться апологеты трансгуманизма.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Но ключевой их тезис в следующем: человек должен соединить способности своего мозга и технологии — в первую очередь различные продукты с нейросетями. Звучное название этого постулата «Сверхискусственный интеллект» отсылает и к сверхчеловеку Ницше, и к метафоре ИИ, который выходит на новый уровень, соприкоснувшись с человеческим мозгом. Звучит провокационно. На самом деле некоторые функции мозга мы давно делегируем нейросетям: память, работу органов чувств, биологические часы. Встаем по будильнику, доверяем маршруту, предложенному навигатором, и вряд ли его повторим, не тратим время на то, чтобы вспомнить имя актера. Нейросеть помогает отказаться от выполнения каких-то дел в принципе, изменить набор потребностей, сократить время выполнения заданий, успеть сделать важное.

«Матрица» (1999)
«Матрица» (1999)
Legion-Media
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Теоретически достичь сверхинтеллекта можно, объединив возможности человеческого мозга и компьютера. Специальные импланты могли бы стимулировать работу мозга, позволили бы выходить в интернет, взаимодействовать с компьютерами или другими носителями имплантов. Сегодня подобные технологии используются только в медицинских целях. Например, ученые Стенфордского университета разработали импланты, которые с помощью электрических импульсов могут стимулировать отдельные участки мозга и таким образом помогать в борьбе с депрессией или болезнью Паркинсона.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Все это — утопические разработки, которые могут вдохновлять или заставить задуматься об улучшении жизни. В борьбе со страхом ИИ нужно с чего-то начинать. И первый совет, который в один голос дают те, кто непосредственно работает с нейросетями, — перестать называть технологию искусственным интеллектом. Интеллект — главное отличие человека от животного — остается его главным преимуществом, и конкурентов ему на горизонте пока нет.