3 главных этических вопроса, которые ставят перед человечеством новые технологии

Технический прогресс намного опережает прогресс социальный. Да и нащупать рамки «прогресса» в общественном сознании — дело куда более сложное, чем оценить важность изобретения интернета, искусственного интеллекта или VR. Мы выбрали несколько ключевых этических вопросов, которые ставит наука перед человечеством.

Отношение к аугментированным людям

popmech.ru
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Мир — место довольно несправедливое, и, несмотря на тысячи лет истории, человечество до сих пор не может избавиться от ксенофобии, религиозного экстремизма, дискриминации и культурных барьеров. Насколько же должны усилиться эти проблемы, если к существующим различиям прибавится искусственное расширение человеческих возможностей? Как мы будем относиться к киборгам?

Пока что люди с искусственными конечностями или вживленными чипами вызывают интерес и восхищение силой прогресса. Яркий пример — Найджел Экланд, простой британский рабочий с роботизированным протезом руки. Найджел колесит по миру, выступает с лекциями и обласкан публикой. С другой стороны, как только появляется малейшее превосходство над естественным строением организма, модификация тела начинает вызывать недовольство обычных людей.

Здесь тоже есть пример — Оскар Писториус, бегун из ЮАР. Ноги Оскара ампутированы ниже колен, но заменены высокотехнологичными протезами из углепластика за $30 000. И никого бы не смущала цена протезов, если бы не исследования профессора Герта-Петера Брюггемана. Он выяснил, что ноги южноафриканца дают тому преимущество перед соперниками. Подытожил свое исследование профессор фразой: «Вы еще приделайте ему электромотор!». И бегуна отстранили от соревнований. Конечно, потом выяснилось, что не такие уж преимущества однозначные, но факт был — Оскару давали небольшое преимущество искусственные ноги, и общественность была недовольна.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Но что случится, когда искусственные конечности уже точно станут совершеннее натуральных? Когда появятся люди, сменившие родные руки-ноги на киберпротезы не из-за несчастного случая? Самое очевидное, что приходит в голову — вселенная Deus Ex, а, в частности, части Human Revolution и Mankind Divided. В этом киберпанковом сеттинге люди с аугментациями подвергаются (по вполне обоснованным причинам) осуждению и остракизму, а в итоге все выливается в полноценный апартеид.

Насколько это может быть близко к реальности? Казалось бы, люди склонны с подозрением относиться к технологиям, всерьез меняющим уклад жизни. Но в качестве противоположного примера можно привести автономные автомобили — несмотря на два смертельных ДТП и несколько не летальных, люди продолжают смотреть с оптимизмом на беспилотный транспорт: согласно опросу компании Ford, 61% взрослого населения Земли ждет появления беспилотников на дорогах.

Так что, вполне вероятно, нас все-таки ждет не бесконечно мрачный киберпанк, а светлое будущее, где увечья — больше не проблема. И где при желании вы можете стать быстрее-выше-сильнее любого, даже самого тренированного спортсмена. А главное — где общество принимает модифицированных людей.

Свобода искусственного интеллекта

Илон Маск
Илон Маск
popmech.ru
РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Еще недавно фраза «восстание машин» была разве что напоминанием о начале Терминатора. Сейчас виднейшие умы современности, вроде Джеймса Баррата и Илона Маска, всерьез опасаются того, что может принести нам ИИ. А последний деятель так и вовсе назвал искусственный интеллект «самым большим риском, с которым мы сталкиваемся как цивилизация».

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Почему так? Ключевое слово в «ИИ» — не «искусственный», а «интеллект». Человек привык быть единственным существом на планете, обладающим развитым абстрактным мышлением, способностью к анализу и фантазией. И возможность создать нечто, мыслящее более совершенно, чем сам человек, прямо иллюстрирует эффект «зловещей долины». Когда нечто ведет себе подобно человеку (но не в точности как он), то вызывает у наблюдателя отвращение. А изобретать что-то, что вызывает отвращение — глупо, так?

Избежать «зловещей долины» можно было бы, введя некоторые правила и ограничения для ИИ — чтобы искусственный собеседник без проблем мог пройти тест Тьюринга. Это, фактически, уже возможно — Microsoft разработали программу, чей машинный перевод китайского текста практически неотличим от человеческого. Но тогда возникает другая проблема.

Если вернуться к товарищу Маску — его предостережение на самом деле звучит чуть длиннее. Изобретатель переживает, что роботы в состоянии развязать войну, выпуская фейковые новости, факты и пресс-релизы, и делая это в десятки раз лучше людей. И в этом свете анонсированный им сайт Pravda, позволяющий отделить ложь от истины, выглядит закономерно.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Что мы получаем в итоге? Либо пугающий ИИ, превосходящий человека во всем, либо робота, тщательно мимикрирующего под своих создателей. И тем самым стирая грань между машинным интеллектом и естественным.

Рискнем предположить: скорее всего, со временем разработки в сфере ИИ будут отрегулированы. С определением степени свободы, доступной машине. Что сделает из искусственного интеллекта всего лишь очередной очень умный компьютер. Но никак не совершенный разум со свободой воли.

Иначе нас, вероятно, ждет ситуация «я тебя породил, я тебя и убью». Или противоположный сюжетный поворот.

Использование персональных данных

Список покупок с кредитной карты, медицинские анализы в единой базе данных, ID, страницы в соцсетях и история поисковика — даже про самого подозрительного интроверта найдется множество занятных фактов, если иметь соответствующий доступ к данным.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Все, что собирает о нас информацию, служит для того, чтобы облегчить жизнь. Мы не сторонники теорий заговора, но вполне можем представить этическую дилемму в ближайшем будущем. А, пожалуй, даже обсудить реальную проблему. Ее реальность подтверждает, например, бывший работник Google, специалист по Big Data — Сет Стивенс-Давидовиц, написавший целую книгу о том, как люди доверяют строке поиска самые темные секреты.

Какие данные о человеке и как можно использовать ради спокойствия и удобства? И может ли кто-то определять за личность, что есть спокойствие и удобство?

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Казалось бы, однозначный ответ — нет. Антиутопии рисуют нам пугающий мир, где человек может быть выброшен из общества только из-за немного девиантного поведения. На эту тему будто бы высказалось вообще все — от литературы (почти любая классическая дистопия) до сериалов («Черное зеркало») и даже аниме (Psycho-Pass). Но ключевые черты любого подобного произведения — то условие, что главного героя что-то выбрасывает из типичного ритма жизни, и он становится врагом народа.

Без расстановки негативных акцентов система предотвращения преступлений, вроде Person of Interest, перестает быть тоталитарным кошмаром и превращается в действительно полезное изобретение. Ведь возможность стать жертвой преступления звучит куда страшнее потери конфиденциальности.

Впрочем, известная фраза Бенджамина Франклина гласит: «Кто жертвует свободой ради спокойствия, не достоин ни того, ни другого». Соглашаться ли с ним — личное дело каждого. Отметим только, что в XVIII веке Бен и представить не мог, насколько большие могут быть жертвы и насколько тотальным может быть контроль. И спокойствие, возможно, тоже.