Веди себя по-человечески: разбираемся в вопросах этичности искусственного интеллекта
Веди себя по-человечески:
разбираемся в вопросах этичности ИИ
Правила жизни и директор по технологиям искусственного интеллекта «Тинькофф» Павел Калайдин разбираются в вопросах этичности искусственного интеллекта на примере романа Кадзуо Исигуро «Клара и Солнце».
Проблематика романа «Клара и Солнце»
В недалеком будущем некоторым подросткам необходим искусственный друг или искусственная подруга на время обучения в средней и старшей школе. Андроид Клара становится такой подругой для девочки Джози, которая очень нездорова — неизвестно даже, сможет ли она окончить школу. Кларе вместе с Джози предстоит пройти полный испытаний путь и исполнить свое предназначение.
Кажется ужасно несправедливым, что Клара вынуждена находиться в эксплуатируемом положении, однако она не уступает людям в том, что мы обыкновенно считаем главным, — в человечности.
Почему роман не стоит читать как фантастическое высказывание о будущем, можете прочитать в нашей предыдущей статье.
Правила жизни: Начнем с прямого вопроса: о чем роман? Какая тут главная мысль?
Павел: Я думаю, роман описывает неизбежный процесс: роботы будут становиться еще более человечными, а люди — роботизированными. Отрицать это бесполезно, бояться — тем более. Сейчас важно думать, как с этим переходом жить и не потерять в процессе все, что мы ценим и любим.
E.: То есть события в романе близки к реальности? Это будущее, которое уже наступило?
П.: Не совсем. Клара и ее навыки — это пока далекое будущее. Такой функционал и целеполагание, как у нее, пока недоступны существующим роботам. Мы в начале пути: подтверждение этому — компании, которые разрабатывают роботов-компаньонов. В том числе — «Тинькофф». Например, наш голосовой помощник Олег выполняет роль финансового ассистента в мобильном приложении и защитника от спамеров и мошенников одновременно. Можно сказать, что Олег — это Клара на ранней стадии развития.
E.: А зачем вообще нужен Олег? Это единственный представитель искусственного интеллекта в «Тинькофф»?
П.: Олег экономит время клиентов. Ему можно отдать рутинные задачи: например, он умеет говорить со спамерами, не отвлекая владельца телефона, или переводить деньги по голосовой команде. Олег — часть нашей глобальной стратегии AI-first. Она заключается в том, чтобы непрерывно создавать собственные алгоритмы машинного обучения и внедрять их во все процессы и сервисы экосистемы — от кешбэка до сторис в мобильном приложении.
Глобально суть стратегии AI-first можно сравнить с предназначением Клары, главной героини романа, о котором мы сейчас говорим. Мы оптимизируем бизнес-цели компании, Клара делает то же самое — делает жизнь девочки-подростка Джози проще и эффективней.
Повторюсь, создать Клару как в романе пока невозможно. Но мы этому учимся, и учимся в том числе в игре. Например, недавно научили искусственный интеллект сочинять стихи. Так появился проект «AI да Пушкин»: вы вводите первую строчку, а ИИ сочиняет для вас эксклюзивное четверостишие. Попробуйте поиграть с нейросетью.
E.: Кажется, таким образом мы подошли к одному из самых интересных и сложных вопросов, которые возникают во время прочтения романа. Правильно ли будет сказать, что Клара, как и любой робот, — это просто опция, или все-таки она разумна? По тексту мы видим, что она более наблюдательна и рассудительна, чем другие андроиды
П.: Да, говорить, что роботы разумны, корректно. Насколько — зависит от целей и настроек, которые закладывает в них человек. Максимально разумные роботы могут придумывать себе задачи самостоятельно. Клара в романе поступает именно так: чтобы выполнить свою главную цель и помочь Джози, она придумала себе задачу — уничтожить машины, загрязняющие воздух. Но все-таки за разум робота отвечает человек. Если он задаст ему цель обучаться — робот станет еще более разумным и прокачанным.
E.: То есть все поступки Клары и роботов в общем лежат в области разума, а не чувств? В романе Клара кажется крайне эмпатичной: она умеет сопереживать, поддерживать.
П.: С точки зрения технологий все ее действия обусловлены конкретными целями — помочь девочке-подростку. Чувства — проявления этих целей. Но эмпатичность может быть задана роботу только в качестве задачи. Другой вопрос, что продвинутый робот может сам придумывать подходы и неочевидные решения для выполнения задач. Например, самоуправляемый вертолет, который научился летать вверх ногами. Клара тоже очень изобретательна: можно вспомнить хотя бы сцену с извлечением масла из очистительной машины или прогулками в поле в ожидании рассвета и прихода Солнца.
E.: Получается, эмпатичность искусственного интеллекта полностью зависит от его создателя? И тогда все эти понятия типа самопожертвования, чувства вины или, наоборот, агрессии — ответственность человека?
П.: Да. Природная эмпатичность роботов — это миф. Совесть и другие сложные человеческие понятия наследуются роботами от их создателей. А вот этичность технологий — вполне реальный и вызывающий много споров вопрос. Чтобы не уйти в дебри, приведу конкретный пример. В соцсети для инвесторов «Пульс» (она есть в приложении «Тинькофф Инвестиции») есть комментарии пользователей. Трейдеры обсуждают стоимость акций, стратегии инвестирования, новости компаний и прочие нюансы фондового рынка. Для нас очень важно, чтобы в этом коммуникационном потоке была живая энергия и конструктив. Чтобы сохранить эту здоровую уважительную атмосферу, мы модерируем сеть с помощью алгоритмов искусственного интеллекта — следим, чтобы участники не использовали обсценную лексику, не оскорбляли друг друга. Модерируя комментарии, мы убираем вполне определенный хейт. Его сложно определять, но кому-то это нужно делать. Кто определяет правила? Мы можем сделать автоматическую модель на размеченных данных, но если не приложим достаточных усилий, то модель будет определенно ошибаться, и мы можем выпиливать совершенно обычные посты.
E.: Если искусственный интеллект разумный, но эмпатичность не является его естественной опцией, то почему в романе Клара выглядит более человечной, чем остальные персонажи, хотя у них есть сердце, наличие которого, по мнению отца Джози, и отличает ИИ от людей?
П.: Мне кажется, что нас подталкивают так думать, но на самом деле Клара не человечней всех остальных. У других героев намного сложнее бэкграунд, пейзаж эмоций намного разнообразнее, они принимают решения дольше. И от этой скорости реакции кажется, что они недостаточно вовлеченные, человечные. А Клара — робот, который строго ориентирован и идет к своей цели, поэтому делает все быстро и четко. Отсюда есть ощущение, что она лучше понимает, как надо и правильно действовать. Но если цель четко поставлена, это еще не значит, что она верна.
E.: Кстати, в романе есть один довольно масштабный этический вопрос — можно ли «форсировать», редактировать человека, делать его копию? Напомню, что Клару готовили заменить девочку Джози после ее смерти. Что думаешь?
П.: Ты хочешь спросить, имеет ли технология право на такое вмешательство? Это трудный вопрос. С точки зрения технологий сложность в копировании девочки-подростка заключается еще и в том, что ее уникальность разложена по разным людям. Клара не может собрать все эти представления о ней от разных людей. Роботы не могут полностью заменить человека, но смогут заменять отдельные органы. Я, например, верю, что в будущем появятся импланты сердца. И вот тогда появится другой интересный вопрос: в какой момент ты начнешь ощущать, что ты наполовину робот? Как вот тут определить, человек ты еще или нет? Думаю, тоже с помощью технологий.
E.: Какими еще навыками сможет обладать искусственный интеллект в будущем? Например, Клара в романе обладает высокими языковыми способностями и ассоциативным мышлением. Ее описания природы великолепны. Кажется, сами люди не настолько могут понять и объяснить самих себя, как это может сделать Клара. Это приобретенный навык? Может ли в действительности робот самообучаться?
П.: Модели уже сейчас обучаются на гигантских объемах информации, которую накопили люди. Те же описания природы могут быть довольно сложными: это опыт людей, который мы переиспользуем. Сможет ли модель описать вещи, которые никогда не видела? Сможет ли найти связи между событиями? Сможет ли рассуждать и делать выводы? Все эти вопросы открытые. Но я согласен с мнением о том, что прорыв в ИИ будет связан именно с развитием методов самообучения. Сейчас уже есть такие подходы, но их, конечно, нужно улучшать.
Роботы будут становиться еще более человечными, а люди — роботизированными.
E.: Почему вообще возникла такая история, где главным героем романа становится искусственный интеллект, почему эта история так захватывает и люди ее с удовольствием читают?
П.: Причина как раз в новой призме. Люди начинают искать новый фокус, свое отношение к роботам и даже готовы поставить себя на место ИИ, отождествить себя с ним. Это любопытно — попробовать мыслить не как человек, не как ты привык, а с нового ракурса. Кстати, было бы интересно прочитать роман, полностью написанный роботом. Я такого еще не читал, хотя эксперименты, уверен, ведутся.
Ну и, конечно, отдельный интерес представляют вопросы этики. И тут важно понимать, что, развивая робота, мы позиционируем его не как замену человеку, а как помощника того же оператора кол-центра. Робот отвечает на простые вопросы, которых много, тем самым оставляя человеку время на то, что он умеет лучше всего — решать сложные задачки. Со временем это будет меняться дальше, но роль человека все равно будет важна, возможно, уже в роли такого администратора для роботов (как, например, администратор в магазине книг).
E.: В романе «Клара и Солнце» у героев довольно посредственное представление о технических и когнитивных способностях Клары. Людей не интересуют подробности. Однако в какой-то момент мы узнаем, что в обществе по отношению к андроидам существует предубеждение и роботы начинают терять популярность. Некоторые люди готовы пожертвовать ими, разобрав их по частям, чтобы все-таки понять эти принципы. Сама Клара почти попадает «под нож». Почему же люди так боятся ИИ? И чего нам на самом деле ожидать в будущем?
П.: Если думать, что ИИ слишком плотно войдет в нашу жизнь и начнет влиять на нее, то от неизвестности становится страшно. Но на самом деле все не так. Это мы пойдем к ИИ, в виртуальную реальность. Точнее, мы уже там. Глупо это отрицать, когда уже почти у всех есть виртуальные друзья в Facebook, робот-пылесос или умная колонка. Задача ИИ — помогать человеку: автоматизировать и оптимизировать процессы. Например, круто видеть, как с помощью алгоритмов улучшается работа многотысячного кол-центра. В «Тинькофф» мы используем платформу речевой аналитики и контроля качества Tinkoff Quality Management (TQM). Этот сервис среди прочего умеет автоматически распознавать негатив в общении между оператором и клиентом и улавливать интонации разговора. Например, может определить сарказм, когда клиент говорит «спасибо». TQM улучшает качество обслуживания и помогает бизнесу — экономит компании 10 млн рублей в месяц. Чтобы усовершенствовать это взаимодействие между роботами и человеком, нужно создавать AI-технологии максимально бесшовно. К чему мы в «Тинькофф» и стремимся.