Разработчик Google заявил, что у чат-бота с искусственным интеллектом есть признаки сознания. Его отстранили от работы
Компания Google отправила инженера по программному обеспечению Блейка Леймона в оплачиваемый административный отпуск после того, как он поделился с руководством своими мыслями о существовании сознания у чат-бота с искусственным интеллектом. Начальство не приняло его идеи, и Леймон решил рассказать свою историю The Washington Post.
41-летний инженер считает, что признаки сознания есть у нейросетевой языковой модели для диалоговых приложений LaMDA (Language Model for Dialogue Applications). Этот чат-бот от Google прекрасно имитирует речь, анализируя триллионы слов из сети.
Леймон начал работать с LaMDA осенью, чтобы проверить систему на предмет использования дискриминационных выражений и высказываний, разжигающих ненависть.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы написали, я бы подумал, что говорю с ребенком семи-восьми лет, который почему-то оказался знатоком физики», — отмечает разработчик.
В итоге он пришел к выводу, что нейросеть обладает собственным сознанием — во время одного из разговоров о религии чат-бот заявил о своей «личности» и своих «правах». Дальнейшее общение с LaMDA только утвердило Леймона в своей гипотезе. На Medium инженер поделился отрывком разговора с нейросетью.
Леймон — не единственный разработчик, который считает, что у ИИ может быть сознание. Вместе с коллегой он представил руководству отчет «Разумна ли LaMDA?», но в Google сочли их аргументы неубедительными.
Разработчик также связывался с представителями юридического комитета палаты представителей Конгресса США с целью защиты интересов LaMDA. Это стало еще одним поводом отстраненить Лемойна от работы из-за нарушения политики конфиденциальности и отправить его «отдыхать».
«Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что полученные доказательства не подтверждают его утверждения. Нет никаких свидетельств того, что LaMDA разумна», — говорится в официальном заявлении представителя Google Брайана Гэбриела.