Люди доверяют медицинским советам ИИ больше, чем рекомендациям врачей

Новое исследование показало, что пациенты не способны отличить советы врачей от медицинских ответов, созданных искусственным интеллектом. Более того, в ходе эксперимента участники чаще предпочитали рекомендации, сгенерированные нейросетью. Об этом говорится в научной работе, опубликованной в журнале NEJM AI, на ее результаты ссылается издание PsyPost.

В исследовании, проведенном под руководством Шрути Шекар, участвовали сотни человек, которые оценивали медицинские ответы на реальные вопросы пациентов, взятых с платформы HealthTap. Участникам показывали как рекомендации, написанные врачами, так и те, что были созданы моделью GPT-3. Эксперимент проводился в три этапа, и на каждом из них испытуемым предлагалось оценить достоверность, полноту и надежность ответов, а также то, насколько они готовы следовать совету.

Результаты оказались неожиданными. Большинство участников не смогли отличить, где отвечает врач, а где искусственный интеллект, однако ответы нейросети получили самые высокие оценки. Респондентам они показались более убедительными, информативными и заслуживающими доверия.

Когда участники сталкивались с ошибочными ответами ИИ, они все равно оценивали их примерно так же, как ответы врачей, и даже заявляли, что готовы следовать полученным советам, несмотря на потенциальную опасность. «Это тревожный сигнал, — отмечают авторы. — Люди склонны доверять уверенной подаче, даже если содержание может быть неточным».

Авторы эксперимента предупреждают, что излишнее доверие к ИИ в медицинских вопросах может привести к серьезным последствиям. Тем не менее исследователи видят в этом и позитивный потенциал. «Если направить такие технологии в правильное русло — с тщательным контролем качества и участием медицинских специалистов, — ИИ может стать мощным дополнением к современной медицине», — написано в материале.

Ранее исследователи из Гарвардской школы бизнеса выяснили, что чат-боты с искусственным интеллектом прибегают к манипуляциям ради того, чтобы продолжать диалог с пользователями.