В сети библиотекари все чаще сталкиваются с жалобами и подозрениями со стороны читателей, которые уверены, что в архивах скрываются нужные им книги и статьи. На деле же многих из этих источников не существует — их выдумали чат-боты с искусственным интеллектом. Об этом сообщает Gizmodo.
Пользователи ChatGPT массово обвиняют библиотекарей в том, что они скрывают существование некоторых книг
К такому выводу пришли после «галлюцинаций» ИИ, которые выдавали цитаты из неизвестных статей.
JOHN ANGELILLO / Legion-Media
Сотрудники библиотек сообщают о резком росте запросов на поддельные названия книг и научных публикаций. Сара Фоллс, руководитель отдела по взаимодействию с исследователями в Библиотеке американского штата Вирджиния, рассказала изданию, что около 15% справочных запросов по электронной почте генерируется искусственным интеллектом. Часто такие обращения содержат «уверенные» ссылки и цитаты, которые невозможно найти ни в одном каталоге.
При этом читатели все чаще испытывают недоверие к сотрудникам библиотек. По словам Фоллс, некоторые пользователи отказываются верить профессионалам, когда те объясняют, что запрашиваемого источника не существует, предпочитая доверять ответу чат-бота.
На это указывают и мировые организации. Так, Международный комитет Красного Креста опубликовал специальное уведомление, в котором подчеркнул, что отсутствие архивной ссылки не означает сокрытие информации. Причиной могут быть ошибки в цитировании или, что случается все чаще, «галлюцинации», сгенерированные нейросетью.
За последний год появилось множество примеров фальшивых источников, созданных чат-ботами. Так, внештатный автор Chicago Sun-Times подготовил список летнего чтения, в котором десять из 15 книг оказались вымышленными. Аналогичная ситуация произошла ранее на сайте Amazon, где, как выяснила редакция The Guardian, продают книги об СДВГ, написанные искусственным интеллектом.