На сайте интернет-магазина появился ряд книг, предлагающих руководства по лечению СДВГ. По результатам анализа Originality.ai, в некоторых из них, а точнее в восьми произведениях («Навигация по СДВГ у мужчин: процветание с поздним диагнозом», «Мужчины с СДВГ: высокоэффективные методы для освоения концентрации, управления временем и преодоления тревоги» и другие), обнаружено, что 100% текста написано нейросетью.
The Guardian: Amazon продает книги об СДВГ, написанные искусственным интеллектом
В пособиях содержатся вредные советы и пугающие сопутствующие диагнозы, которые не соответствуют медицинским учебникам.
Mariano Garcia / Legion-Media
На Amazon продают книги об , написанные искусственным интеллектом. Об этом сообщает The Guardian со ссылкой на анализ компании Originality.ai, которая обнаруживает контент, созданный нейросетями.
Майкл Кук, исследователь информатики в Королевском колледже Лондона, сказал, что генеративные системы искусственного интеллекта, как известно, могут давать опасные советы. «Генеративные системы искусственного интеллекта, такие как ChatGPT, возможно, были обучены по многим медицинским учебникам и статьям, но они также были обучены псевдонауке, теориям заговора и художественной литературе», — сказал Кук.
По его словам, «разочаровывающе и удручающе видеть, что книги, написанные ИИ, все чаще появляются на цифровых рынках», особенно по темам здоровья и медицины, что может привести к неправильному диагнозу или ухудшению состояния. Тем не менее Кук отметил, что бизнес-модель Amazon стимулирует продажу продуктов любого качества, поскольку доход напрямую зависит от того, сколько раз приобрели книгу, при этом не имеет никакого значения, была работа «надежной или нет».
Профессор Шеннон Валлор, директор Центра техноморального будущего Эдинбургского университета, считает, что Amazon несет «этическую ответственность за то, чтобы сознательно не способствовать ущербу своим клиентам и обществу». Проблема также в том, что алгоритм издательства книг и писательства изменился. В том числе на это повлияла культура «Дикого Запада».
В настоящее время не существует законодательства, которое требовало бы, чтобы книги, написанные ИИ, были помечены как таковые. Закон об авторском праве применяется, только если текст был воспроизведен в качестве конкретного авторского контента. Из-за отсутствия законодательства в этом вопросе покупатели могут быть обречены на опасную дезинформацию и пустую трату денег.
Примером может послужить история Ричарда Вордсворта, который купил одну из книг об СДВГ, написанную нейросетью. По словам мужчины, когда он сел за чтение произведения, то ему «сразу же показалось, что это звучит странно». В самом начале повествования имелись противоречия, а советы выглядели очень странными. Например, в главе об эмоциональной дисрегуляции сообщалось, что друзья и семья не «прощают эмоционального ущерба, который вы наносите. Боль и обида, вызванные импульсивным гневом, оставляют неизгладимые шрамы».
Чтение заставило Вордсворта почувствовать себя «расстроенным». «Если текст может быть воспринят таким типом книг, может быть, поэтому у благонамеренных и отчаявшихся людей головы полны опасной ерунды, спекулирующих мошенников, в то время как Amazon берет свою часть», — сказал Вордсворт.
В свою очередь, представитель Amazon заявил: «У нас есть рекомендации по содержанию, регулирующие, какие книги могут быть выставлены на продажу, и у нас есть упреждающие и реактивные методы, которые помогают нам обнаруживать контент, нарушающий наши рекомендации, независимо от того, генерируемый он ИИ или нет. Мы инвестируем значительное время и ресурсы, чтобы обеспечить соблюдение наших рекомендаций и удалить книги, которые не соответствуют этим рекомендациям».