Канадский скрипач и певец Эшли Макисаак стал жертвой серьезной ошибки искусственного интеллекта, которая стоила ему концерта и нанесла удар по репутации. Система Google AI Overviews ошибочно описала музыканта как сексуального преступника. Об этом сообщает The Globe and Mail.
Канадского музыканта уволили из-за ложных обвинений ИИ, который перепутал биографии скрипача и преступника
Чат-бот наврал, что канадец осужден за преступление на сексуальной почве.
Дезинформация, которая имела место из-за того, что алгоритм перепутал его биографию с данными другого человека, носящего то же имя, привела к серьезным репутационным потерям. Организаторы мероприятия отменили выступление Макисаака после того, как увидели лживый вывод нейросети. «Google облажался, и это поставило меня в опасную ситуацию», — заявил музыкант, отметив, что не знает, сколько еще заказчиков и слушателей увидели эту ложную информацию.
После того как правда всплыла, организаторы принесли музыканту официальные извинения, признав, что ситуация стала результатом «неверной идентификации, вызванной ошибкой ИИ». В письме, с которым ознакомилось издание, они выразили сожаление, что ошибка причинила вред репутации, сказалась на его возможности зарабатывать на жизнь и повлияла на чувство личной безопасности Макисаака.
Представитель Google в ответ на запрос отметил, что поиск, включая функцию AI Overviews, является динамичным и постоянно улучшается, а подобные случаи используются для доработки систем. Однако, как справедливо указывает Макисаак, репутационный ущерб такого рода трудно исправить.
Ранее в США из-за ИИ дети остались взаперти в школе. Нейросеть заблокировала вход после того, как приняла кларнет за пистолет.