В США из-за ИИ дети остались взаперти в школе. Нейросеть заблокировала вход после того, как приняла кларнет за пистолет

В средней школе Лоутон-Чайлз во Флориде искусственный интеллект, внедренный в видеокамеры, принял кларнет одного из учеников за огнестрельное оружие, что привело к немедленному вводу режима изоляции. Об этом сообщает Futurism.

Как сообщает местная полиция, сигнал поступил автоматически и у администрации не оставалось выбора, кроме как отреагировать на предупреждение системы. К счастью, вскоре ошибка прояснилась и угроза не подтвердилась. «Красный код был введен в качестве меры предосторожности, и детям ничего не угрожало», — отметили правоохранители.

В обращении к родителям директор школы доктор Мелисса Лаудани объяснила, что в округе действует многоуровневая система безопасности, включающая автоматизированное выявление угроз. Она также возложила ответственность на ученика, который «держал музыкальный инструмент, как будто это было оружие». «Я хотела бы попросить вас поговорить со своими детьми о том, как опасно изображать наличие оружия на территории школы», — написала Лаудани.

Этот инцидент вызвал критику в адрес используемой технологии. Система не смогла отличить кларнет с 17 клавишами от огнестрельного оружия, что ставит под сомнение ее точность.