В средней школе Лоутон-Чайлз во Флориде искусственный интеллект, внедренный в видеокамеры, принял кларнет одного из учеников за огнестрельное оружие, что привело к немедленному вводу режима изоляции. Об этом сообщает Futurism.
В США из-за ИИ дети остались взаперти в школе. Нейросеть заблокировала вход после того, как приняла кларнет за пистолет
Руководство школы объяснило, что ошибка возникла не из-за ИИ-камер, а из-за ребенка, который «держал музыкальный инструмент, как будто это было оружие».
holgers.pictures / Legion-Media
Как сообщает местная полиция, сигнал поступил автоматически и у администрации не оставалось выбора, кроме как отреагировать на предупреждение системы. К счастью, вскоре ошибка прояснилась и угроза не подтвердилась. «Красный код был введен в качестве меры предосторожности, и детям ничего не угрожало», — отметили правоохранители.
В обращении к родителям директор школы доктор Мелисса Лаудани объяснила, что в округе действует многоуровневая система безопасности, включающая автоматизированное выявление угроз. Она также возложила ответственность на ученика, который «держал музыкальный инструмент, как будто это было оружие». «Я хотела бы попросить вас поговорить со своими детьми о том, как опасно изображать наличие оружия на территории школы», — написала Лаудани.
Этот инцидент вызвал критику в адрес используемой технологии. Система не смогла отличить кларнет с 17 клавишами от огнестрельного оружия, что ставит под сомнение ее точность.
К слову, это не первый пример проблем с системами видеонаблюдения на основе ИИ в школах США. Ранее в одной из школ Балтимора (крупный город в американском штате Мэриленд) из-за системы искусственного интеллекта 16-летний ученик Таки Аллен по ошибке был задержан полицейскими. Подробнее об этом читайте здесь.