В США полиция чуть не застрелила подростка после того, как ИИ-система приняла его упаковку чипсов за оружие

Инцидент произошел из-за неисправной работы ИИ-алгоритма для обнаружения оружия. Система ошибочно приняла сжатый пакет Doritos в кармане Аллена за пистолет. «Было похоже, что к нам подъехали восемь полицейских машин. На меня направили оружие и закричали: "На землю!" Я ничего не понимал», — рассказал он.

Подросток вспомнил, что его заставили встать на колени, заломили руки и надели наручники. Правда, во время обыска правоохранители не нашли у него ничего подозрительного. «Они показали мне фотографию, сделанную системой. Там был просто мой карман с пакетом чипсов. Они сказали, что это похоже на пистолет. Я сказал: "Нет, это Doritos"», — поделился он.

Система, сработавшая в тот день, принадлежит компании Omnilert. Она внедрила технологию распознавания оружия в школах округа Балтимор в прошлом году. Искусственный интеллект анализирует видеопоток с камер наблюдения и отправляет уведомления полиции, если алгоритм считает, что на кадре есть огнестрельное оружие.

Компания признала, что случай с Алленом был ложным, но при этом заявила, что «система сработала как задумано», подчеркнув, что окончательное решение всегда должно приниматься человеком.

После произошедшего, по словам Аллена, никто из полиции или руководства школы даже не пытался оказать помощь ему или его одноклассникам, которые стали свидетелями случившегося. «Они не извинились. Просто сказали, что это был протокол. Теперь я боюсь просто приходить в школу. Если я съем пакет чипсов или выпью что-то из бутылки, вдруг ИИ снова решит, что я вооружен», — признался ученик.

Читайте также: