В Чикаго нашли способ обмануть систему распознавания лиц. Она искажает фотографии — но разница совсем незаметна
Исследователи из лаборатории SAND при Чикагском университете разработали технологию Fawkes. Об этом сообщается на официальном сайте лаборатории. Инструменты получили название в честь Гая Фокса — персонажа, символика которого часто используется для обозначения анонимности.
И это напрямую связано с тем, что делает Fawkes: технология позволяет обмануть систему распознавания лиц. В изображение вносятся пиксельные изменения, незаметные человеческому глазу. Лаборатория называет это «маскировкой».
«Вы можете использовать эти "замаскированные" фотографии как обычные, делиться ими в соцсетях, посылать друзьям, распечатывать или открывать на электронных носителях, как любые другие фотографии», — объясняют исследователи.
Однако «замаскированные» изображения путают систему, которая пытается построить модель для распознавания лица. Благодаря маскировке система выдаст «очень искаженную версию того, как вы выглядите».
Скачать и использовать Fawkes может любой желающий. Она считается общественным достоянием (по лицензии BSD).
Технологии распознавания лиц широко распространены в развитых странах мира, в том числе в России. Однако многие считают это нарушением гражданских прав. В июне компания Amazon на фоне протестов Black Lives Matter временно запретила полиции США пользоваться ее технологией, чтобы защитить демонстрантов.