Инженеры лаборатории SAND Lab при Чикагском университете (США) создали инструмент, благодаря которому пользователи могут выкладывать свои селфи в соцсети без опасений быть распознанными нейросетью. Новая разработка Fawkes — названа так в честь маски Гая Фокса, олицетворяющей анонимность, — вносит в снимок едва заметные искажения, которые не видны глазу, но могут поставить алгоритмы в тупик.
Слева — оригинальный снимок, справа — его "замаскированный" Fawkes вариант
По словам исследователей, их технология "маскирует" изображение на уровне пикселей, заменяя одни узловые точки, по которым системы компьютерного зрения сопоставляют "отпечатки" лиц, другими. В качестве примера они привели фотографию актрисы Гвинет Пэлтроу, которой "пририсовали" неуловимые глазу черты лица актера Патрика Демпси. В SAND Lab говорят, что на этапе тестирования Fawkes смог обхитрить системы Amazon, Microsoft и китайской Megvii.
Работу Fawkes проверила корреспондент The New York Times Кашмир Хилл, загрузив на Facebook (запрещена в РФ) оригиналы и модифицированные копии изображений себя и членов семьи. "И это сработало: Facebook отметил меня на оригинальной фотографии, но не узнал в замаскированной версии", — написала она.
Впрочем, по словам Хилл, внесенные Fawkes изменения все же были заметны невооруженным глазом: "На модифицированных снимках я была мрачного вида, моя 3-летняя дочь отрастила нечто похожее на волосы на лице, а у моего мужа оказался синяк под глазом". В SAND Lab ей на это ответили, что признают наличие определенных недоработок, и пообещали продолжить настройку алгоритма.
Исходный код Fawkes открыт, но компилировать его нужно самому. Для пользователей, не владеющих навыками программирования, в скором времени обещают выпустить бесплатную версию приложения. Оно наверняка будет пользоваться спросом: после того как статья о новом инструменте вышла в Hacker News, его скачали свыше 50 тысяч раз.
