Учёные разработали инструмент, который делает фотографии невидимыми для систем распознавания лиц
Команда компьютерных инженеров из Чикагского университета разработала инструмент Fawkes, который защищает изображения от систем распознавания лиц. Программное обеспечение для программистов скачали более 50 тыс. раз за месяц, сообщает The New York Times.
Исследователи работают над бесплатной версией приложения для пользователей, не владеющих навыками программирования. «Наша цель — заставить Clearview уйти», — сказал профессор компьютерных наук из Чикагского университета Бен Чжао. Clearview — это ПО для распознавания лиц, используемое частными компаниями, правоохранительными органами, университетами и частными лицами.
Fawkes преобразует изображение (или маскирует, как говорят создатели) для настроек систем распознавания лиц. Для маскировки фотографий актрисы Гвинет Пэлтроу ПО использовало изображение актера Патрика Демпси. Системы распознавания лиц начали ассоциировать Пэлтроу с некоторыми чертами лица Демпси. Изменения незаметны невооружённому глазу.
В ходе тестирования исследователи смогли обмануть системы Amazon, Microsoft и китайской технологической компании Megvii. Fawkes выбирает из базы данных фотографии тех, кто максимально непохож на оригинальное изображение. Часто это приводит к тому, что ПО использует фото людей разных полов.
По словам создателей, Fawkes пытается сделать невозможной работу крупных систем распознавания лиц, выполняя алгоритмическую атаку, называемую заражением данных. Исследователи хотели бы, чтобы пользователи начали маскировать все фотографии, которые выкладывают в интернет.
Исполнительный директор Clearview Хоан Тон-То протестировал Fawkes и заявил, что приложение не мешает работе Clearview, а только улучшает способность системы распознавать измененные изображения. Доктор Джозеф Атик считает, что объём данных, доступный в интернете, будет слишком трудно переработать. По его словам, изменить это можно только на законодательном уровне.
Fawkes сработает, пишет NYT, если ПО применят сразу к большому количеству фотографий. Для этого нужно, чтобы инструмент внедрила крупная платформа, имеющая доступ к изображениям пользователей.