Появилась маска, которая обманывает системы распознавания лиц
Группа исследователей из Университета Бен-Гуриона и Тель-Авивского университета создала маски, которые сбивают с толку системы распознавания лиц. Алгоритмы могут определить человека в такой маске лишь в 3% случаев, пишет «Хайтек».
«Мы проверили эффективность нашей маски в реальных экспериментах, напечатав на ней рисунок, сгенерированный алгоритмом. В этих экспериментах система распознавания лиц смогла идентифицировать только 3,34% участников, надевших маску. Если сравнивать с другими масками, например, медицинскими, результат был равен 83,34%», — отметили исследователи.
Они объяснили это тем, что пандемия COVID-19 сделала ношение масок привычным, что помогло многим системам распознавания лиц адаптироваться. Однако теперь исследователи использовали процесс оптимизации на основе градиента для создания маски, которая будет помогать ложно классифицировать каждого пользователя — независимо от того, мужчина это или женщина.
Модели распознавания лиц могут обучить распознавать людей, носящих необычные маски. В качестве альтернативы на этапе вывода каждое изображение лица с маской можно предварительно обработать, чтобы оно выглядело так, как будто человек надел стандартную маску.
Исследователи опирались на то, что системы распознавания лиц сравнивают две части лица и пытаются ответить на вопрос, принадлежат ли они одному и тому же человеку. Поэтому ученые генерировали необычное изображение, которое продолжает лицо владельца маски (иногда этот рисунок напоминает животное). Такой подход сбивает с толку алгоритмы, и он лишь в некоторых случаях может определить человека. Поэтому они генерировали отдельные рисунки для каждого пользователя в зависимости от черт его лица.
Читайте также: Компания Twitter Inc. планирует провести очень быстрое судебное разбирательство своего иска против миллиардера Илона Маска, отказавшегося от ранее предложенного им же выкупа социальной платформы за $44 миллиарда. Подробнее: Twitter планирует очень быстро выиграть иск против Маска
«Мы проверили эффективность нашей маски в реальных экспериментах, напечатав на ней рисунок, сгенерированный алгоритмом. В этих экспериментах система распознавания лиц смогла идентифицировать только 3,34% участников, надевших маску. Если сравнивать с другими масками, например, медицинскими, результат был равен 83,34%», — отметили исследователи.
Они объяснили это тем, что пандемия COVID-19 сделала ношение масок привычным, что помогло многим системам распознавания лиц адаптироваться. Однако теперь исследователи использовали процесс оптимизации на основе градиента для создания маски, которая будет помогать ложно классифицировать каждого пользователя — независимо от того, мужчина это или женщина.
Модели распознавания лиц могут обучить распознавать людей, носящих необычные маски. В качестве альтернативы на этапе вывода каждое изображение лица с маской можно предварительно обработать, чтобы оно выглядело так, как будто человек надел стандартную маску.
Исследователи опирались на то, что системы распознавания лиц сравнивают две части лица и пытаются ответить на вопрос, принадлежат ли они одному и тому же человеку. Поэтому ученые генерировали необычное изображение, которое продолжает лицо владельца маски (иногда этот рисунок напоминает животное). Такой подход сбивает с толку алгоритмы, и он лишь в некоторых случаях может определить человека. Поэтому они генерировали отдельные рисунки для каждого пользователя в зависимости от черт его лица.
Комментарии 0