Новый фотофильтр способен ввести в заблуждение систему распознавания лиц
Огромное количество структур – от социальных сетей до полицейских систем идентификации – хотят знать человека в лицо. По фотографии компании могут определить внешность, возраст, этническую принадлежность и прочие признаки. Как правило, эти данные используются для таргетированной рекламы, однако под угрозой оказывается неприкосновенность частной жизни и конфиденциальности информации.
Появляются новые разработки, которые мешают искусственному интеллекту собирать «компромат». Кепки Face Off Hat и распечатанные на 3D-принтере маски способны ввести в заблуждение программы для распознавания лиц – вместо истинного облика камеры фиксируют оптическую иллюзию.
Но эти устройства эффективны только против камер. Чтобы помешать искусственному интеллекту идентифицировать человека по опубликованной в интернете фотографии, был создан специальный фильтр.
В Университете Торонто разработали фильтр, который незначительно изменяет фотографии лиц таким образом, что программа не может понять, что изображено на картинке. Фильтр, основанный на искусственном интеллекте, отслеживает особые черты лица и меняет определённые пиксели. Для человека отличия практически незаметны, но программа для распознавания лиц даже не сумеет определить, что на фотографии кто-то изображён.
Чтобы создать фильтр, команда разработчиков провела «соревнование» двух нейронных сетей. Первая сеть анализировала сотни фотографий и распознавала лица по особым приметам. Вторая сеть изменяла фотографии, пытаясь сбить с толку первую. Обе сети всё лучше и лучше справлялись со своей задачей, и в определённый момент исследователи решили, что фильтр способен запутать систему распознавания лиц.
Одна из систем, которая безошибочно распознавала практически каждое лицо, после применения фильтра смогла идентифицировать человека лишь на одной фотографии из двухсот. Искусственный интеллект вдруг утратил способность распознавать эмоции или этническую принадлежность людей на фото (по какой-то причине производители электроники считают эту функцию важной).
Фильтр вряд ли появится в Instagram, но разработчики планируют распространять технологию в виде приложения.
05.06.2018 12:59
