Специалисты по ИИ из компании Facebook разработали систему для «деидентификации» пользователей в режиме реального времени. Ранние тесты показали: этот ИИ способен обойти современные системы распознавания лиц.
Новый метод искажает лицо человека таким образом, чтобы сбить с толку системы распознавания, позволяя, однако, пользователям узнать друг друга.
«Распознавание лиц может привести к потере конфиденциальности, а данная технология замены лиц может быть использована для создания вводящих в заблуждение видео. Недавние события, связанные с прогрессом и злоупотреблением технологией распознавания лиц, вызывают необходимость понимания методов, которые успешно справляются с деидентификацией», – сказано в документе, описывающем метол.
Подход Facebook объединяет в себе состязательный автокодировщик и сеть классификаторов. По аналогии с ПО по замене лиц Deepfake, ИИ использует архитектуру кодировщика-декодировщика для генерации как маски, так и изображения. Система генерирует искаженные и неискаженные изображения лица человека, которые можно встроить в видео.
Facebook заверил, что пока не планирует применять эту технологию в каких-либо своих приложениях. Компания намерена представить метод на Международной конференции по компьютерному зрению в Сеуле.