Новый инструмент распознаёт дипфейки с точностью 99%

Facebook AI Research (FAIR) совместно с Университетом штата Мичиган создали прототип ПО, способного определять свойства модели, используемой для создания изображения. Цель — создание инструмента борьбы с кампаниями по распространению фейков.

Типичные ИИ-модели с помощью машинного обучения учатся распознавать дипфейки путём выявления возможных манипуляций с изображением. Инструмент MSU-FAIR же определяет архитектуру нейросетей, использовавшихся для создания этих дипфейков — изображения, подделанные с помощью нейросетей с одной и той же архитектурой, будут относиться к определённым кампаниям.

В тесте прототипа MSU-FAIR на двух наборах данных он смог выявить дипфейки с точностью более 99%.

«Мы можем оценить свойства генеративных моделей, используемых для создания каждого дипфейка, и даже связать несколько дипфейков с моделью, которая предположительно их создала. Это позволяет получать информацию о каждом дипфейке, даже о тех, о которых не было предварительной информации», — сообщил один из создателей инструмента.