Нейросеть научилась распознавать фейковые изображения

С развитием нейронных сетей качество исполнения поддельных изображений вышло совершенно на новый уровень. Отличить фейк от оригинала практически невозможно — во всяком случае без помощи нейросети. Именно такой двухуровневый программный инструмент представили калифорнийские учёные. Он способен определить deepfake-изображение, созданное «коллегами по цеху», за считаные минуты.

Учёные Университета Калифорнии разработали ИИ-алгоритм, способный с точностью до 95% определять, подвергалось ли исходное изображение обработке. По заверению разработчиков,  этот инструмент будет активно использоваться для обнаружения подделок в интернете. Для тренировки сети ей были предоставлена тысяча оригинальных изображений и их подделок. Одним из её компонентов стала разновидность так называемой «рекуррентной нейронной сети», которая разбивает изображение на небольшие фрагменты и просматривает их попиксельно. Другая часть пропускает всё изображение через серию фильтров кодирования, которые позволяют ему рассматривать изображение на более целостных уровнях.

В качестве примера разработчики привели изображение птицы, которое было наложено на фото пустой ветки дерева. Пиксельный алгоритм в этом случае отмечает пиксели вокруг когтей птицы как проблемные, в то время как алгоритм кодера может определять шаблоны на сводном изображении. До тех пор, пока оба компонента нейросети помечают одну и ту же область изображения вокруг птицы, алгоритм будет классифицировать фотографию птицы и ветки как потенциальный фейк.

Тем не менее по словам разработчиков, даже эффективность распознавания в 99% не гарантирует «безотказности» ИИ при распознавании фейковых изображений — поэтому говорить о победе над «дипфейками» ещё не приходится.

4pda.ru