NtechLab Алгоритм по распознаванию дипфейков

Основные статьи:

• DeepFake
• Технологии биометрической идентификации
• Системы распознавания лиц

2020: Признание устойчивым к обману с использованием т.н. состязательных атакам

NtechLab, компания в области решений для видеоаналитики на основе нейронных сетей и технологический партнёр Госкорпорации Ростех, 11 декабря 2020 года сообщила, что алгоритм компании по распознаванию дипфейков был назван самым устойчивым к обману с использованием т.н. состязательных атак. Такой вывод был сделан в научной статье, опубликованной на сайте Корнеллского университета за авторством исследователей из лаборатории Facebook AI и Калифорнийского университета в Сан-Диего.

Дипфейк (deepfake) — методика синтеза изображения, основанная на технологии нейросетей. Дипфейки используются для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. Дипфейки могут быть использованы для замены определённых элементов изображения на желаемые образы, в частности для создания роликов, которые в дальнейшем могут быть использованы для политической манипуляции, личной выгоды или мести. Опасность неконтролируемого производства дипфейков признана на международном уровне. В частности, в США и Китае был принят ряд законов, регулирующих производство подобных видеороликов.28 мая министр цифрового развития Максут Шадаев выступит на TAdviser SummIT 8.5 т

В июне 2020 года были подведены итоги международного соревнования по распознаванию дипфейков на видео Deepfake Detection Challenge, проводившегося Amazon, Facebook и Microsoft. По итогам соревнования алгоритм NtechLab занял третье призовое место. После подведения итогов конкурса команда исследователей из лаборатории Facebook AI и Калифорнийского университета в Сан-Диего подвергла три алгоритма, занявших наивысшие места в Deepfake Detection Challenge, дополнительным испытаниям - они решили проверить, насколько алгоритмы-победители устойчивы к так называемым «состязательным атакам». В рамках «состязательной атаки» изображение подвергается малозаметным человеческому глазу искажениям с целью обмануть нейросеть. В данном исследовании «состязательные атаки» применялись, чтобы не дать алгоритму определить, есть ли на видео дипфейк или нет.

В статье, опубликованной во второй половине ноября 2020 года на сайте Корнеллского университета, исследователи описали результаты проведенных тестов. В частности, в статье говорится:

Алгоритм NtechLab более устойчив к состязательным атакам по сравнению с другими моделями.

Инженер NtechLab Азат Давлетшин, автор представленного на Deepfake Detection Challenge алгоритма по распознаванию дипфейков, изначально ставил перед собой задачу создать не просто модель для успешного участия в конкурсе, а стабильно работающее решение, устойчивое к различным типам атак. Исходный код алгоритма NtechLab, в соответствии с условиями конкурса опубликованный в открытом доступе, показал достойный результат при попытках обмануть его даже без дополнительного обучения на широких базах фотографий. Мы надеемся, что его использование внесёт вклад в мировую борьбу с неконтролируемым производством дипфейков - сказал со-основатель NtechLab и директор R&D компании Артём Кухаренко.

В промышленной эксплуатации NtechLab планирует использовать улучшенную версию алгоритма по распознаванию дипфейков. Наработки помогут компании выявлять сложные случаи мошенничества при использовании распознавания лиц в системах типа facepay для оплаты товаров и услуг.