Нейросеть обучили выявлять используемые мошенниками в видеозвонках дипфейки

САНКТ-ПЕТЕРБУРГ, 3 октября. /ТАСС/. Ученые Санкт-Петербургского федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) создали прототип программного обеспечения для автоматического выявления дипфейков, созданных с помощью технологии фейс-свап - когда на оригинальную фотографию человека накладывается поддельное лицо. Разработка может быть встроена в системы защиты видеозвонков, которые используют кибермошенники, сообщили ТАСС в пресс-службе учреждения.

"Мы разработали программу, которая, используя нейросеть, может автоматически распознать фейс-свап, созданный с применением технологии дипфейк. В отличие от обычного визуального восприятия, когда человеку очень сложно заметить хорошо сделанную подделку, система анализирует множество скрытых параметров изображения и выявляет характерные искажения", - привели в пресс-службе слова руководителя Международного центра цифровой криминалистики СПб ФИЦ РАН Андрея Чечулина.

Как отметили в учреждении, одной из серьезных проблем цифровой среды является сфера мошенничества в интернете. В России за 2024 год от деятельности киберпреступников жители потеряли около 300 млрд рублей. Последние годы мошенники стали активно использовать сервисы искусственного интеллекта, и одной из популярных технологий является фейс-свап - технология замены лица на фото или видео

По данным пресс-службы, на первом этапе проекта ученые СПб ФИЦ РАН создали базу данных с лицами, созданными по технологии фейс-свап. Для создания этих изображений они использовали технологии ИИ, которые находятся в свободном доступе - именно ими, как правило, пользуются киберпреступники. Всего исследователи собрали более 30 тыс. картинок.

На основе собранной базы данных проводилось обучение нейросети. Ученые сконцентрировали его на целом комплексе признаков фейс-свапа, среди которых изменение геометрии головы, искажение отдельных элементов лица, а также цветовых оттенков кожи и окружения.

"Наши эксперименты на фотографиях, созданных с помощью фейс-свап, показали высокую точность распознавания. На основе нашей разработки создается библиотека, которую разработчики систем видеосвязи смогут встраивать в мессенджеры. И пользователь будет автоматически получать информацию о вероятности подделки собеседника", - привели в пресс-службе слова старшего научного сотрудника Лаборатории интегрированных систем автоматизации СПб ФИЦ РАН Алексея Кашевника.