Новые технологии для борьбы с дипфейками

Издание RSpectr готовит материал о новых разработках IT-программ для борьбы с дипфейками (манипуляции с человеческим лицом в интернете) со стороны кибермошенников.

С целью предотвращения визуально-семантических искажений и фальсификации передаваемой информации Агентство перспективных исследований в области обороны США (DARPA) разрабатывает программы анализа визуальных и текстовых данных. Манипуляции с человеческим лицом deep fakes (дипфейки) – новый киберинструмент у хакеров для введения в заблуждение с целью мошенничества. Задача программы MediFor (Media Forensics) состоит в экспертизе средств массовой коммуникации по выявлению недостоверных видео, имеющих ложное аудио сопровождение. Программа MediFor направлена на разработку модели целостности изображений и видео, состоящие из трех элементов: 1) индикаторы цифровой целостности; 2) индикаторы физической целостности; и 3) индикаторы семантической целостности. В рамках программы MediFor группа исследователей Университета в Олбани в 2018 году предложила сверточную нейронную сеть (далее – CNN) для распознавания ложных сгенерированных видео на примере частоты моргания человеческого глаза. Лицо, не имеющее частоту моргания на видео изображении, распознается как сгенерированное. В настоящий момент технология признана неустойчивой к распознаванию дипфейков. Таким же образом работают CNN и LSTM модели анализа изображения для выявления участков лица. Из каждой области лица извлекаются лицевые ориентиры, такие как кончики глаз, нос и рот, а также контуры щек. Специальные алгоритмы выравнивают лицо на основе ориентиров по единому координатному пространству. Обучение модели Долгосрочной рекуррентной свёрточной сети (далее –LRCN) происходит на основе набора данных, например, с изображениями состояния глаза. Затем алгоритм проходит тестирование по обнаружению моргания глаз на настоящих и фальшивых видео. Такой же механизм используется для тестирования и определения области лиц. Просьба дать комментарии по вопросам:

1 Как программа SemaFor сможет повысить безопасность в Сети:

- борьба с кибермошенниками; - реальные сроки реализации программы.

2 Функционал Semantic Forensics:

- области применения программы; - может ли система сама создавать качественные дипфейки; - конфиденциальность ПД.

3 Какие еще дополнительные программы для выявления фейков в медиапространстве могут применяться:

- семантический анализ текстов; - лингвистический анализ с прогнозированием.

Дедлайн: 26 мая.