Специалисты Донского государственного технического университета (ДГТУ) разработали программу для выявления поддельного видеоконтента.
Программа выявляет видео, созданные при помощи технологии DeepFake алгоритма Generative Adversarial Network (GAN). ПО видит синтез лица. Пользоваться ей просто - скачивается видео и запускается программа с проверки через командную строку. Сначала обнаруживаются все кадры с лицами в видеоролике, а затем каждый из них подвергается анализу на предмет признаков подделки с использованием разнообразных визуальных критериев. Они включают в себя такие элементы, как изменение формы губ во время разговора, несоответствие между произнесенными словами и мимикой, а также различные технические детали, включая даже неестественное расположение пикселей.
В нынешних реалиях, когда через нейросети можно создать любое изображение и видео, подобное ПО будет полезным. Особенно в борьбе с мошенниками, которые рассылают видео от лица родственников и просят денег, монтируют «фальшивый компромат» для шантажа и создают дипфейки с эротическими видео потенциальной жертвы.
Обнаружение дипфейков - сложная задача, поскольку они создаются с применением современных алгоритмов машинного и глубокого обучения. Эти алгоритмы способны создавать высококачественные видеозаписи, которые трудно отличить от реальных без специалистов. Сложность заключается в том, что стандартные методы анализа исходных видеоматериалов могут оказаться неэффективными против современных технологий. Злоумышленники также могут использовать специализированные методы обработки данных, чтобы замаскировать следы манипуляций с контентом.
По мнению экспертов, в настоящее время существует несколько средств борьбы с глубокими фейками. Первое - это алгоритмы машинного обучения, способные выявлять аномалии в видеоматериалах. Второе - программное обеспечение для анализа цифровой подписи и проверки подлинности видеозаписей. Третье - использование технологии блокчейн для обеспечения безопасности данных. Однако все эти инструменты требуют постоянного совершенствования для достижения наилучших результатов. Поэтому исследования, проводимые учеными из ДГТУ, представляют собой важный и логичный шаг в развитии методов выявления глубоких фейков.
В обществе уже возникла потребность в проверке контента, созданного с использованием искусственного интеллекта. С течением времени таких инициатив будет все больше, и если технологии для выявления фейков будут опережать или хотя бы соответствовать технологиям создания контента с применением искусственного интеллекта, это будет в пользу обществу.
Кроме того, разработка отечественного аналога системы обнаружения глубоких фейков со стороны ДГТУ может быть применена в тех областях, где по соображениям безопасности нет возможности использовать иностранные программные продукты.
Фото: Peter Stumpf / Unsplash.com
