В аналитической справке исследуется феномен «глубоких фейков» (deepfakes) – технологий синтеза человеческого изображения на основе искусственного интеллекта. Изучается сущность данных технологий, дается оценка их потенциального влияния на национальную безопасность. Рассматриваются возможные способы нейтрализации угроз, связанных с использованием глубоких фейков.

Особенности современной цифровой среды, включая высокую скорость распространения информации, активное участие пользователей в создании и продвижении контента, сильную подверженность аудитории эмоциональному воздействию и ее слабую восприимчивость к рациональным аргументам, противоречащим собственным убеждениям, обуславливают широкое распространение в ней ложной информации (fake news).

«Глубокие фейки» (deepfakes) представляют собой технологию искусственного синтеза человеческого изображения, основанную на использовании нейросетей и искусственного интеллекта, позволяющую создавать высокореалистичные фото- и видеоизображения людей либо производить модификацию фото-, аудио- и видеоматериалов. Их появление существенно расширяет возможности манипулирования индивидуальным и общественным сознанием на глобальном и локальном уровнях.

Потенциальные угрозы для национальной безопасности связаны с применением глубоких фейков в сферах межгосударственного информационного противоборства, террористической и экстремистской деятельности, преступной деятельности, а также для диффамации (компрометации) лиц и организаций.

Для противодействия вредоносному использованию глубоких фейков может использоваться комплекс технических и правовых инструментов, позволяющих идентифицировать цифровые подделки, затруднять их распространение в сети «Интернет» и привлекать к ответственности виновных лиц. Однако их эффективность в ряде случаев вызывает серьезные сомнения и может быть сведена к минимуму по мере дальнейшего совершенствования технологий искусственного интеллекта.

Мощный эффект информационно-психологического воздействия глубоких фейков обуславливается сочетанием высокой правдоподобности фейкового изображения и доверием населения к видеоформату информации. Его нейтрализация методом опровержения будет весьма затруднительной, по крайней мере на начальном этапе, в силу низкой осведомленности общества о новых технологиях создания цифровых видеоподделок.

Для обеспечения готовности правоохранительных органов требуется упредительная адаптация существенных алгоритмов противодействия угрозам безопасности с учетом нового вызова со стороны глубоких фейков, а также доведение информации о них до личного состава силовых ведомств.

Содержание

1. Контекст проблемы: эпоха постправды и фейковых новостей

2. Понятие и особенности «глубоких фейков»

3. Потенциальные угрозы национальной безопасности, связанные с использованием глубоких фейков

4. Обзор возможных способов противодействия угрозам, связанным с использованием глубоких фейков