СОСТЯЗАТЕЛЬНАЯ РОБАСТНОСТЬ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ: СИСТЕМАТИЧЕСКИЙ ОБЗОР УНИВЕРСАЛЬНЫХ АТАК, МЕТОДОВ ЗАЩИТЫ И ТРЕБОВАНИЙ К ИХ АУДИТУ

Аннотация

В работе обобщены результаты исследований состязательной (adversarial) робастности моделей глубокого обучения. Обзор подготовлен по протоколу PRISMA 2020: из 540 первоначально найденных публикаций формальным критериям включения удовлетворили 32 источника. Основное внимание уделено универсальным состязательным возмущениям (UAP) и способам защиты от них. Авторы прослеживают происхождение явления, приводят таксономию атак и разбирают основные алгоритмы построения UAP, после чего сопоставляют между собой современные защиты – состязательное обучение, TRADES, случайное сглаживание – и эталонные бенчмарки AutoAttack, RobustBench и ImageNet-C. Отдельный раздел соотносит международные результаты с действующей в России нормативной базой: приказами ФСТЭК России № 17, № 21 и № 239, ФЗ-187, ГОСТ Р ИСО/МЭК 27001-2021 и ГОСТ Р 59276-2020. Как показывает анализ, универсальность возмущений вместе с их переносимостью между архитектурами делает атаки практически значимыми, тогда как формальные гарантии среди известных защит дают только методы сертифицированной робастности. В заключение выделены вопросы, которые в национальной методической базе требуют первоочередной проработки: физически реализуемые UAP, защита крупных мультимодальных моделей и стандартизация процедур аудита значимых объектов критической информационной инфраструктуры по устойчивости к adversarial-воздействиям.