МОДЕЛЬ ОЦЕНКИ ЗРЕЛОСТИ MLOPS С ТОЧКИ ЗРЕНИЯ ИНФОРМАЦИОННОЙ БЕЗОПАСНОСТИ И ОБЪЯСНИМОСТИ

Аннотация

В статье рассматривается модель оценки зрелости MLOps с точки зрения информационной безопасности и объяснимости (XAI). Предлагается структурированный подход к оценке зрелости MLOps, учитывающий специфику XAI, и демонстрируется его потенциальная эффективность в повышении устойчивости моделей к угрозам информационной безопасности. Модель включает критерии оценки, основанные на интеграции XAI в жизненный цикл MLOps, автоматизации анализа угроз, балансе объяснимости и производительности, а также скорости реагирования на угрозы. Представлены уровни зрелости, аналогичные DSOMM OWASP, с примерами применения.