Алексей Зайцев

Сколтех Старший преподаватель

#adversarial_ml

Как атаковать черный ящик?

В стандартной постановке адверсальная атака производится на модель, к которой у нас есть полный доступ. Например, доступны градиенты модели по входам. Мы рассмотрим более прикладную постановку, в которой модель доступна как черный и серый ящик и разберем, как можно эффективно атаковать такую модель и сколько вызовов целевой функции нам для этого нужно.

Кандидат физико-математических наук. Руководитель лаборатории. Автор статей по машинному обучению и его приложениям, опубликованных на ведущих конференциях.