Дмитрий Бабаев
Дмитрий Бабаев
Яндекс Руководитель ML-проектов
Адверсариальные атаки на модели основанные на последовательностях пользовательских данных
В докладе я расскажу про адверсальные атаки на модели, основанные на последовательностях пользовательских данных. В основном, мы будем обсуждать реалистичные атаки на банковские скоринговые модели, использующие транзакции по картам. Поговорим про то, как может быть устроена реалистичная атака и что должно быть доступно атакующему. Разберем некоторые методы атак, которые подходят для адверсариальной модификации последовательностей. Обсудим результаты их применения к модели аналогичной той, которая может применяться в банках для скоринга клиентов из нашей статьи на KDD`21 (https://arxiv.org/abs/2106.08361).
Больше 10 лет я занимаюсь прикладными исследованиями в машинном обучении и применением их результатов на практике в разных доменах, таких как интернет, телекомы и финансы. Автор публикаций на основных конференциях по ML (KDD, SIGMOD, NeurIPS Competitions Track). Руководил центром исследования нейросетей в лаборатории ИИ Сбера. Сейчас занимаюсь машинным обучением для геосервисов Яндекса.