Жизнь без A/B: как ещё сравнивать версии ML-систем?
Что, если АБ тест провести просто невозможно? Как провести проверку модели?
Жизнь без A/B: как ещё сравнивать версии ML-систем?
Евгений Никитин, Head of AI, АО Калуга Астрал
Как понять, что новая версия ML-системы будет работать лучше, чем предыдущая? Обычно достаточно провести офлайн-валидацию (померить метрики) и онлайн-тест (например, в формате A/B). А что делать, если проведение онлайн-теста невозможно по техническим, юридическим или экономическим причинам? В этом докладе на примере медицинских ML-систем мы попробуем разобраться как минимизировать риск деплоя плохих моделек, когда с онлайн-тестами всё сложно.
Начало: 14 октября в 19-00 онлайн в zoom
Регистрация