Объяснить модель бизнесу

Разделяю глобальный и локальный вопрос. Глобально показываю permutation importance на валидации и средние абсолютные SHAP-значения, а для ключевых признаков формы зависимостей через PDP или SHAP dependence plot. Встроенную split importance бустинга не использую как аргумент: она завышает признаки с большим числом значений. Для конкретного клиента считаю SHAP: базовое значение плюс вклады признаков дают его скор, и можно назвать 3-5 главных причин, например высокая долговая нагрузка и недавние просрочки. Обязательно проговариваю ограничения: SHAP объясняет поведение модели, а не причинность в мире; при коррелированных признаках вклад делится между ними условно. В кредитовании, где нужно объяснять отказы и проходить аудит, часто используют интерпретируемые скоркарты на логистической регрессии или монотонные ограничения в бустинге, чтобы зависимость от признака была логичной.