Какова цель фонового набора данных для глубокого объяснения библиотеки Shap? ⇐ Python

[Anonymous]

Я просматривал учебник по интерпретации модели глубокого обучения с использованием SHAP, когда наткнулся на этот блок кода:

Код: Выделить всё

# select backgroud for shap
background = x_train[np.random.choice(x_train.shape[0], 1000, replace=False)]

# DeepExplainer to explain predictions of the model
explainer = shap.DeepExplainer(model, background)

# compute shap values
shap_values = explainer.shap_values(x_test_each_class)

Какова цель этого фонового набора данных?

Подробнее здесь: https://stackoverflow.com/questions/723 ... -explainer