<앙상블> Weighted Blending

Weighted Blending

- 각 모델의 예측값에 대하여 weight를 곱하여 최종 output 계산

• 모델에 대한 가중치를 조절하여, 최종 output을 산출한다
• 가중치의 합은 1.0이 되도록 한다

 

Step

final_outputs = {
    'elasticnet': poly_pred, 
    'randomforest': rfr_pred, 
    'gbr': gbr_pred,
    'xgb': xgb_pred, 
    'lgbm': lgbm_pred,
    'stacking': stack_pred,
}

# 가중치 합이 1이 되도록 구성
final_prediction=\
final_outputs['elasticnet'] * 0.1\
+final_outputs['randomforest'] * 0.1\
+final_outputs['gbr'] * 0.2\
+final_outputs['xgb'] * 0.25\
+final_outputs['lgbm'] * 0.15\
+final_outputs['stacking'] * 0.2\

mse_eval('Weighted Blending', final_prediction, y_test)