Gradient Boost,for Regression_Day33(3)

Gradient Boost 는 와 Linear Regression 은 차이가 있으니 유의하기

(classification은 다른편 . part3)

 

Gradient Boost는 Ada Boost와 다른 점이 있다

Gradient Boost는 먼저 타겟의 평균값을 기준으로 Tree를 만든다.

Ada Boost 처럼 gradient boost 또한 tree size가 제한되어 있다

Ada boost (2) , Gradinet boost (4 , 8, etc)

 

 

이제 Gradient boost 를 활용하여 예측을 진행해보겠습니다

우선 'weight'의 평균값을 구한뒤 (71.2)

타겟값에서 예측값을 뺀 (residual) 값을 구한다

 

 

 

출처 : youtu.be/3CC4N4z3GJc