에 대해 대한 다항식 회귀 분석을 수행 할 때 때때로 사람들은 원시 다항식, 때로는 직교 다항식을 사용합니다. 그러나 그들이 완전히 임의적 인 것처럼 보이는 것을 사용할 때.X
와이엑스
여기 에서 여기에 원시 다항식이 사용됩니다. 그러나 여기 와 여기 에서 직교 다항식은 올바른 결과를 제공하는 것으로 보입니다. 왜, 어떻게, 왜?!
반면에 교과서 (예 : ISLR ) 에서 다항식 회귀에 대해 학습 할 때 원시 또는 직교 다항식은 언급하지 않으며 적합 할 모형 만 제공됩니다.
그래서 언제 무엇을 사용해야합니까?
왜 , 등 의 개별 p- 값 이이 두 값 사이에서 크게 다른가?X 2
엑스2
답변
변수 와 X 2 는 선형 적으로 독립적이지 않습니다. 그래서 경우에도 추가, 어떤 차 효과가없는 X 2 의 예상 효과를 수정합니다 모델에 X를 .
XX2
X2
X
매우 간단한 시뮬레이션으로 살펴 봅시다.
> x <- runif(1e3)
> y <- x + rnorm(length(x))
> summary(lm(y~x))
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -0.03486 0.06233 -0.559 0.576
x 1.05843 0.10755 9.841 <2e-16 ***
이제 모형에 2 차 항이 적합합니다.
> summary(lm(y~x+I(x^2)))
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.03275 0.09528 0.344 0.731
x 0.65742 0.44068 1.492 0.136
I(x^2) 0.39914 0.42537 0.938 0.348
물론 옴니버스 테스트는 여전히 중요하지만, 우리가보고있는 결과는 이것이 아니라고 생각합니다. 해결책은 직교 다항식을 사용하는 것입니다.
> summary(lm(y~poly(x,2)))
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.49744 0.03098 16.059 <2e-16 ***
poly(x, 2)1 9.63943 0.97954 9.841 <2e-16 ***
poly(x, 2)2 0.91916 0.97954 0.938 0.348
x첫 번째 모델과 poly(x,2)1두 번째 모델 의 계수는 같지 않으며 인터셉트도 다릅니다. 이는 poly직교 법선 벡터를 제공 하기 때문에 벡터와 직교합니다 rep(1, length(x)). 따라서 그보다 poly(x,2)1는 x오히려 (x -mean(x))/sqrt(sum((x-mean(x))**2))…
중요한 점은이 마지막 모델에서 Wald 테스트가 독립적이라는 것입니다. 직교 다항식을 사용하여 Wald 테스트를보고 원하는 정도까지 결정할 수 있습니다. 여기서 는 유지 하지만 X 2는 유지 하지 않기로 결정합니다 . 물론 처음 두 개의 적합 모델을 비교하여 동일한 모델을 찾을 수 있지만이 방법은 더 간단합니다. 더 높은 각도로 올라가는 것을 고려하면 훨씬 더 간단합니다.
XX2
유지할 항을 결정한 후에 는 해석 가능성 또는 예측을 위해 원시 다항식 및 X 2 로 돌아갈 수 있습니다 .
XX2
답변
상황을 순진하게 평가하려면 :
일반적으로 : 두 개의 서로 다른 기본 함수 시스템 과 일부 함수 (hilbert-) 공간에 대해 { ~ p } ∞ n = 1 을 가지고 있다고 가정합니다 (일반적으로 L 2 ( [ a , b ] )). 즉, 모든 제곱 적분 함수의 공간입니다.
{pn}n=1∞{p~}n=1∞
L2([a,b])
L2([a,b])
y∈L2([a,b])
θ엔
θ~n∈아르 자형
n=1,2,…
엘2
케이<∞
엘2([ㅏ,비])
{피~}엔=1∞
{피엔}엔=1∞
와이
{피}엔=1케이
케이
엘2([ㅏ,비])
피
따라서 예측 측면에서 (이 경우) 차이가 없습니다.
Vㅏ아르 자형(θ~^)=나는σ²
가장 잘린 기본 시스템이 있으면 자연스런 문제가 발생합니다. 그러나 질문에 대한 대답은 단순하거나 독특하지 않으며 예를 들어 "최고"라는 단어의 정의, 즉 보관하려는 대상에 따라 다릅니다.