행렬 용어로 모델은 일반적인 형식 입니다. E[Y]=Xβ

$E[Y]=X\beta$

$E[Y]=X\beta$

첫 번째 모델은 절편, 범주 2에 대한 지표 및 범주 3에 대한 지표에 해당하는 의 행 으로 첫 번째 그룹 의 요소를 나타냅니다. 행 과에 의해 제 3 그룹의 원소 .(1,0,0)

$(1,0,0)$

$(1,0,0)$X

$X$

$X$(1,1,0)

$(1,1,0)$

$(1,1,0)$(1,0,1)

$(1,0,1)$

$(1,0,1)$

두 번째 모델은 대신 행 , 및 .(1,1,12)=(1,1,1)

$(1,1,1^2)=(1,1,1)$

$(1,1,1^2)=(1,1,1)$(1,2,22)=(1,2,4)

$(1,2,2^2)=(1,2,4)$

$(1,2,2^2)=(1,2,4)$(1,3,32)=(1,3,9)

$(1,3,3^2)=(1,3,9)$

$(1,3,3^2)=(1,3,9)$

결과 모델 행렬 및 호출합니다 . 그것들은 단순히 관련이 있습니다 : 하나의 열은 다른 열의 선형 조합입니다. 예를 들어X1

$X_1$

$X_1$X2

$X_2$

$X_2$

$$V = \pmatrix{1&1&1 \\ 0&1&3 \\ 0&2&8}.$$

그때부터

$$\pmatrix{1&0&0 \\ 1&1&0 \\ 1&0&1} V = \pmatrix{1&1&1 \\ 1&2&4 \\ 1&3&9},$$

그것은 다음과 같습니다

$$X_1 V = X_2.$$

따라서 모델 자체는

$$X_1\beta_1 = E[Y] = X_2\beta_2 = (X_1V)\beta_2 = X_1(V\beta_2).$$

즉, 두 번째 모델 의 계수 는 첫 번째 모델 의 계수 와 관련이 있어야합니다.β2

${\beta }_2$

$\beta_2$

$$\beta_1 = V\beta_2.$$

따라서 최소 제곱 추정치에도 동일한 관계가 유지됩니다. 이것은 모델이 동일한 피팅을 가지고 있음을 보여줍니다 . 그들은 단지 다르게 표현합니다.

두 모델 행렬의 첫 번째 열이 동일하기 때문에 첫 번째 열과 나머지 열 사이의 분산을 분해하는 모든 분산 분석표는 변경되지 않습니다. 그러나 두 번째 열과 세 번째 열을 구분하는 분산 분석 테이블은 데이터 인코딩 방식에 따라 다릅니다.

의 열에 의해 생성 된 의 3 차원 부분 공간은 기하학적으로 (그리고 다소 추상적으로) 의 열에 의해 생성 된 부분 공간과 일치합니다 . 따라서 모델의 피팅이 동일합니다. 공간은 두 개의 서로 다른베이스로 설명되므로 적합은 다르게 표현됩니다. X 1 X 2R15

${\mathbb{R}}^{15}$

$\mathbb{R}^{15}$X1

$X_1$

$X_1$X2

$X_2$

$X_2$

---

예를 들어 다음은 귀하와 같은 데이터이지만 응답이 다른 데이터 및에서 생성 된 해당 분석입니다 R.

set.seed(17)
D <- data.frame(group=rep(1:3, each=5), y=rnorm(3*5, rep(1:3, each=5), sd=2))

두 모델을 맞추십시오.

fit.1 <- lm(y ~ factor(group), D)
fit.2 <- lm(y ~ group + I(group^2), D)

ANOVA 테이블을 표시하십시오.

anova(fit.1)
anova(fit.2)

첫 번째 모델의 출력은

              Df Sum Sq Mean Sq F value   Pr(>F)    
factor(group)  2 51.836  25.918  14.471 0.000634 ***
Residuals     12 21.492   1.791 

두 번째 모델의 경우

           Df Sum Sq Mean Sq F value    Pr(>F)    
group       1 50.816  50.816 28.3726 0.0001803 ***
I(group^2)  1  1.020   1.020  0.5694 0.4650488    
Residuals  12 21.492   1.791  

잔차 제곱합이 같다는 것을 알 수 있습니다. 두 번째 모델에서 처음 두 행을 추가하면 동일한 평균 제곱, F 값 및 p- 값을 계산할 수있는 동일한 DF 및 제곱합을 얻을 수 있습니다.

마지막으로 계수 추정치를 비교해 봅시다.

beta.1.hat <- coef(fit.1)
beta.2.hat <- coef(fit.2)

출력은

(Intercept) factor(group)2 factor(group)3 
  0.4508762      2.8073697      4.5084944 

(Intercept)       group  I(group^2) 
 -3.4627385   4.4667371  -0.5531225 

인터셉트도 완전히 다릅니다. 다중 회귀 분석에서 변수의 추정치는 다른 모든 변수의 추정치에 의존하기 때문입니다 (모두 서로 직교하지 않는 한 두 모델 모두 해당되지 않음). 그러나 곱셈이 무엇을 수행 하는지 살펴보십시오 .V

$V$

$V$

$$\pmatrix{1&1&1 \\ 0&1&3 \\ 0&2&8}\pmatrix{-3.4627385 \\ 4.4667371 \\-0.5531225} = \pmatrix{ 0.4508762 \\ 2.8073697 \\ 4.5084944 }.$$

착용감은 실제로 주장한 것과 동일합니다.

---

답변