무작위 추적 기법 값을 이해하기 위해 어디를 봐야합니까? 평균이 고유

M. Seeger에서 다음과 같은 무작위 추적 기법 을 만났습니다 . 담당자, 2007.

tr⁡(A)=E[xTAx]

여기서 입니다.

x∼N(0,I)

심도있는 수학 배경이없는 사람으로서, 나는이 평등이 어떻게 달성 될 수 있는지 궁금합니다. 또한, 예를 들어 기하학적으로 어떻게 해석 할 수 있습니까? 벡터의 내부 곱을 가져 오는 의미와 그 범위 값을 이해하기 위해 어디를 봐야합니까? 평균이 고유 값의 합과 같은 이유는 무엇입니까? 이론적 인 속성 외에도 실제적인 중요성은 무엇입니까?

xTAx

작동하는지 확인하기 위해 MATLAB 코드 스 니펫을 작성했습니다

#% tr(A) == E[x'Ax], x ~ N(0,I)

N = 100000;
n = 3;
x = randn([n N]); % samples
A = magic(n); % any n by n matrix A

y = zeros(1, N);
for i = 1:N
    y(i) = x(:,i)' * A * x(:,i);
end
mean(y)
trace(A)

추적은 15이며 근사값은 14.9696입니다.



답변

NB 명시된 결과는 좌표의 정규성 또는 독립성에 의존하지 않습니다. . 그것은 도 양의 명확한 것에 의존하지 않습니다 . 실제로, 가정 의 좌표 것을 하나의 제로 평균, 분산을 가지고있는 상관 관계가없는 (그러나 반드시 독립적이지); 즉, 모든 대해 , 및 입니다 .A x E x i = 0 E x 2 i = 1 E x i x j = 0 i j

x

A

x

Exi=0

Exi2=1

Exixj=0

i≠j

맨손으로 접근

하자 임의의 수 행렬. 정의에 따르면 입니다. 그런 다음

가 완료되었습니다.n × n t r ( A ) = n i = 1 a i i t r ( A ) = n i = 1 a i i = n i = 1 a i i E x 2 i = n i = 1 a i i E

A=(aij)

n×n

tr(A)=∑i=1naii

tr(A)=∑i=1naii=∑i=1naiiExi2=∑i=1naiiExi2+∑i≠jaijExixj,

명확하지 않은 경우, 기대의 선형성에 따라 오른쪽은

∑i=1naiiExi2+∑i≠jaijExixj=E(∑i=1n∑j=1naijxixj)=E(xTAx)

추적 속성을 통한 증명

이것을 제안하는 또 다른 방법이 있지만 암시 적으로 약간 고급 도구에 의존합니다. 우리는 기대와 추적 연산자가 모두 선형 하고 와 의 적절한 차원의 . 그런 다음 이므로

이므로

A

B

tr(AB)=tr(BA)

xTAx=tr(xTAx)

E(xTAx)=E(tr(xTAx))=E(tr(AxxT))=tr(E(AxxT))=tr(AExxT),

E(xTAx)=tr(AI)=tr(A).

2 차 형태, 내부 제품 및 타원체

경우 포지티브 한정하고 내부 제품에 을 통해 정의 될 수 및 은 원점을 중심으로 타원체를 정의합니다 .

A

Rn

⟨x,y⟩A=xTAy

EA={x:xTAx=1}

Rn

답변

경우 대칭이며, 일정한 양의 다음 와 정규직 교 및 대각선 고유 대각선. 에는 항등 분산 행렬이 있고 는 정규직 교 이기 때문에 에는 항등 분산 행렬도 있습니다. 따라서 라고 쓰면 입니다. 기대 연산자는 선형이므로 입니다. 각 는 자유도가 1 인 카이 제곱이므로 기대 값 1을 갖습니다. 따라서 기대 값은 고유 값의 합입니다.A = U t D U

A

A=UtDU

U

D

x

U

Ux

y=Ux

E[xTAx]=E[ytDy]

∑i=0nλiE[yi2]

yi

기하학적으로, 양의 양의 한정 행렬 는 타원체와 1-1 대응 관계로 방정식으로 주어집니다 . 타원체 축의 길이는 로 주어집니다. 여기서 는 고유 값입니다.x T A x = 1 1 /

A

xTAx=1

λi

1/λi

λi

경우 여기서, 공분산 행렬이고, 이는의 정사각형 마할 라 노비스 거리 . C

A=C−1

C


답변

질문의 “실제적인 중요성은 무엇인가”부분을 다루겠습니다. 우리가 컴퓨팅 행렬 벡터 제품에 능력이있는 많은 상황이있다 우리가 매트릭스의 저장된 사본이없는 효율적 경우에도 또는 사본 저장하기에 충분한 저장하지 않아도 . 예를 들어 의 크기는 100,000 x 100,000이고 완전 밀도 일 수 있습니다. 이러한 행렬을 배정 밀도 부동 소수점 형식으로 저장하려면 80GB의 RAM이 필요합니다. A A A

Ax

A

A

A

이런 알고리즘은 무작위의 추적 추정하는데 사용될 수 개별 대각선 엔트리 (관련 알고리즘을 사용하여) 또는 .

A

A

대규모 지구 물리학 적 역전 문제에 대한이 기법의 일부 응용은

JK MacCarthy, B. Borchers 및 RC 애 스터. 모델 해상도 행렬 대각선의 효율적인 확률 론적 추정과 큰 지구 물리학 적 역 문제에 대한 일반화 된 교차 검증. 지구 물리학 저널, 116, B10304, 2011.
논문 링크


답변