태그 보관물: bayesian

bayesian

Shalizi의 베이지안 역 시간 역설의 엔트로피에 대한 반박? 메커니즘이 작업을 필요로하므로 Shalizi가 깔개 밑에서 쓸어내는

에서 본 논문 , 재능있는 연구원 코스 마 샤 리치는 완전히 주관적인 베이지안보기를 수락하려면, 하나의도 (엔트로피의 흐름에 의해 주어진) 시간의 화살표가 실제로 이동해야한다는 비 물리적 결과를 수용해야한다고 주장 뒤쪽을 . 이것은 주로 ET Jaynes 가 제시하고 대중화 한 최대 엔트로피 / 완전히 주관적인 베이지안 견해에 맞서기위한 시도 입니다.

이상에서 LessWrong 많은 기여가 매우 또한 공식적인 의사 결정 이론의 기초와 강력한 AI를 향한 디딤돌로 주관적 베이지안 접근법 베이지안 확률 이론에 관심이있는 엘리에 저 유 코우 스키 공통 기여 거기 내가 최근에 읽고 있던 이 게시물 때를 우연히 이 댓글 (여러 다른 좋은 코멘트는 원래의 게시물의 페이지에 직후 온).

Yudkowsky의 Shalizi 반박의 타당성에 대해 누구나 의견을 말할 수 있습니까? 간단히 말해, Yudkowsky의 주장은 추론 대리인이 자신의 신념을 업데이트하는 물리적 메커니즘이 작업을 필요로하므로 Shalizi가 깔개 밑에서 쓸어내는 열역학적 비용이 든다는 것입니다. 또 다른 의견에서, Yudkowsky는 이것을 말하면서 다음과 같이 말합니다.

“시스템 외부에서 논리적으로 전지구 적 완벽 관찰자의 관점을 취하면,”엔트로피 “의 개념은”확률 “과 같이 거의 의미가 없습니다. 통계 열역학을 사용하여 아무 것도 모델링 할 필요가 없습니다. 파동 방정식. “

어떤 전문가 나 통계학자가 이것에 대해 언급 할 수 있습니까? 나는 Shalizi 또는 Yudkowsky의 지위에 관한 권위의 주장에 대해서는별로 신경 쓰지 않지만 Yudkowsky의 세 가지 요점이 Shalizi의 기사에 대한 비판을 제공하는 방법에 대한 요약을 정말로보고 싶습니다.

FAQ 지침을 준수하고이 질문에 대한 답을 구체적으로 제시하려면 Yudkowsky의 3 단계 인수를 취하고 Shalizi 기사에서 3 단계가 가정 및 / 또는 도출을 반박하는 위치를 나타내는 구체적이고 항목 화 된 응답을 요청하고 있습니다. 반면에, Shalizi의 논문에서 Yudkowsky의 주장이 다루어 진 곳을 나타냅니다.

나는 종종 Shalizi 기사가 완전한 주관적인 베이지안주의를 방어 할 수 없다는 철의 증거로 선전하는 것을 들었습니다 …하지만 Shalizi 기사를 몇 번 읽은 후에는 결코 적용 할 수없는 장난감 논쟁처럼 보입니다. 관찰되고있는 것 (즉, 모든 실제 물리)과 상호 작용하는 관찰자에게. 그러나 Shalizi는 훌륭한 연구원이므로이 토론의 중요한 부분을 이해하지 못할 가능성이 높기 때문에 두 번째 의견을 환영합니다.



답변

간단히 말해서 : Yudkowsky의 경우 1 : 0입니다.

Cosma Shalizi는 일부 측정에 따른 확률 분포를 고려합니다. 그는 그에 따라 확률을 업데이트합니다 (여기서는 Bayensian 추론 또는 다른 것이라면 중요하지 않습니다).

놀랍지 않게, 확률 분포의 엔트로피가 감소합니다.

그러나 그는 시간의 화살표에 대해 무언가를 말하고 있다는 잘못된 결론을 내립니다.

이러한 가정은 시간의 화살표를 뒤집습니다. 즉, 엔트로피를 증가시키지 않습니다.

의견에서 지적했듯이 열역학에 중요한 것은 닫힌 시스템 의 엔트로피입니다 . 즉, 열역학 제 2 법칙 에 따르면 , 폐쇄 시스템의 엔트로피는 감소 될 수 없다. 서브 시스템 (또는 개방 시스템)의 엔트로피에 대해서는 아무 것도 말하지 않습니다. 그렇지 않으면 냉장고를 사용할 수 없습니다.

그리고 일단 sth를 측정 (즉, 상호 작용하고 정보를 수집)하면 더 이상 닫힌 ​​시스템이 아닙니다. 우리는 두 번째 법칙을 사용할 수 없거나 측정 시스템과 관찰자 (예 : 우리 자신)로 구성된 폐쇄 시스템을 고려해야합니다.

특히, 입자의 정확한 상태를 측정 할 때 (분포를 알기 전에) 실제로 엔트로피를 낮 춥니 다. 그러나 정보를 저장하려면 최소한 같은 양만큼 엔트로피를 증가시켜야합니다 (일반적으로 엄청난 오버 헤드가 있음).

따라서 Eliezer Yudkowsky는 좋은 지적을합니다.

1) 측정은 작업을 사용합니다 (또는 다음 측정 사용 작업을 위해 최소한 삭제).

실제로 여기서 일에 대한 언급은 가장 중요하지 않습니다. 열역학은 에너지와 엔트로피를 관련 (또는 거래)하는 것에 관한 것이지만, 우리는 돌아 다닐 수 있습니다 (즉 , Shalizi가 회의적Landauer의 원칙 에 의지 할 필요는 없습니다 ). 새로운 정보를 수집하려면 이전 정보를 삭제해야합니다.

고전 역학 (및 양자)과 일관성을 유지하기 위해 부작용없이 모든 0에 임의로 매핑하는 함수를 만들 수 없습니다 . 메모리를 모두 0에 매핑하는 기능을 만들 수 있지만 동시에 정보를 어딘가에 덤프하면 환경의 엔트로피가 효과적으로 증가합니다.

(위의 내용은 해밀턴 역학, 즉 고전적인 경우 위상 공간 보존, 양자 경우의 진화의 단일성에서 비롯된 것입니다.)

추신 : 오늘날의 트릭- “엔트로피 감소”:

  • 편향되지 않은 동전을 뒤집지 만 결과를 보지 마십시오 ( 비트).
    H=1

  • 눈을 떠. 이제 상태를 알 수 있으므로 엔트로피는 비트입니다.
    H=0


답변

Shalizi의 결함은 매우 기본적이며 시간 진화가 되돌릴 수 없다는 가역 I에서 가정합니다.

개별 상태의 시간 진화는 가역적입니다. 시스템이 평형 상태가 아닌 한, ALL OF PHASE SPACE에 대한 분포의 시간 진화는 가장 확실하게 되돌릴 수 없습니다. 이 논문은 개별 국가의 위상 공간이 아닌 모든 위상 공간에 걸친 분포의 시간 진화를 다루기 때문에, 가역성의 가정은 완전히 비 물리적이다. 평형의 경우 결과는 사소합니다.

시간의 화살표는 실제로 분포의 시간 진화가 가역적이지 않다는 사실에서 비롯됩니다 (구배가 떨어지고 가스가 퍼지는 이유). 비가역성은 ‘충돌 용어’에서 나온 것으로 알려져있다

이 점을 고려하면 그의 주장은 무너집니다. 정보 엔트로피 = 여전히 열역학적 엔트로피. :디


답변

링크 된 논문은

진화 연산자 T는 되돌릴 수 없습니다.

그러나 기존 방식으로 QM을 사용하는 경우에는이 가정이 적용되지 않습니다. 동일한 확률로 X2 또는 X3으로 진화 할 수있는 상태 X1이 있다고 가정합니다. 상태 X1이 가중치 세트 [1/2 X2 + 1/2 X3]로 진화한다고 말할 수 있습니다. Shalizi는 이 세트 가 X1보다 더 큰 엔트로피를 가지고 있지 않다는 것을 증명합니다 .

그러나 우리는 관찰자로서 또는 그 시스템의 일부로서 X2 또는 X3 분기 중 하나만 볼 수 있습니다. 우리가 살펴볼 두 가지 중 하나를 선택하면 새로운 엔트로피가 약간 추가되고이 선택은 되돌릴 수 없습니다. 시간이 지남에 따라 엔트로피가 증가하는 곳입니다. Shalizi가 한 일은 모든 엔트로피가 양자 분기에서 시작되는 수학을 사용한 다음 양자 분기가 발생한다는 것을 잊어 버리는 것입니다.


답변