태그 보관물: deep-belief-networks

deep-belief-networks

딥 트러스트 네트워크 또는 딥 볼츠만 머신? Boltzmann Machines에는 차이가 있습니까? 그렇다면 차이점은

혼란 스러워요. Deep Faith 네트워크와 Deep Boltzmann Machines에는 차이가 있습니까? 그렇다면 차이점은 무엇입니까?



답변

DBN (Deep Belief Networks)과 DBM (Deep Boltzmann Machines)은 도식적으로 매우 유사 해 보이지만 실제로는 질적으로 매우 다릅니다. 이는 DBN이 지시되고 DBM이 지시되지 않기 때문입니다. 우리가 그것들을 더 넓은 ML 그림에 맞추고 자한다면 DBN은 잠재적으로 밀접하게 연결된 많은 잠재 변수 층을 가진 S 자형 신념 네트워크이고 DBM은 많은 밀접하게 연결된 잠재 변수 층을 가진 마르코프 무작위 필드라고 말할 수 있습니다.

따라서 이러한 모델의 모든 속성을 상속합니다. 예를 들어, DBN 컴퓨팅 , 여기서 는 가시적 레이어이고 는 숨겨진 변수입니다. 다른 한편으로, 의 계산은 다루기 어려운 파티션 기능으로 인해 DBM에서 일반적으로 계산 불가능합니다.

피(V|h)

V

h

그것은 유사성이 있다고합니다. 예를 들면 다음과 같습니다.

  1. DBN과 원래 DBM은 제한된 Bolzmann 머신 (RBM)의 탐욕스러운 계층 별 교육을 기반으로하는 초기화 체계를 사용하여 작동합니다.
  2. 그들은 둘 다 “깊다”.
  3. 둘 다 잠재적 변수의 계층을 특징으로하며 위와 아래의 계층에 밀접하게 연결되어 있지만 계층 내부 연결은 없습니다.

답변

둘 다 스택 된 RBM 레이어로 구성된 확률 적 그래픽 모델입니다. 차이점은이 레이어들이 어떻게 연결되는지에 있습니다.

이 링크는 http://jmlr.org/proceedings/papers/v5/salakhutdinov09a/salakhutdinov09a.pdf에서 상당히 명확 합니다. 그림 2와 3.1은 특히 관련이 있습니다.

요약하면 다음과 같습니다.

DBN에서 계층 간 연결이 지시됩니다. 따라서 처음 두 레이어는 RBM (무 방향 그래픽 모델)을 형성 한 후 후속 레이어는 지정 생성 모델을 형성합니다.

DBM에서 모든 계층 간의 연결은 방향이 지정되지 않으므로 각 계층 쌍은 RBM을 형성합니다.


답변