적응 형 신호 처리 / 머신 러닝 분야에서 딥 러닝 (DL) 은 머신의 복잡한 표현을 훈련 할 수있는 특정 방법론입니다.

일반적으로 일련의 계층 적으로 누적 된 ( ‘깊은’출처) 작업을 통해 입력 를 대상 목표 매핑 할 수있는 공식이 있습니다. . 이러한 연산은 일반적으로 선형 연산 / 투영 ( )에 이어 비선형 성 ( )이 뒤 따릅니다 .x

$\mathbf{x}$

$\mathbf{x}$y

$\mathbf{y}$

$\mathbf{y}$Wi

$W_i$

$W_i$fi

$f_i$

$f_i$

$$\mathbf{y} = f_N(...f_2(f_1(\mathbf{x}^T\mathbf{W}_1)\mathbf{W}_2)...\mathbf{W}_N)$$

현재 DL 내에는 여러 가지 아키텍처가 있습니다 . 이러한 아키텍처 중 하나를 CNN ( Convolutional Neural Net )이라고합니다. 다른 아키텍처는 MLP ( Multi-Layer Perceptron ) 등 으로 알려져 있습니다. 다른 아키텍처는 다른 유형의 문제를 해결하는 데 적합합니다.

MLP는 아마도 가장 전통적인 유형의 DL 아키텍처 중 하나 일 것입니다. 이는 이전 계층의 모든 요소가 다음 계층의 모든 요소에 연결될 때입니다. 다음과 같이 보입니다 :

MLP에있어서, matricies 인코딩 다른 하나의 층으로부터 변환. (행렬 곱하기를 통해). 만약 다음 20 개 뉴런에 연결된 하나의 층 (10 개) 신경 세포가 예를 들어, 다음은 매트릭스 것이다 의 입력을 매핑하는 것이다 을 출력 에 출력합니다. . 모든 열은 레이어의 모든 요소에서 다음 레이어의 요소 중 하나로 가는 모든 가장자리를 인코딩합니다 .Wi

${\mathbf{W}}_i$

$\mathbf{W}_i$W∈R10x20

$\mathbf{W}\in R^{10\text{x}20}$

$\mathbf{W} \in R^{10 \text{x} 20}$v∈R10x1

$\mathbf{v}\in R^{10\text{x}1}$

$\mathbf{v} \in R^{10 \text{x} 1}$u∈R1x20

$\mathbf{u}\in R^{1\text{x}20}$

$\mathbf{u} \in R^{1 \text{x} 20}$u=vTW

$\mathbf{u}={\mathbf{v}}^T\mathbf{W}$

$\mathbf{u} = \mathbf{v}^T \mathbf{W}$W

$\mathbf{W}$

$\mathbf{W}$

MLP는 훈련하기가 어려워서 호의를 얻지 못했습니다. 그 어려움에 대한 많은 이유가 있지만, 그 중 하나는 밀도가 높은 연결로 인해 다양한 컴퓨터 비전 문제에 맞게 쉽게 확장 할 수 없었기 때문입니다. 다시 말해서, 번역 평형이 구워지지 않았습니다. 즉, 이미지의 한 부분에 민감해야 할 신호가 있다면, 민감도를 조정하는 방법을 다시 학습해야합니다. 그 신호는 움직였다. 이것은 그물의 용량을 낭비하고 훈련이 어려워졌습니다.

CNN이 온 곳입니다! 다음은 하나의 모습입니다.

그들은 때문에 CNNs는 신호 변환 문제를 해결 컨 볼브 이때 사방, 검출기 (커널) 각각의 입력 신호를, 따라서 동일한 기능에 민감 할 수 있지만. 이 경우, 우리의 방정식은 여전히 ​​똑같아 보이지만, 가중치 수학 는 실제로 컨볼 루션 토플 리츠 수학 입니다. 수학은 동일합니다. Wi

${\mathbf{W}}_{\mathbf{i}}$

$\mathbf{W_i}$

“CNNs”는 네트 전체에 컨볼 루션 레이어가있는 네트와 맨 끝에 MLP가있는 것을 참조하는 것이 일반적입니다.

---

답변