Deep Learning · Neural Network

다층 신경망 & 역전파

입력 x가 행렬(가중치)을 통과하며 예측값 ŷ를 만들고, 정답 y와의 오차(Loss)를 역방향으로 미분해 각 가중치를 업데이트합니다.

순전파: ŷ = σ(W₂·tanh(W₁·x + b₁) + b₂)
Loss = −y·log(ŷ) − (1−y)·log(1−ŷ)
W ← W − α · ∂L/∂W
0. 초기화
1. 순전파
2. 손실 계산
3. 역전파
4. 가중치 갱신
NETWORK ARCHITECTURE 2→3→1
W₁ 행렬 가중치 (3×2)
W₂ 행렬 가중치 (1×3)
학습 샘플 — XOR 문제
α 학습률 0.30
계산 흐름 (현재 샘플)
x = [?, ?]
·
W₁
+b₁→
z₁ = [?,?,?]
tanh→
a₁ = [?,?,?]
·
W₂
+b₂→
z₂ = ?
σ→
ŷ = ?
vs
y = ?
L = ?
입력 x
출력 ŷ
정답 y
손실 L
에포크
0
학습 손실 곡선 epoch 0 avg loss: acc: —
샘플을 선택하고 ▶ 순전파 버튼을 눌러 단계별로 진행하세요. 또는 🔁 자동 학습으로 전체 학습 과정을 확인하세요.
양수 가중치
음수 가중치
순전파 신호
역전파 그래디언트
출력 / 정답