Jongmyung Kim

전체 글 (6)

2. 손실 함수와 경사하강법

인공 신경망의 가중치와 바이어스, 선형 회귀와 경사하강법을 정리합니다. 미니배치 학습, 모멘텀, RMSprop, Adam의 작동 원리를 살펴봅니다.

Machine Learning｜Deep Learning

3. 활성화 함수

비선형 활성화 함수가 필요한 이유와 선형 출력을 쓰는 경우를 살펴보고, sigmoid와 ReLU, Leaky ReLU, Swish, GELU를 비교합니다.

Machine Learning｜Deep Learning

4. 역전파 알고리즘

예측값에서 손실까지 이어지는 계산 경로를 거슬러 올라가며 가중치의 미분을 구하고, 그 값으로 가중치를 갱신합니다.

Machine Learning｜Deep Learning

5. 이진분류

계단 함수를 쓰는 퍼셉트론의 한계에서 출발해, 시그모이드와 BCE가 필요한 이유를 살펴보고 최대우도추정으로 손실 함수의 의미를 설명합니다.

Machine Learning｜Deep Learning

6. 다중분류

여러 클래스 중 하나를 고르는 다중분류를 정리합니다. 원-핫 인코딩, softmax와 교차 엔트로피를 살펴봅니다.

Machine Learning｜Deep Learning