1. AI·ML·DL 차이와 머신러닝 학습 방식
인공지능, 머신러닝, 딥러닝의 관계와 지도·비지도·자기지도·강화학습의 차이를 정리합니다.
Machine Learning｜Deep Learning (6)
2. 손실 함수와 경사하강법
인공 신경망의 가중치와 바이어스, 선형 회귀와 경사하강법을 정리합니다. 미니배치 학습, 모멘텀, RMSprop, Adam의 작동 원리를 살펴봅니다.
3. 활성화 함수
비선형 활성화 함수가 필요한 이유와 선형 출력을 쓰는 경우를 살펴보고, sigmoid와 ReLU, Leaky ReLU, Swish, GELU를 비교합니다.
4. 역전파 알고리즘
예측값에서 손실까지 이어지는 계산 경로를 거슬러 올라가며 가중치의 미분을 구하고, 그 값으로 가중치를 갱신합니다.
5. 이진분류
계단 함수를 쓰는 퍼셉트론의 한계에서 출발해, 시그모이드와 BCE가 필요한 이유를 살펴보고 최대우도추정으로 손실 함수의 의미를 설명합니다.
6. 다중분류
여러 클래스 중 하나를 고르는 다중분류를 정리합니다. 원-핫 인코딩, softmax와 교차 엔트로피를 살펴봅니다.