[메모] 머신러닝에서 컨벌루션 신경망까지 딥러닝 첫걸음(정리중)
요즘 많이들 읽는 머신러닝에서 컨벌루션 신경망까지 딥러닝 첫걸음 책을 읽고 메모한 내용입니다.
정말 좋은 책이고 여유가 되시면 한 권 구매하시는 것을 추천합니다.
아래는 메모 내용들입니다.
용어의 구분이 필요함.
저자는 인공지능과 머신러닝, 그리고 딥러닝의 관계를 아래 한 문자응로 정리하였다.
"딥러닝은 머신러닝의 일종이고, 머신러닝은 인공지능의 일종이다."
1.머신러닝
머신러닝은 데이터에서 모델을 찾아내는 기법이다.
과적합-학습데이터는 완벽하지 않고 잡음이 섞일 수 있다.
그런데 학습데이터를 완벽하다 생각하고 모델을 여기에 지나치게 맞추다보면 일반화 성능이 떨어지는 모델을 얻게된다 이것을 과적합이라고 한다.
과적합을 막기위해 정칙화와 검증기법을 사용한다.
정칙화는 모델의 형태를 최대한 간단하게 만들려는 수치해석적 기법
모델을 최대한 간단히 만들고 성능을 희생시킬 수 있다.
검증은 학습데이터 중 일부를 과적합 여부를 검증하는데에 쓰고, 성능 저하가 심하면 과적합으로 간주하여 모델을 수정하는 것임.
교차검증은 검증용 데이터를 따로 떼어놓지 않고 학습 진행중에 무작위로 데이터를 골라 사용하는 것임.
-머신러닝의 종류
지도학습-선생님이 정답을 알려주면서 가르치는 것과 비슷함. 입력과 정답의 쌍으로 데이터가 구성되어야 함.
비지도학습-입력데이터는 있지만 정답은 없는 것. 데이터의 특성을 분석하거나 가공하는 목적.
강화학습-학습데이터에 입력,출력,출력에 대한 평가점수가 들어간다.최적의 동작을 학습할 때 쓴다.
책에서는 지도학습만 다루었다고 한다.
-분류와 회귀
분류 데이터가 속하는 범주를 추정함.
스팸메일의 분류와 숫자인식의 예가 있음.
회귀 어떤 값을 예측함.
2.신경망
신경망neural network 뇌의 작동원리를 본 떠 만들었음.
뇌의 신경세포는 노드, 신경세포들의 연결은 연결 가중치.
입력신호의 가중합을 구하고 활성함수에 가중합을 입력해 얻은 값을 외부로 출력한다. 가중치 만큼 다음 전달에 영향을 주는 원리이다.
최초의 신경망은 입력과 출력이 전부인 단층 신경망이었으나 은닉층이 추가된 다층 신경망으로 발전하였고 은닉층이 2개 이상이면 심층 신경망이라고 한다.
3.다층 신경망의 학습
4.신경망과 분류
5.딥러닝
6.컨벌루션 신경망
CHAPTER 1 머신러닝
1.1 머신러닝과 딥러닝
1.2 머신러닝이란
1.3 머신러닝의 난제
1.4 과적합
1.5 과적합과 싸우기
1.6 머신러닝의 종류
1.7 분류와 회귀
1.7 요약
CHAPTER 2 신경망
2.1 서론
2.2 신경망의 노드
2.3 신경망의 계층 구조
2.4 신경망의 지도학습
2.5 단층 신경망의 학습: 델타 규칙
2.6 델타 규칙의 일반 형태
2.7 SGD, 배치, 미니 배치
2.8 예제: 델타 규칙
2.9 단층 신경망의 한계
2.10 요약
CHAPTER 3 다층 신경망의 학습
3.1 서론
3.2 역전파 알고리즘
3.3 예제
3.4 비용함수와 학습 규칙
3.5 예제
3.6 요약
CHAPTER 4 신경망과 분류
4.1 서론
4.2 이진 분류
4.3 다범주 분류
4.4 예제: 다범주 분류
4.5 요약
CHAPTER 5 딥러닝
5.1 서론
5.2 심층 신경망의 성능 개선
5.3 예제
5.4 요약
CHAPTER 6 컨벌루션 신경망
6.1 서론
6.2 컨브넷의 구조
6.3 컨벌루션 계층
6.4 풀링 계층
6.5 예제: MNIST
6.6 요약
댓글