인공지능 프레임워크 개발 프로젝트
개발 목표
상용 인공지능 프레임워크(TF, Keras 등)들과 비슷한 수준의 API를 제공하는 프레임워크를 제작한다. 각자 원하는 언어로 구현하며, 최소한의 라이브러리만으로 구현하는 것을 목표로 한다. 개발을 하며 다양한 신경망을 직접 구현하면서 만든 프레임워크를 개선한다.
To-do List
- 신경망 학습 api 구현
- autograd 구현
- active 함수 구현
- mini-batch 구현
- DNN 구현
- CNN 구현
- RNN 구현
프로젝트 과정
미적분
- 기초 미분 법칙 복습
- Jacobian matrix(야코비안 행렬)
- 컴퓨터 대수 구현
- Symbolic differentiation 구현
- Reverse-mode differentiation(후위 방식) 구현
인공지능 기초
- perceptron(퍼셉트론)
- multi-layer perceptron(다층 퍼셉트론)
- 경사 하강법
- 예측 모델
- 분류 모델
고급 테크닉
- SDG
- 기타 optimizer
- 가중치 초기화
- traning set/test set
- 모델 평가
인공지능 심화
- CNN
- RNN
Comments