야옹이

야옹이

특이한것을 좋아합니다.

인공지능 프레임워크 개발 프로젝트

less than 1 minute read

개발 목표

상용 인공지능 프레임워크(TF, Keras 등)들과 비슷한 수준의 API를 제공하는 프레임워크를 제작한다. 각자 원하는 언어로 구현하며, 최소한의 라이브러리만으로 구현하는 것을 목표로 한다. 개발을 하며 다양한 신경망을 직접 구현하면서 만든 프레임워크를 개선한다.

To-do List

  • 신경망 학습 api 구현
  • autograd 구현
  • active 함수 구현
  • mini-batch 구현
  • DNN 구현
  • CNN 구현
  • RNN 구현

프로젝트 과정

미적분

  • 기초 미분 법칙 복습
  • Jacobian matrix(야코비안 행렬)
  • 컴퓨터 대수 구현
  • Symbolic differentiation 구현
  • Reverse-mode differentiation(후위 방식) 구현

인공지능 기초

  • perceptron(퍼셉트론)
  • multi-layer perceptron(다층 퍼셉트론)
  • 경사 하강법
  • 예측 모델
  • 분류 모델

고급 테크닉

  • SDG
  • 기타 optimizer
  • 가중치 초기화
  • traning set/test set
  • 모델 평가

인공지능 심화

  • CNN
  • RNN

참고 자료

Comments

You May Also Enjoy

확통 정맅노트

1 minute read

[P(A|B) = \frac{P(A \cap B)}{P(B)} E(X) = \sum_x xf(x) E(X) = \int_{-\infty}^{\infty} xf(x) dx E[g(x)] = \sum_x g(x)f(x) E[g(x)] = \int_{-\infty}^{\infty...