본문 바로가기

Deep learning5

[DNN] Basic structure DNN using theano 기본적인 구조의 DNN을 만들어 보고자 한다. 기본적인 뼈대만 구축할 생각이다. 사실 MLP나 다름없다. MLP와 DNN의 가장 큰 차이는 hidden layer의 개수인데 사실 별 차이가 없긴하다. theano를 이용할 예정인데 theano를 이용하여 기본적인 DNN 사용법을 익혀보기 위함이다. 우선 train, test data가 필요한데 이것은 랩실 형이 만들어 주었다. matlab을 이용하여 가우시안 분포를 이루는 5개의 class로 이뤄진 data set이다. 이 데이터 set은 직접 만들기 바란다. 공유하고 싶지만 내가 짠 코드가 아니니까.. 힌트를 주자면 gaussian distribution에 대해 알면 쉽게 만들 수 있다. 우선 각 class의 1/5 정도는 test set으로 분류하고 .. 2016. 2. 1.
[data] why use the train, valid, test set to create model? Training set: a set of examples used for learning: to fit the parameters of the classifier In the MLP case, we would use the training set to find the “optimal” weights with the back-prop rule Validation set: a set of examples used to tune the parameters of a classifier In the MLP case, we would use the validation set to find the “optimal” number of hidden units or determine a stopping point for .. 2016. 1. 22.
compare Theano with Torch7 ================================================================================================================================================================ Reference http://ir.hit.edu.cn/~jguo/docs/notes/a_simple_tutorial_on_theano.pdf 2016. 1. 21.
Compare DNN toolkit(summary) 2016. 1. 4.