본문 바로가기

언어/ㄴTheano7

[theano] The experiment for understanding about update of theano.function theano.function 에서 updates가 어떻게 돌아가는지 실험해보겠다. 일단 update를 할 때 기본적으로 theano.tensor.grad라는 함수를 알아야한다. grad함수를 이용하여 weight들을 update하게된다. 다음의 예제 소스를 참고하여 weight들이 어떻게 변하는지 살펴보자. Let me experiment how to update parameters in theano.function library. When you use 'updates' in theano.function, basically, you know the theano.tensor.grad library. Weight variable is updated by theano.tensor.grad lib. we ob.. 2016. 2. 2.
[theano] why dose theano.function use 'givens' in theano? 원문 그대로 들고옴. Theano, 헷갈리는 shared variable 및 updates, givens 개념 May 12, 2015 Theano를 처음 익힐 때 조금 헷갈리는 부분이 shared variable, 그리고 updates, givens 문법인데, 이런 문법이 굳이 왜 필요한지 의문이 들기 때문이다. 여기 링크에 설명이 잘 돼있긴 하지만 좀 더 정리해본다. 예제 설명을 위한 예제로 Ordinary Least Square 문제 (Linear Regression) 또는 Vector Form으로 나타내면 를 생각해보자. 사실 이 문제는 Analytic Solution이 존재하지만 여기서는 예시를 위해 Gradient Descent Learning을 하는 것으로 생각한다. 우선 Theano가 권장하.. 2016. 1. 25.
[theano] what is dimshuffle and how to use? # build symbolic expression to add bias and apply activation function, i.e. produce neural net layer output # A few words on ``dimshuffle`` : # ``dimshuffle`` is a powerful tool in reshaping a tensor; # what it allows you to do is to shuffle dimension around # but also to insert new ones along which the tensor will be # broadcastable; # dimshuffle('x', 2, 'x', 0, 1) # This will work on 3d tensor.. 2016. 1. 21.
[pycuda error] Failed to compile cuda_ndarray.cu: libcublas.so.6.5: cannot open shared object file: No such file or directory If you get an error message that is Failed to compile cuda_ndarray.cu: libcublas.so.6.5: cannot open shared object file: No such file or directory , follow this order.So you need to locate and configure that path:locate libcublas.so.6.5Add the following library path to ~/.bashrc (Second path has libcublas.so.6.5)sudo ldconfig /usr/local/cuda-6.5/lib64/ sudo ldconfig /usr/local/cuda-6.5/targets/x.. 2016. 1. 11.