Theano, 헷갈리는 shared variable 및 updates, givens 개념

Theano, 헷갈리는 shared variable 및 updates, givens 개념 May 12, 2015 Theano를 처음 익힐 때 조금 헷갈리는 부분이 shared variable, 그리고 updates, givens 문법인데, 이런 문법이 굳이 왜 필요한지 의문이 들기 때문이다. 여기 링크에 설명이 잘 돼있긴 하지만 좀 더 정리해본다. 예제 설명을 위한 예제로 Ordinary Least Square 문제 (Linear Regression) 또는 Vector Form으로 나타내면 를 생각해보자. 사실 이 문제는 Analytic Solution이 존재하지만 여기서는 예시를 위해 Gradient Descent Learning을 하는 것으로 생각한다. 우선 Theano가 권장하는 형태로는 아래와 같