본문 바로가기

전체 글

tf.transpose 함수 사용하기 텐서플로의 transpose 함수는 행렬 연산의 transpose 를 구현하는 함수이다. 함수의 사용법은 아래와 같고, tf.transpose( a, perm=None, conjugate=False, name='transpose' ) a A Tensor. perm A permutation of the dimensions of a. This should be a vector. conjugate Optional bool. Setting it to True is mathematically equivalent to tf.math.conj(tf.transpose(input)). name A name for the operation (optional). Args A transposed Tensor. Returns .. 더보기
우분투 initramfs unpacking failed /etc/initramfs-tools/initramfs.conf 파일을 열어서 COMPRESS=lz4, to COMPRESS=gzip 로 바꾸고 sudo update-initramfs -u 하면 되는데... 이렇게 하면 부팅이 느려지는 것 같다. COMPRESS=lz4 로 하고 $ sudo update-grub;sudo update-initramfs -c -k all;sudo update-grub 하는 것도 방법이라고 함. 더보기
Bayes Discriminants and Neural Networks Pattern Classification Duda 책에 나온 Bayes룰과 Neural Networks의 관계에 대하여 증명하는 내용이 다소 불친절하여 좀 더 정리하고자 한다.Neural Networks에서의 \( k\)번째 출력을 \( g_k (x;w_k)\) 라고 한다. 카테고리가 \(w_k)\) 일때 이에 해당하는 discriminant function이 된다.Bayes 룰은 아래와 같다.$$ P(w_k | x) = \cfrac{p(x | w_k)P(w_k)}{\sum_{i=1}^c p(x|w_i)p(w_i)} = \cfrac{p(x,w)}{p(x)}$$어떤 패턴 \( x\) 에 대한 Bayes decision : \( g_k(x) =P(w_k|x) \)를 갖는 가장 큰 카테고리 \(w_k \)를 .. 더보기
Sufficient Statistics and the Exponential Family Factorization Theorem 이 어떻게 sufficient statistics를 구하는데 사용되는지 알기 위하여 \(d\) 차원 normal case, 고정 covariance인 경우를 생각해 본다. 평균을 알려져 있지 않고, \( p(x|\theta) \;\sim \; N(\theta,\Sigma) \) 여기서 우리는 $$ \begin{split} p(\mathcal{D}|\theta) &= \prod_{k=1}^n \cfrac{1}{(2\pi)^{d/2}|\Sigma|^{1/2}} exp[-\cfrac{1}{2}(x_k-\theta)\Sigma ^{-1}(x_k -\theta)] \\&= \cfrac{1}{(2\pi)^{nd/2}|\Sigma|^{n/2}} exp[-\cfrac{1}{2}\.. 더보기
BAYESIAN PARAMETER ESTIMATION : General theory and 예제 Bayesian 접근법은 특별한 경우 즉 multivariate Gaussian에서 원하는 density \( p(x| \mathcal{D})\) 를 얻기 위하여 사용된다. 이 접근법은 알려지지 않은 density가 parameterized 되는 경우에 적용 될 수 있도록 일반화 될 수 있다. \( \bullet \; \) \( p(x| \theta) \)는 알려져 있다고 가정한다. 그러나 \( \theta\)의 값은 정확하게 모른다. \( \bullet \;\) \( \theta\)의 대한 초기 값은 알려진 prior density \( p( \theta)\) 에 포함되어 있다고 가정한다. \( \bullet \;\) \(\theta\)에 대한 나머지 정보는 알려지지 않은 Probability dens.. 더보기
MathJax 유용한 팁 MathJax는 현재 사용하고 있는 tistory에서 LaTex를 사용 할 수 있게 하여 준다. LaTex를 Tistory에서 사용하면서 자주쓰고 유용한 내용에 대하여 정리 하고자 한다. 모바일 수식 보기 기존 설정에서 CSS 에만 설정하면 PC용으로는 수식이 보이는데, 모바일에서는 수식이 보이지 않는다. 이럴 경우 입력기를 html 모드로 바꾸고 사이에 아래 코드를 넣어 준다. 수식 정렬 $...$ 사이에 \begin{split} \end{split} 을 넣어 주고 정렬을 하고 하는데 &를 넣어 준다. \begin{split} A &= B \\ &=C \\ &=D \end{split 실행하면 다음과 같다. $$\begin{split} A &= B \\ &=C \\ &=D \end{split}$$ 참고).. 더보기
Expected value of Quadratic forms \( A \) 행렬을 \( n \times n \) 이라고 하자. 그러면 quadratic form은 \( A \) 행렬과 연관 되어 있으며 function \( Q_A \) 는 다음과 같이 정의한다. $$ Q_A(x) = x^T A x \quad (x \in \mathsf{R}^n )$$ 예를 들어 \( 2 \times 2 \) 행렬이라고 해보자. \(x = \{x_1, x_2\}^T \) 이고 \(A = \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \) 라고 하자. 그러면 $$ \begin{split} Q_A &= x^T A x = \begin{bmatrix} x_{1} & x_{2} \end{bmatrix} \begin{bmat.. 더보기
Linear estimation of vector parameters 시스템을 상태방정식으로 표현 할때 내부 변수의 최적 추정 방법은 다음과 같다. 실 세상에서는 많은 측정의 문제가 아래와 같이 표현 된다. $$ y(t)= \int_T h(t,\tau)\theta(\tau)d\tau + n(t) $$ \( y(t) \)는 측정(observation or measurement) T는 적분 범위이고, \( \theta(\tau)\) 는 우리가 알려고 하는 내부 변수이다. \(h(t,\tau)\)는 시스템의 특성(characteristic) 함수이다. 내부변수를 알려면 노이즈로 인하여 에러가 발생한다. 계산의 용의 성을 위하여 위식은 아래와 같이 discrete 형태로 만들어진다. $$ Y=H\theta +N $$ 여기서 \( Y \) 은 \( n \times1 \), \( H.. 더보기

티스토리툴바