학술/수학 썸네일형 리스트형 Expected value of Quadratic forms \( A \) 행렬을 \( n \times n \) 이라고 하자. 그러면 quadratic form은 \( A \) 행렬과 연관 되어 있으며 function \( Q_A \) 는 다음과 같이 정의한다. $$ Q_A(x) = x^T A x \quad (x \in \mathsf{R}^n )$$ 예를 들어 \( 2 \times 2 \) 행렬이라고 해보자. \(x = \{x_1, x_2\}^T \) 이고 \(A = \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \) 라고 하자. 그러면 $$ \begin{split} Q_A &= x^T A x = \begin{bmatrix} x_{1} & x_{2} \end{bmatrix} \begin{bmat.. 더보기 Linear estimation of vector parameters 시스템을 상태방정식으로 표현 할때 내부 변수의 최적 추정 방법은 다음과 같다. 실 세상에서는 많은 측정의 문제가 아래와 같이 표현 된다. $$ y(t)= \int_T h(t,\tau)\theta(\tau)d\tau + n(t) $$ \( y(t) \)는 측정(observation or measurement) T는 적분 범위이고, \( \theta(\tau)\) 는 우리가 알려고 하는 내부 변수이다. \(h(t,\tau)\)는 시스템의 특성(characteristic) 함수이다. 내부변수를 알려면 노이즈로 인하여 에러가 발생한다. 계산의 용의 성을 위하여 위식은 아래와 같이 discrete 형태로 만들어진다. $$ Y=H\theta +N $$ 여기서 \( Y \) 은 \( n \times1 \), \( H.. 더보기 Orthogonality Principle MS 에러를 최소화 하는 상수 \( \alpha_1 \)가 있다고 할때 $$ e= E \langle [x- \alpha_1 z]^2 \rangle $$ \( x- \alpha_1 z \) 와 z 와 orthogonal 할때 최소 값을 갖는다. 즉 $$ E\langle[x- \alpha_1 z]z\rangle = 0 $$ 그리고 이때의 최소 값은 $$ e_m = E\langle[x- \alpha_1 z]x\rangle $$ 이다. 증명) 위 식을 증명하면 $$ e= E \langle [x- \alpha_1 z]^2 \rangle\\=E[x^2]-2\alpha_1 E[xz]+ \alpha^2_1 E[z^2] $$ \( \alpha_1 \) 으로 식을 미분하면 $$ \dfrac {\partial e}{\par.. 더보기 The derivative of a quadratic form quadratic form은 다음과 같이 표현된다. $$ f(x)= x^TAx $$ 단 \(x \in R^m \) 그리고 \(A\)는 \(m \times m\) 이다. 여기에서의 내용은 위 quadratic form을 미분하는 것에 대한 설명이다. 먼저 \(y(x)=Ax\)로 놓으면 $$ f(x,y(x))=x^T \cdot y(x) $$ 가 된다. 완전 미분 공식을 사용하면 $$ f'(x,y(x))=\dfrac{\partial f}{ \partial x} + \dfrac{\partial f}{ \partial y} \cdot y'(x) $$ 첫번째 텀인 \(\dfrac{\partial f}{ \partial x}\) 은 만약 \(y(x) \)가 고정이라면 \( x^T y(x)\)의 내적이고 이를 미분한 .. 더보기 [미적분] 라이프니츠 규칙 (Leibniz Rule) 이 글은 라이프니츠의 규칙이 어떻게 유도되는지에 대한 내용이다. $$ \dfrac {d}{dx} \left (\int^{b(x)}_{a(x)} f(x,t)dt\right )=f(x,b(t))\dfrac{d}{dx}b(x)-f(x,a(x))\dfrac{d}{dx}a(x) + \int^{b(x)}_{a(x)}\dfrac{\partial f(x,t)}{\partial x}dt $$ 적분 범위의 변수를 자세히 보지 않으면 기존에 고등학교에서 배우던 것과 혼동하기 쉽다. 우선 간단하게 모든 \(x\) 에 대하여 \( a(x)=a\) 와 \( b(x)=b\) 인 경우를 보자. $$ \dfrac {d}{dx} \left (\int^{b}_{a} f(x,t)dt\right )=\int^{b}_{a}\dfrac{\par.. 더보기 TRANSFORMING DENSITY FUNCTIONS 어떤 변수의 probability density function을 알고 있다면 transformation function을 사용하여 다른 것도 쉽게 구할 수있다. 일반적인 적분에서 변수 치환의 방법은 흔히 쓰는 방법인데 $$ \int^b _a f(x)dx= \int^{y(b)} _ {y(a)} f(x(y)) {dx \over dy} dy $$ 가 된다. 이 공식은 probability density function를 변환할 때 사용 된다. \( X \) 라 는 랜덤 변수가 있고 이것의 density function \( f(x) \) 라고 하면 정의에 의하여 $$ P(a \leq X < b) = \int^b _a f(x)dx $$ 가 된다. 어떤 랜덤 변수의 함수는 또한 랜덤 변수인데, 만일 \( y \.. 더보기 이전 1 다음