lecture 25. Symmetric Matrices and Positive Definiteness

https://www.youtube.com/watch?v=UCc9q_cAhho&list=PLE7DDD91010BC51F8&index=27 

 

1. symmetirc matrix

실수로 이루어진 symmetric matrix의 eigenvalue와 eigenvector의 특징은 아래와 같다.

 

1. the eigenvalues are real

2. the eigenvectors are perpendicular

 

2번째 성질 때문에 eigenvectors는 perpendicular 하고 scaling 하여 크기가 1인 unit vector로 만들 수 있다. 즉, orthonormal vector로 생각할 수 있다. 따라서 factorization 할때 아래와 같이 할 수 있다.

 

이제 symmetric matrix의 eigenvalue가 실수인 이유를 알아보자.

우선 conjugate number를 구한다. 이때 A는 실수로 설정했기 때문에 conjugate 해도 달라지는 것이 없기 때문에 그대로 A로 적는다. 다음으로는 transpose 한다.

A는 symmetric matrix이기 때문에 transpose해도 변화가 없기 때문에 그대로 A로 적는다. 이제 \(bar{x}\)와 inner product한다.

이렇게 inner product를 사용해 구한 두개의 식을 사용하면 아래와 같이 적을 수 있다.

따라서 eigenvalue가 항상 실수인 것이다. 그리고 위의 식에서 \(\bar{x}^Tx\)를 보자.

이것을 계산하면 conjugate number의 곱의 형태가 되며 이것의 결과는 항상 실수이다. 그래서 \(\bar{x}^Tx\)로 양변을 나눌 수 있었던 것이다.

 

만약 좋은 행렬의 조건이 

1. the eigenvalues are real

2. the eigenvectors are perpendicular

이라고 하자. matrix A가 실수로 이루어져 있으면 symmatric matrix가 좋은 행렬이다. 하지만 A가 complex number로 이루어져 있으면 \(A=\bar{A}^T\)가 좋은 행렬이다. 이것은 앞에서 eigenvalue가 실수인 이유를 증명하는 과정을 보면 이해할 수 있다. 앞에서는 A가 실수라고 했기 때문에 A에서 bar을 지웠지만 complex numbe라면 bar을 지울 수 없기 때문에 이렇게 되는 것이다.

 

\(A=Q\Lambda Q^T\)를 계산하면 어떻게 될까?

앞에서 배운 projection matrix를 생각해 보자. 이때 \((q_1)^Tq_1=1\)이므로  \(q_1(q_1)^T\)는 projection matrix로 생각할 수 있다. 그래서 모든 symmetric matrix는 mutually perpendicular한 matrix의 결합으로 생각할 수 있다. 이것은 spectrum matrix를 생각하는 또 다른 방법이 되며 모든 symmetric matrix는 위와 동일한 방식으로 분해될 수 있다.

 

2. positive definite matrix

50X50 matrix의 eigenvalue를 찾는다고 하자. 구할 수는 있겠지만 계산과정이 매우 복잡할 것이다. 하지만 eigenvalue를 직접 구하지 않아도 eigenvalue의 부호에 관한 정보를 얻을 수 있다. pivot의 부호와 eigenvalue의 부호가 같기 때문이다. 즉, positive pivot의 수와 positive eigenvalue의 수가 동일하고  negative pivot의 수와 negative eigenvalue의 수가 동일하다는 것이다. 이것이 각 eigenvalue이 무엇인지를 알려주지는 않는다. 하지만 부호를 아는 것 자체로 differential equation의 stability를 파악할 수 있다.

이제 positive definite matrix를 알아보자. 이것은 symmetric matrix로 모든 eigenvalues가 양수이고 모든 pivots가 양수이다. pivot과 eigenvalue가 모두 양수이므로 determinant도 양수라고 판단할 수 있다. 그러나 단순히 determinant가 양수인 것 만으로는 충분하지 않다. determinant가 양수이지만 eigenvalues가 모두 음수인 경우가 있을 수도 있기 때문이다. 정확한 표현은 모든 sub-determinants가 양수인 것이다. (sub-determinant는 왼쪽 위에서 부터 1X1, 2X2, ... nXn의 크기를 갖는 matrix들을 의미한다.)