1
20052005년년 가을학기가을학기
문양세문양세
컴퓨터과학과컴퓨터과학과
강원대학교강원대학교 자연과학대학자연과학대학
수치해석수치해석 (Numerical Analysis)(Numerical Analysis)
고유치고유치 ((EigenvaluesEigenvalues) )
Page 2Numerical Analysisby Yang-Sae Moon
고유치(Eigenvalues)In this chapter In this chapter ……
본 장에서는 행렬의 중요한 성질인 고유치(eigenvalues)와 고유 벡터
(eigenvectors)에 대해서,1) 고유치와 고유 벡터의 정의 및 이를 구하는 방법을 배우고,2) 행렬의 특성 방정식과 이를 이용한 케일리-해밀턴 정리를 알아보며,3) 행렬의 함수를 정의하고, 이를 해결하기 위한 무한급수를 배우고,4) 파데브-레브리어 알고리즘과 이를 활용하는 방법을 익힌다..
We will cover …
• 고유치와 고유 벡터
• 케일리-해밀턴 정리
• 행렬의 무한 급수 (we will skip this section)
• 파데브-레브리어 알고리즘
2
Page 3Numerical Analysisby Yang-Sae Moon
We are now We are now ……
고유치와 고유 벡터
케일리-해밀턴 정리
파데브-레브리어 알고리즘
Eigenvalues & Eigenvectors
Page 4Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (1/6)(1/6)
선형 연립 방정식 Ax = b에서, 어떤 정칙 행렬 P가 있어서, 그 행렬이 다
음 관계를 만족한다고 하자.
행렬 P를 사용하여 연립 방정식 Ax = b를 정리하면 다음과 같다.
결국, 원래 연립 방정식은 다음 형태로 정리될 수 있다.
-1
-1
x Px', x' = P xb Pb', b' = P b=
=
-1
Ax=APx' =Pb'(P AP)x'=b'
-1x'=b' ( P AP)Λ Λ=
3
Page 5Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (2/6)(2/6)
여기에서, 행렬 Λ가 다음과 같은 대각 행렬의 성질을 만족시킨다고 하자.
이와 같은 성질(행렬 Λ가 대각 행렬인 성질)을 만족시키는
행렬 P를 모우들 행렬(modal matrix)이라 하고, 이때 만들어진 대각 행렬 Λ를 스펙트럼 행렬(spectrum matrix)라 한다.
1
2
3
0 0 0
0 0 0
0 0 0
0 0 0 n
λ⎡ ⎤⎢ ⎥⎢ ⎥λ⎢ ⎥⎢ ⎥λΛ =⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥λ⎣ ⎦
Page 6Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (3/6)(3/6)
상기 식 Λ = P-1AP의 행렬 P를 n개의 n차원 벡터 p1, …, pn으로 표현하면
다음과 같다.
AP = P =
=
1 2 311 1 1 1
1 2 322 2 2 2
1 2 133 3 3 3
1 2 3
1
2
1 23
0 0 0
0 0 0
0 0 0
0 0 0
0 0 0
0 0 0
0 0 0
0 0 0
n
n
n
nnn n n n
n
n
p p p p
p p p p
p p p p
p p p p
p p p
⎡ ⎤ λ⎡ ⎤⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λΛ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ⎢ ⎥ ⎣ ⎦⎣ ⎦
λ⎡
λ
⎡ ⎤ λ⎣ ⎦
λ
⎤⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥⎣ ⎦
4
Page 7Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (4/6)(4/6)
결국, 원래 연립 방정식은 다음 형태로 정리될 수 있다.
A i iip p= λ
그 이유는, AP = PΛ가 다음과 다음과 같이 나타나기 때문이다.
AP =
1 1 31 1 1 11 1 1 1
1 2 32 2 2 21 1 1 1
1 2 33 3 3 31 1 1 1
1 2 31 1 1 1
n n n n nj j j j j j j jj j j j
n n n n nj j j j j j j jj j j j
n n n n nj j j j j j j jj j j j
n n n n nnj j nj j nj j nj jj j j j
a p a p a p a p
a p a p a p a p
a p a p a p a p
a p a p a p a p
= = = =
= = = =
= = = =
= = = =
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎣
∑ ∑ ∑ ∑∑ ∑ ∑ ∑∑ ∑ ∑ ∑
∑ ∑ ∑ ∑
= = P
1 2 31 1 1 2 1 3 1
1 2 32 1 2 2 2 3 2
1 2 33 1 3 2 3 3 3
1 2 31 2 3
nn
nn
nn
nn n n n n
p p p p
p p p p
p p p p
p p p p
⎤ ⎡ ⎤λ λ λ λ⎥ ⎢ ⎥⎥ ⎢ ⎥λ λ λ λ⎥ ⎢ ⎥⎥ ⎢ ⎥ Λλ λ λ λ⎥ ⎢ ⎥⎥ ⎢ ⎥⎥ ⎢ ⎥⎥ ⎢ ⎥
λ λ λ λ⎢ ⎥ ⎢ ⎥⎣ ⎦⎦
= A = =
1 11
2 21
3 31
1
n i ij j ij
n i ij j ij
n i i i ij j i ij
n i inj j n ij
a p p
a p p
a p p p p
a p p
=
=
=
=
⎡ ⎤ ⎡ ⎤λ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ λ⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥
λ⎢ ⎥ ⎢ ⎥⎣ ⎦⎣ ⎦
∑∑∑
∑
Page 8Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (5/6)(5/6)
지금부터는 편의상 pi를 p로, λi를 λ로 나타내기로 한다.
Ap = λp를 다시 정리하면, 다음과 같다(다음에서, 0는 n차원 벡터이다).
( )I A 0pλ − =
그런데, 여기에서 p는 0가 아니므로, (λI – A) = 0가 되어야 한다.즉, (λI – A)가 특이 행렬(singular)이 되어야 하고, 따라서, 그 행렬식은 0이 되어야 한다(다음 식이 성립하여야 한다).
I A 0λ − =
5
Page 9Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors대각대각 행렬로의행렬로의 변환변환 (6/6)(6/6)
그리고, |λI – A|는다음과 같이 λ에 대한 n차 방정식이 되며,이 방정식을 행렬 A의 특성 방정식(characteristic equation)이라 한다.
1 21 2 1 0 0n n n
n n− −
− −λ + α λ + α λ + + α λ + α =
그 이유는 왼편과 같은
과정으로 행렬식이
구해지기 때문이다.
( )
( )
I A
11 12 13 1
21 22 23 2
31 32 33 3
1 2 3
22 23 2
32 33 311
2 3
11
n
n
n
n n n nn
n
n
n n nn
a a a aa a a aa a a a
a a a a
a a aa a a
a
a a a
a
λ − − − −⎡ ⎤⎢ ⎥− λ − − −⎢ ⎥⎢ ⎥− − λ − −λ − =⎢ ⎥⎢ ⎥⎢ ⎥− − − λ −⎣ ⎦
λ − − −⎡ ⎤⎢ ⎥− λ − −⎢ ⎥= λ − +⎢ ⎥⎢ ⎥− − λ −⎢ ⎥⎣ ⎦
= λ − λ( )33 3
22
3
1 21 2 1 0
n
n nn
n n nn n
a aa
a a− −
− −
λ − −⎡ ⎤⎢ ⎥− +⎢ ⎥⎢ ⎥− λ −⎣ ⎦
= λ + α λ + α λ + + α λ + α
Page 10Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유치의고유치의 정의정의
정의: 행렬 A의 특성 방정식의 근(해)을 행렬 A의 고유치(eigenvalues)라정의한다. 즉, 특성 방정식을 아래와 같이 나타냈을 때,
정리: 행렬 A의 고유치는 행렬 A의 대각 행렬인 Λ의 대각 원소이다.즉, 행렬 A의 고유치를 λ1, λ2, …, λn이라 하면, 다음이 성립한다.
( )( ) ( )
1 21 2 1 0
1 2 0
n n nn n
n
− −− −λ + α λ + α λ + + α λ + α
= λ − λ λ − λ λ − λ =
λ1, λ2, …, λn을 행렬 A의 고유치라 한다.
1
2
3
0 0 0
0 0 0
0 0 0
0 0 0 n
λ⎡ ⎤⎢ ⎥⎢ ⎥λ⎢ ⎥⎢ ⎥λΛ =⎢ ⎥⎢ ⎥⎢ ⎥⎢ ⎥λ⎣ ⎦
6
Page 11Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유치를고유치를 구하는구하는 예제예제 (1/2)(1/2)
예제) 다음 행렬 A의 고유치를 구하라.
A3 1 1
22 10 322 1 3
−⎡ ⎤⎢ ⎥= − −⎢ ⎥⎢ ⎥− −⎣ ⎦
행렬 A의 특성 방정식을 구한다.
I A3 1 1
22 10 32 02 1 3
λ − −⎡ ⎤⎢ ⎥λ − = λ + − =⎢ ⎥⎢ ⎥λ −⎣ ⎦
Page 12Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유치를고유치를 구하는구하는 예제예제 (2/2)(2/2)
다음 과정에 의해서 행렬 A의 특성 방정식을 계산할 수 있다.
( ) ( ) ( )
( ) ( )( ) ( )( )( ) ( )( ) ( )( )( ) ( )( ) ( )( )( )( )( ) ( ) ( )
( )( )( )
I A
2
3 2
3 1 122 10 322 1 3
10 32 22 32 22 103 1 1
1 3 2 3 2 1
3 10 3 32 1 22 3 32 2 22 1 10 2
3 7 2 22 2 2 2
4 6 1 2 3 0
λ − −⎡ ⎤⎢ ⎥λ − = λ + −⎢ ⎥⎢ ⎥λ −⎣ ⎦
λ + − − λ +⎡ ⎤ ⎡ ⎤ ⎡ ⎤= λ − − − +⎢ ⎥ ⎢ ⎥ ⎢ ⎥λ − λ −⎣ ⎦ ⎣ ⎦ ⎣ ⎦
= λ − λ + λ − − − + λ − − − + − λ +
= λ − λ + λ + + λ − + − λ +
= λ + λ + λ − = λ − λ + λ + =
결국, 행렬 A의 고유치는 다음과 같다.
1 2 31, 2, 3λ = λ = − λ = −
7
Page 13Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유치의고유치의 성질성질
행렬 A의 고유치가 0가 되기 위한 필요충분조건은 A가 (정칙 행렬이 아
닌) 특이 행렬(singular matrix)인 것이다.
임의의 실수 k에 대해, 행렬 kA의 고유치는 원래 행렬 A의 고유치의 k배에 해당하는 값이다.
행렬 A와 이의 전치(transpose) 행렬 AT의 고유치는 동일하다.
행렬 A의 역행렬 A-1의 고유치는 A의 고유치의 역수와 같다.
행렬 Ak의 고유치는 A의 고유치의 k 제곱과 같다.
대각 행렬의 고유치는 그 대각 원소들이다.
행렬 A의 고유치들의 합은 trace(A)가 된다.
행렬 A의 고유치들의 곱은 행렬 A의 행렬식이 된다.
( )11 221
Note: trace(A)n
ii nnia a a a
=
= = + + +∑
Page 14Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 정의정의
정의: 행렬 A에 대한 n개의 고유치(λ1, λ2, …, λn)에 대해서 각기 다음 식
을 만족하는 벡터 pi(p1, p2, …, pn)를 행렬 A의 고유 벡터라 정의한다.(하기 식은 앞서 고유치를 유도하는 과정에서 얻은 식과 동일함)
( )A I A 0i i ii ip p p= λ ⇔ λ − =
8
Page 15Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터를벡터를 구하는구하는 예제예제 (1/2)(1/2)
다음 행렬에 대한 고유 벡터를 구하라.
A3 1 1
22 10 322 1 3
−⎡ ⎤⎢ ⎥= − −⎢ ⎥⎢ ⎥− −⎣ ⎦
앞서 행렬 A의 고유치를 λ1=1, λ2=-2, λ3=3으로 구했으므로, 우선 고유치 1에 대해서 식을 전개하면 다음과 같다.
( )I - A
11
1 11 2
13
1 1 11 2 31 1 11 2 3
1 1 11 2 3
2 1 122 11 32 02 1 2
2 0
22 11 32 0
2 2 0
p
p p
p
p p p
p p p
p p p
⎡ ⎤− −⎡ ⎤ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ = − =⎢ ⎥ ⎢ ⎥⎢ ⎥−⎣ ⎦ ⎢ ⎥⎣ ⎦⎧− − + =⎪⎪⇔ + − =⎨⎪
+ − =⎪⎩
Page 16Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터를벡터를 구하는구하는 예제예제 (2/2)(2/2)
그런데, 세 번째 식이 첫 번째와 두 번째 식에 선형 의존이다. 따라서, 다음 두 식으로 나타낼 수 있다.
1 1 11 2 31 1 11 2 3
2 0
22 11 32 0
p p p
p p p
⎧− − + =⎪⎨
+ − =⎪⎩
상기 두 식을 만족하는 p1i은 무수히 많으므로,
임의로 p11 = 2로 두면, 왼편과 같은 고유 벡터를
얻을 수 있다.
11
1 1213
120
p
p p
p
⎡ ⎤ ⎡ ⎤⎢ ⎥ ⎢ ⎥⎢ ⎥= = −⎢ ⎥⎢ ⎥ ⎢ ⎥⎣ ⎦⎢ ⎥⎣ ⎦
마찬가지 방법으로, 다른 고유치에 대해서도
같은 방식을 적용하면, 다음과 같이
고유 벡터를 얻을 수 있다. 2 3
0.174 0.1471 , 1
0.130 0.118p p
− −⎡ ⎤ ⎡ ⎤⎢ ⎥ ⎢ ⎥= =⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦
9
Page 17Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 성질성질
임의의 실수 k에 대해서, 행렬 kA의 고유 벡터들은 행렬 A의 고유 벡터와
동일하다.
행렬 A-1의 고유 벡터들은 행렬 A의 고유 벡터들과 같다.
서로 다른 고유치에 해당하는 고유 벡터들은 서로 선형 독립이다.(i.e., pi ≠ kpj if λi ≠ λj)
실수를 원소로 하는 행렬 A의 고유 벡터들 중에 복소수가 있으면, 그들은
서로 켤레 복소수의 관계를 가진다.
Page 18Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors닮은닮은 변환변환 (Similarity Transformation) (1/2)(Similarity Transformation) (1/2)
(앞서 살펴본 바와 같이) 행렬 A와 이의 스펙트럼 행렬 Λ는 다음 관계가
성립한다.
-1 1 2Λ=P AP where P np p p⎛ ⎞⎡ ⎤=⎜ ⎟⎢ ⎥⎣ ⎦⎝ ⎠
상기와 같은 관계가 성립할 때, 행렬 A와 Λ는 닮았다(similar)고 한다.
정의: 행렬 A와 B 사이에 모으들 행렬 P가 존재하여 B=P-1AP의 관계를
만족하면 행렬 A와 B는 닮았다(similar)고 정의한다.
10
Page 19Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors닮은닮은 변환변환 (Similarity Transformation) (2/2)(Similarity Transformation) (2/2)
만일, 행렬 A와 B가 서로 닮았다고 하면, 다음 관계들이 성립한다.
1. P-1(A2)P = B2
2. P-1(An)P = Bn
3. P-1(A-1)P = B-1
4. trace(B) = trace(A)
5. |B| = |A|
6. 행렬 B의 고유치는 행렬 A의 고유치와 동일하다.
Page 20Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 -- 개념개념
(앞서 언급한 바와 같이) 행렬 A가 nxn 행렬인 경우, 미지수 n개의 선형
연립 방정식을 풀면 고유 벡터를 계산할 수 있다.
선형 연립 방정식은 가우스-조던 방식 등을 사용하여 풀 수 있다.
그런데, 몇몇 경우에는 선형 의존 관계에 의하여, 임의의 값을 대입한 후
고유 벡터를 계산해야 한다. 다음의 예제 참조
( )( )
( )
( )
11
1 1 11 11 1 12 2 1
1 1 121 1 1 22 2 2
1 1 11 1 2 2 1
I A 0
0
0
0
n n
n n
n n nn n
p
a p a p a p
a p a p a p
a p a p a p
λ − =
⎧ λ − − − − =⎪⎪− + λ − − − =⎪⇔ ⎨⎪⎪− − − + λ − =⎪⎩
11
Page 21Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 I (1/2)I (1/2)
다음 행렬 A에 대해서 고유치를 계산하라.
A3 1 1
22 10 322 1 3
−⎡ ⎤⎢ ⎥= − −⎢ ⎥⎢ ⎥− −⎣ ⎦
앞서 행렬 A의 고유치를 λ1=1, λ2=-2, λ3=3으로 구했다.이번에는 고유치 -2에 대해서 식을 전개하면 다음과 같다.
2 2 21 2 32 2 21 2 3
2 2 21 2 3
5 0
22 8 32 0
2 5 0
p p p
p p p
p p p
⎧− − + =⎪⎪ + − =⎨⎪
+ − =⎪⎩
Page 22Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 I (2/2)I (2/2)
가우스-조단 방식을 사용하면, 다음 식을 얻을 수 있다.
p22에 1을 대입하여 나머지 값을 구하면 다음과 같이 고유 벡터를 구할 수
있다.
2 21 2
2 22 3
0.174 0
0.130 0 0 0
p p
p p
⎧ +⎪⎪ − +⎨⎪⎪⎩
20.174
10.130
p−⎡ ⎤⎢ ⎥= ⎢ ⎥⎢ ⎥⎣ ⎦
12
Page 23Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 II (1/2)II (1/2)
(중근 예제 1) 다음 행렬 A에 대해서 고유치를 계산하라.
A8 1 0
21 0 118 0 0
−⎡ ⎤⎢ ⎥= −⎢ ⎥⎢ ⎥−⎣ ⎦
행렬 A의 특성 방정식을 구하여 풀면 다음과 같다.
1 11 2
1 1 11 2 31 11 3
5 0
21 3 0
18 3 0
p p
p p p
p p
⎧ − =⎪⎪ − − =⎨⎪
− =⎪⎩
( )( )23 28 21 18 2 3 0λ + λ + λ + = λ + λ + =
중근인 고유치(-3)에 대해서 고유 벡터를 구하는 방정식은 다음과 같다.
Page 24Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 II (2/2)II (2/2)
가우스-조단 방식을 사용하여 방정식을 풀면 다음과 같다.
이 경우, (중근임에도 불구하고) 서로 독립인 고유 벡터는 하나만 나온다.예를 들어, p1
3=1이라 하면, p11=0.167, p1
2=0.833이 된다.)
1 11 31 12 3
0.167 0
0.833 0 0 0
p p
p p
⎧ −⎪⎪ −⎨⎪⎪⎩
결국, 이 경우는 고유 벡터를 (세 개가 아닌) 두 개밖에 구할 수 없으므로,정칙 행렬(nonsingular matrix)인 모우들 행렬 P를 구할 수 없다
13
Page 25Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 III (1/3)III (1/3)
(중근 예제 2) 다음 행렬 A에 대해서 고유치를 계산하라.
A1 0 11 2 10 0 2
− −⎡ ⎤⎢ ⎥= − −⎢ ⎥⎢ ⎥⎣ ⎦
행렬 A의 특성 방정식을 구하여 풀면 다음과 같다.
1 11 31 11 3
0
0 0 0
p p
p p
⎧ + =⎪⎪ + =⎨⎪ =⎪⎩
( )( )23 25 8 4 1 2 0λ − λ + λ − = λ − λ − =
중근인 고유치(2)에 대해서 고유 벡터를 구하는 방정식은 다음과 같다.
Page 26Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 III (2/3)III (2/3)
가우스-조단 방식을 사용하여 방정식을 풀면 다음과 같다.
이 경우, 첫 번째 식을 만족하는 여러 개의 고유 벡터를 구할 수 있다.이 중에서 두 개의 고유 벡터를 구하면 다음과 같다.
1 11 3 0
0 0 0 0
p p⎧ + =⎪
=⎨⎪ =⎩
1 20 11 , 00 1
p p⎡ ⎤ ⎡ ⎤⎢ ⎥ ⎢ ⎥= =⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥−⎣ ⎦ ⎣ ⎦
14
Page 27Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 III (3/3)III (3/3)
나머지 고유치(1)에 대해서 고유 벡터를 구하면 다음과 같다.
결국, 다음과 같이 행렬 A의 모우들 행렬을 구할 수 있다.
3110
p⎡ ⎤⎢ ⎥= ⎢ ⎥⎢ ⎥⎣ ⎦
P 1 2 30 1 11 0 10 1 0
p p p⎡ ⎤⎢ ⎥⎡ ⎤= = ⎢ ⎥⎣ ⎦⎢ ⎥−⎣ ⎦
그리고, 이때의 스펙트럼 행렬 Λ는 다음과 같다.
1
2
3
0 0 2 0 00 0 0 2 00 0 0 0 1
λ⎡ ⎤ ⎡ ⎤⎢ ⎥ ⎢ ⎥Λ = λ =⎢ ⎥ ⎢ ⎥⎢ ⎥ ⎢ ⎥λ⎣ ⎦ ⎣ ⎦
Page 28Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 IV (1/3)IV (1/3)
(해가 복소수인 경우) 다음 행렬 A에 대해서 고유치를 계산하라.
A2 15 0
−⎡ ⎤= ⎢ ⎥−⎣ ⎦
행렬 A의 특성 방정식을 구하여 풀면 다음과 같다.
( )( )
2 1 11 2
1 2 11 2
1 0
5 1 0
i p p
p i p
⎧ + − =⎪⎨
+ − + =⎪⎩
( )( )2 2 5 1 2 1 2 0i iλ + λ + = λ + + λ + − =
첫 번째 고유치(-1+2i)에 대한 고유 벡터를 구하는 방정식은 다음과 같다.
15
Page 29Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 IV (2/3)IV (2/3)
실수부와 허수부로 나누어 정리하면 다음과 같다.
1 1 11 1 2
1 1 11 1 21 1 11 2 21 1 11 2 2
2 0
2 0
5 2 0
5 2 0
e f e
e f f
e e f
f e f
⎧ − − =⎪⎪ + − =⎪⎨
− − =⎪⎪
+ − =⎪⎩
가우스-조던 방식을 이용하여 방정식을 풀면 다음과 같다.
1 1 11 1 11 1 12 2 2
0, where
0
p e f i
p e f i
⎧ = + =⎪⎨
= + =⎪⎩
1 1 11 2 21 1 11 2 2
0.4 0.2 0
0.2 0.4 0 0 00 0
f e f
e e f
⎧ + − =⎪⎪ − − =⎨
=⎪⎪ =⎩
Page 30Numerical Analysisby Yang-Sae Moon
Eigenvalues & Eigenvectors고유고유 벡터의벡터의 계산계산 –– 예제예제 IV (3/3)IV (3/3)
다음과 같이 두 미지수를 왼편과 같이 임의의
값으로 정해 준다.
1111
1
0
e
f
⎧ =⎪⎨
=⎪⎩
결국, 첫 번째 고유 벡터는 왼편과 같다.
나머지 값들에 대해서 풀면, 왼편과 같다.1212
1
2
e
f
⎧ =⎪⎨
=⎪⎩
1 11 2
pi
⎡ ⎤= ⎢ ⎥+⎣ ⎦
두 번째 고유 벡터는 첫 번째의 켤례 복소수
에 해당하므로, 왼편과 같이 구할 수 있다.
2 11 2
pi
⎡ ⎤= ⎢ ⎥−⎣ ⎦
16
Page 31Numerical Analysisby Yang-Sae Moon
We are now We are now ……
고유치와 고유 벡터
케일리-해밀턴 정리
파데브-레브리어 알고리즘
Cayley-Hamilton Theorem
Page 32Numerical Analysisby Yang-Sae Moon
행렬의행렬의 제곱승에제곱승에 대한대한 정의정의
2 3
2
2 1 1 3 1 1 1
1. A AA, A AAA,
2. A I
3. A A A , A A A A ,
4. A A Am n m n
− − − − − − −
+
= =
=
= =
=
Cayley-Hamilton Theorem
17
Page 33Numerical Analysisby Yang-Sae Moon
케일리케일리--해밀턴의해밀턴의 정리정리
케일리-해밀턴의 정리: 임의의 정방 행렬 A의 특성 방정식이 다음과 같이
주어진다면,
Cayley-Hamilton Theorem
다음과 같이 행렬 A에 대한 방정식이 성립한다. (λ A)
1 21 2 1 0 0n n n
n n− −
− −λ + α λ + α λ + + α λ + α =
A A A A 1 21 2 1 0 0n n n
n n− −
− −+ α + α + + α + α =
케일리-해밀턴의 정리에 따르면, 정방 행렬의 고차 제곱들은 그 이하 차
수를 가지는 제곱들의 선형 조합으로 나타낼 수 있다.
A A A A 1 21 2 1 0
n n nn n
− −− −= −α −α − −α −α
Page 34Numerical Analysisby Yang-Sae Moon
케일리케일리--해밀턴해밀턴 정리의정리의 예제예제 (1/2)(1/2)
정방 행렬 A가 다음과 같이 주어졌다고 하자.
Cayley-Hamilton Theorem
행렬의 특성 방정식을 구하면 다음과 같다.
A1 2 03 1 42 1 1
−⎡ ⎤⎢ ⎥= −⎢ ⎥⎢ ⎥⎣ ⎦
3 2 15 0λ − λ + λ + =
케일리-해밀턴 정리를 사용하면 다음의 행렬 방정식을 구할 수 있다.
3 2
3 2
A A A 15I 0
A =A A 15I
− + + =
− −
18
Page 35Numerical Analysisby Yang-Sae Moon
케일리케일리--해밀턴해밀턴 정리의정리의 예제예제 (2/2)(2/2)
계속 적용해 보면, An(n ≥ 3)은 A2 이하 차수를 가지는 항들의 선형 조합으
로 나타낼 수 있다.
Cayley-Hamilton Theorem
( )4
3 2 3 2
2 2
A
AA A A A 15I A A 15A
A A 15I A 15A=16A 15I
= = − − = − −
= − − − −−
Page 36Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기
케일리-해밀턴 방정식의 양변에 A의 역행렬을 곱해 전개한다.
Cayley-Hamilton Theorem
( )A A A A A
A A A I A
1 1 21 2 1 0
1 2 3 11 2 1 0 0
n n nn n
n n nn n
− − −− −
− − − −− −
+ α + α + + α + α
+α + α + + α + α =
결국, A의 역행렬은 다음과 같이 구할 수 있다.
( )A A A A I 1 1 2 31 2 1
0
1 n n nn n
− − − −− −= − + α + α + + α
α
19
Page 37Numerical Analysisby Yang-Sae Moon
We are now We are now ……
고유치와 고유 벡터
케일리-해밀턴 정리
파데브-레브리어 알고리즘
Faddeev-Leverrier Algorithm
Page 38Numerical Analysisby Yang-Sae Moon
들어가기에들어가기에 앞서서앞서서……
교재의 보허의 공식
파데브-레브리어 알고리즘으로 이어지는 부분은 그 내용이 복잡할 뿐 아
니라, 일관성이 없어서 사용하지 않습니다.
대신, 강의에서는 California State University의 수학과 Prof. John H. Mathews의 강의 자료를 사용하여 간략한 방법을 제시합니다.(http://math.fullerton.edu/mathews/n2003/NumericalUndergradMod.html)
Faddeev-Leverrier Algorithm
20
Page 39Numerical Analysisby Yang-Sae Moon
파데브파데브--레브리어레브리어 알고리즘알고리즘 개요개요 (1/3) (1/3)
파데브-레브리어 알고리즘은 특성 방정식의 계수인 αi를 구할 수 있는 효
율적인 알고리즘이다.
또한, 이를 사용하면 행렬의 역행렬을 손쉽게 구할 수 있다.
Faddeev-Leverrier Algorithm
행렬 A의 특성 방정식이 다음과 같이 주어진다고 가정하자.
즉, 행렬 A에 대해 다음의 방정식이 성립한다.
1 21 2 1 0 0n n n
n n− −
− −λ + α λ + α λ + + α λ + α =
A A A A 1 21 2 1 0 0n n n
n n− −
− −+ α + α + + α + α =
Page 40Numerical Analysisby Yang-Sae Moon
파데브파데브--레브리어레브리어 알고리즘알고리즘 개요개요 (2/3) (2/3)
그러면, 다음의 파데브-레브리어 방법에 의해 특성 방정식의 계수 들을
구할 수 있다.
Faddeev-Leverrier Algorithm
( )
( )
( )
B A trace B
B A B I trace B
B A B I trace B
B A B I trace B
1 1 1
2 1 1 2 2
1 1 1
1 0 0
, ( )1, ( )2
1, ( )
1, ( )
n
n n
k k n k n k k
n n n
k
n
−
− −
− − + − +
−
= α = −
= + α α = −
= + α α = −
= + α α = −
1 21 2 1 0 0n n n
n n− −
− −λ + α λ + α λ + + α λ + α =
21
Page 41Numerical Analysisby Yang-Sae Moon
파데브파데브--레브리어레브리어 알고리즘알고리즘 개요개요 (3/3) (3/3)
덧붙여, 행렬 A의 역행렬을 다음과 같이 구할 수 있다.
파데브-레브리어 알고리즘의 자세한 증명 과정은 다음을 참조한다.Faddeeva, V. N., “Computation Methods of Linear Algebra,” (translated from the Russian by Benster, C. D.), Dover Publications Inc., N.Y., 1959.
Faddeev-Leverrier Algorithm
( )A B I11 1
0
1n
−−= − + α
α
( )A A A A I1 1 2 31 2 1
0
1 n n nn n
− − − −− −= − + α + α + + α
α
Page 42Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 -- 알고리즘알고리즘Faddeev-Leverrier Algorithm
procedure char_eq(aij: real numbers, n: integer){ [aij] is an nxn matrix. (1 ≤ i,j ≤ n)}{ n is # of columns(= # of rows).}
[bij] := [aij];αn−1 := −trace([bij]);
for k := 2 to nbegin
[bij] := [aij]⋅([bij] + αn−k+1[iij]);αn−k := −(1/k)⋅trace([bij]);
end
return αk for every k in between 1 and n;
22
Page 43Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 프로그램프로그램 (1/4)(1/4)Faddeev-Leverrier Algorithm
Page 44Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 프로그램프로그램 (2/4)(2/4)Faddeev-Leverrier Algorithm
23
Page 45Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 프로그램프로그램 (3/4)(3/4)Faddeev-Leverrier Algorithm
Page 46Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 프로그램프로그램 (4/4)(4/4)Faddeev-Leverrier Algorithm
24
Page 47Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 I (1/2)I (1/2)Faddeev-Leverrier Algorithm
사용한 행렬
2 1 11 2 11 1 2
−⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥−⎣ ⎦
입력 파일 구성
Page 48Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 I (2/2)I (2/2)Faddeev-Leverrier Algorithm
실행 결과
구해진 특성 방정식
3 26 11 6 0λ − λ + λ − =
25
Page 49Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 II (1/2)II (1/2)Faddeev-Leverrier Algorithm
사용한 행렬 (교재에서 사용한 행렬)
2 2 21 0 43 1 3
−⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥− −⎣ ⎦
입력 파일 구성
Page 50Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 II (2/2)II (2/2)Faddeev-Leverrier Algorithm
실행 결과
구해진 특성 방정식
3 2 6 24 0λ + λ + λ − =
26
Page 51Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 III (1/2)III (1/2)Faddeev-Leverrier Algorithm
사용한 행렬 (4 x 4 행렬)
8 1 3 11 6 2 03 2 9 11 0 1 7
− −⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥⎢ ⎥−⎢ ⎥⎣ ⎦
입력 파일 구성
Page 52Numerical Analysisby Yang-Sae Moon
특성특성 방정식방정식 구하기구하기 –– 실행실행 결과결과 III (2/2)III (2/2)Faddeev-Leverrier Algorithm
실행 결과
구해진 특성 방정식
4 3 230 319 1410 2138 0λ − λ + λ − λ + =
27
Page 53Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 -- 알고리즘알고리즘Faddeev-Leverrier Algorithm
procedure char_inv(aij: real numbers, n: integer){ [aij] is an nxn matrix. (1 ≤ i,j ≤ n)}{ n is # of columns(= # of rows).}
[bij] := [aij];αn−1 := −trace([bij]);
for k := 2 to nbegin
[bij] := [aij]⋅([bij] + αn−k+1[iij]);αn−k := −(1/k)⋅trace([bij]);
if k = n−1 then [cij] = [bij];end
[rij] := −(1/α0)⋅([cij]+α1[iij]);
return [rij];
Page 54Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 프로그램프로그램 (1/5)(1/5)Faddeev-Leverrier Algorithm
28
Page 55Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 프로그램프로그램 (2/5)(2/5)Faddeev-Leverrier Algorithm
Page 56Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 프로그램프로그램 (3/5)(3/5)Faddeev-Leverrier Algorithm
29
Page 57Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 프로그램프로그램 (4/5)(4/5)Faddeev-Leverrier Algorithm
Page 58Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 프로그램프로그램 (5/5)(5/5)Faddeev-Leverrier Algorithm
30
Page 59Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 I (1/2)I (1/2)Faddeev-Leverrier Algorithm
사용한 행렬
2 1 11 2 11 1 2
−⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥−⎣ ⎦
입력 파일 구성
Page 60Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 I (2/2)I (2/2)Faddeev-Leverrier Algorithm
실행 결과
31
Page 61Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 II (1/2)II (1/2)Faddeev-Leverrier Algorithm
사용한 행렬 (교재에서 사용한 행렬)
2 2 21 0 43 1 3
−⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥− −⎣ ⎦
입력 파일 구성
Page 62Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 II (2/2)II (2/2)Faddeev-Leverrier Algorithm
실행 결과
32
Page 63Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 III (1/2)III (1/2)Faddeev-Leverrier Algorithm
사용한 행렬 (4 x 4 행렬)
8 1 3 11 6 2 03 2 9 11 0 1 7
− −⎡ ⎤⎢ ⎥−⎢ ⎥⎢ ⎥⎢ ⎥−⎢ ⎥⎣ ⎦
입력 파일 구성
Page 64Numerical Analysisby Yang-Sae Moon
역행렬역행렬 구하기구하기 –– 실행실행 결과결과 III (2/2)III (2/2)Faddeev-Leverrier Algorithm
실행 결과