5. LU 분해

 - 행렬곱셈의 Inverse

  -> 행렬 A * A의 역행렬 = 단위행렬 I

  -> 행렬 A * 행렬 B * ? * ? = 단위행렬 I 일때, 물음표 자리에는 A의 역행렬이 먼저인가, B의 역행렬이 먼저인가?

  -> B의 역행렬이 먼저이다. (  A * B * B^(-1) * A^(-1) = A * I * A^(-1) = A * A^(-1) = I )

  -> 단위행렬을 만들기 위해 역행렬을 곱해줄 때에는, 각 행렬의 역행렬이 본래의 행렬과 붙을 수 있게 곱해줘야 한다.

 

 - 행렬곱셈의 Transpose (전치 행렬)

  -> A의 역행렬의 전치행렬과 A의 전치행렬의 역행렬은 같다.

 

LU 분해 ( LU Decomposition, =LU Factorization )

 - 행렬 A를 하부삼각행렬(L)과 상부삼각행렬(U)의 곱으로 분해하여 나타내는 것이다. ( A = L*U )

  -> 행렬 A를 인수분해 하는 것이다.

 - 왜 LU 분해와 같은 Matrix Decomposition(행렬 분해)를 하는가?

  -> 계산의 편리함과 분석적 용이성을 위해서.

 

LU분해 하는법

 - 행렬 A에 소거법을 진행해 상부삼각행렬 U를 만들려고 할 때, 행렬 A에서 소거하거자 하는 항을 지울 때 곱해야 하는 행렬을 소거행렬 (Elimination Matrix)이라고 한다.

 위와 같은 행렬 A를 상부삼각행렬로 만들기 위해서는, 2행 1열의 값(8)을 0으로 만들어야 한다.

 이 때, 1행에 -4를 곱해 2행에 더하는 기본 행 연산을 실행할 것이다.

이 같은 계산이 되게 하려면 A에 곱한 소거행렬 E21은 어떻게 생겼을까?

피벗이 존재하는 1행은 그대로 유지되어야한다. -> [2,1]

E21(1,1)*2 + E21(1,2)*8 = 2

E21(1,1)*1 + E21(1,2)*7 = 1

 -> E21(1,1) = 1, E21(1,2) = 0

2행은 1열은 0, 2열은 3이 되어야 한다. -> [0,3]

E21(2,1)*2 + E21(2,2)*8 = 0

E21(2,1)*1 + E21(2,2)*7 = 3

 -> E21(2,1) = -4, E21(2,2) = 1

 

즉, 행렬 E21은 아래와 같다.

이 때, 양 변에 E21의 역행렬을 곱해주면

 (E21)^-1 * E21 * A = (E21)^-1 * U 가 되고, E21의 역행렬과 E21의 곱은 I이므로

 IA = (E21)^-1 * U 가 되고, E21의 역행렬을 L로 표시하면

 A = LU가 된다.

 

즉, 소거행렬 E21의 역행렬이 L행렬이며, L행렬은 하부삼각행렬의 형태를 띈다.

 

Tip. 소거행렬의 주 대각선은 모두 1이고, 지우려고 하는 피벗 항의 위치에 곱한 수를 넣으면 되는 듯함.

 

 

LDU Decomposition

 - 피벗들만 따로 떼어서 분해하는 방법.

 - 하부삼각행렬(L) * 대각행렬(D) * 상부삼각행렬(U)의 형태이다.

 

 

3차원 행렬(3*3 크기)에서의 LU 분해

 - 행 교환이 없다는 가정 하에, 하부삼각행렬(U)을 만들기 위해 없애야할 항은 A21, A31, A32 이다.

  -> 즉 소거행렬 E32, E31, E21을 곱해야한다. (E32*E31*E21*A = U)

  -> 단위행렬을 만들기 위해 역행렬을 곱하면 E32*E31*E21*E21i*E31i*E32i*A ... 이므로,

      L = E21i * E31i * E32i 이다. (i는 역행렬을 의미한다. ^-1 쓰기 귀찮..)

- 행 교환이 없다면, 소거행렬의 역행렬은 주 대각선에 위치하지 않는 항의 부호를 뒤집으면 된다.

 

 - 그러나, 행 교환이 필요한 경우가 생기고, 이 경우 치환행렬(Permutation Matrix)를 곱해주면 된다.

P12는 1행과 2행을 교체했다는 의미.

 - 행교환이 필요한 경우, PA=LU와 같은꼴로 분해를 할 수 있다.

 - 치환행렬은 대각 원소를 기준으로 좌우대칭이기 떄문에, 역행렬은 전치(Transpose)로 구할 수 있다.

 - PA를 원래대로 되돌리려면 P의 역행렬을 곱해주면 된다.