기말2. 벡터 공간

1. 벡터 공간

• 실벡터 공간과 복소벡터, 두가지 공간으로 나눠진다.
• 다수의 벡터가 모여 하나의 공간을 형성한 것이다.
• 공간 상의 벡터와 그 벡터들에 대한 선형결합 연산의 결과 벡터가 같은 공간상에 존재해야 한다.
• 만약, 선형결합 연산을 했을 때 결과 벡터가 같은 공간을 벗어난다면, 해당 공간은 닫혀있지 않다라고 표현하며, 벡터공간으로 정의되지 않는다.
• 이 때, [3, 2]와 [-3, -2] 벡터를 연산했을 때 나온 [0, 0]벡터(영벡터)가 존재하지 않는다면, 벡터공간이 존재할 수 없으므로 영벡터가 존재해야 한다.

---

2. 부분 공간

• 임의의 N차원 공간에 포함되면서 N차원 벡터들에 대한 선형규칙이 성립하는 작은 공간.
• R2에서는 영벡터, 원점을 포함한 선, N차원 공간 전체가 부분 공간이 된다.
• R3에서는 영벡터, 원점을 포함한 선, 원점을 포함한 면, N차원 공간 전체가 부분 공간이 된다.

---

3. 행렬에서의 부분 공간

• 각 Column에 대응되는 벡터를 모두 그린 다음, 그 벡터들로 만들수 있는 모든 선형결합 벡터를 그렸을 때의 범위가 그 행렬의 부분공간이 된다.
• R3에서의 행렬 부분 공간은 평면 모양이 나온다.

---

4. 열 공간 ( Column Space )

• 행렬 A의 Column들로 이루어진 부분 공간을 열 공간이라고 하며, C(A)로 표기한다.
• 행렬 A의 Column들만을 이용해, 열 공간 전체를 채울 수 있을까? 불가능
  = Ax=b는 모든 b에 대해 해를 가질까?
• 열공간 전체를 알기 위해서는 영 공간( Null Space )를 알아야 한다.

---

5. 영 공간 ( Null Space )

• 선형방정식 Ax=b에서 b가 영벡터일 때, 식을 만족시키는 모든 해 x에 대한 집합이다. 즉, Ax=0의 해들이 이루는 공간이다.
• 모든 영 공간에는 영 벡터가 포함된다.
• b가 영벡터가 아닐 때 해에 대한 벡터공간이 존재할까?
  = 해 중에 영 벡터가 없으므로, 벡터공간이 존재할 수 없다.
• Ax=0의 해를 구하기 위해 A에 소거를 진행하는데, 이 때 영 공간은 변화하면 안된다.
• 소거 과정에서 Column의 Pivot이 0이면, 이전 Column에 종속적이라는 의미이다.
• 소거가 완료된 U행렬이 삼각형이 아니라 계단형태일 때, 이것을 Echelon Form이라고 한다.
• U행렬의 Pivot개수를 Rank(계수)라고 하며, Ax=0과 Ux=0의 해는 같은 영 공간에 존재한다.

---

6. Ux=0에서 해 구하기

• Pivot이 있는 Column을 Pivot Column, 없는 Column은 Free Column이라고 한다.
• Free Column에 대응되는 x 행렬의 항은 임의로 설정할 수 있다. ( Free Variable, = Column count - rank )
• 이 때, 임의로 설정하는 값을 (1, 0, 0, ...), (0, 1, 0, ...), (0, 0, 1, ...) 와 같이 대입해서 구한 해를 Special Solution이라고 하며, 이 수는 Free variable의 개수에 따라 결정된다.

---

7. Ax=b의 완전 해 구하기

• 1. 가해조건( 해가 존재하는가? ) 를 확인한다.
  -> 우변 벡터 b가 행렬 A의 열 공간에 존재할 때, Ax=b는 해가 존재한다.
• 2. X_particular를 찾는다.
  -> 모든 Free variable를 0으로 설정한 뒤, Pivot variable에 대해 Ax=b를 풀었을 때 나오는 해가 X_Particular이다.
• 3. X_nullspace를 찾는다.
  -> 영 공간(Ax=0)의 해가 X_nullspace이다.
• 완전 해 X는 X_particular와 X_nullspace의 합이다.
• 영공간은 원점을 지나는 부분공간이지만, X_p가 더해지면서 shift되어 원점을 지나지 않게되어 부분공간이 아니다.
• 완전 해는 하나의 특수 해와 영 공간의 해의 부분공간의 합으로 표현할 수 있다.

---

8. Rank

• X*Y 행렬의 Rank수를 R이라고 할 때, R <= X, R <= Y를 만족한다.
• R=X일 때는 Full row rank, R=Y일때는 Full column rank이다.
• Full row rank : 모든 Row가 Pivot을 가진다. -> Ax=b에서 모든 b값이 해를 가진다.
• Full column rank : 모든 Column이 Pivot을 가진다. -> Free variable이 없다.
  -> 영공간은 영벡터 뿐이며, 해는 없거나 유일하다.
  -> 해가 존재하기 위해서는, A의 열들의 선형조합으로 b를 만들 수 있어야 한다.
• Full row column rank : 정방행렬 이면서 모두 pivot을 가진다.
  -> b에 대한 유일한 해가 존재하며, 영벡터만이 Null space이다.

---

9. 선형 독립

• 벡터 x1, x2, ..., xn이 있을 때, 모든 x에 대한 계수가 0인 경우를 제외하는 어떠한 선형 조합으로도 0을 만들 수 없다면, 이 벡터들은 독립이다.
  -> 만약, 0을 만들 수 있다면 종속이다.
• 벡터가 종속이라는 것은 곧, 벡터가 같은 방향을 가리키는 것을 의미하므로 그래프 상에서 겹쳐있는가의 여부로 구분할 수 있다. (직관과 일치한다)