2장. 네 가지 기본적인 부분 공간
앞에서 기저가 무엇인지는 알게 됐지만, 그것을 찾는 방법은 아직 모른다. 이제 부분 공간에 대한
구체적인 설명에서 출발해서 기저를 구체적으로 구해보자.
부분 공간은 두가지 방법으로 설명할 수 있다.
-
공간을 생성하는 벡터들의 모음이 주어질 수 있다. (ex : 열들은 열 공간을 생성한다.)
-
공간에 속한 벡터들이 만족시키는 조건이 주어질 수 있다. (ex : Null space은 Ax = 0 을 만족시키는 벡터 전체로 이루어진다.)
첫번째 설명에는 일차 종속인 열들과 같이 필요 없는 벡터가 포함될 수 있다.
둘째 설명에는 일차종속인 행들과 같이 반복되는 조건이 포함될 수 있다.
이제 임의의 행렬 A에 대한 네 개의 주요 부분공간을 생각해보자.
- Column space
- Null space
- Row space
- Left null space
위 행렬 A를 예를 들어 설명하겠다.
Column space
Column space(열 공간)은 행렬 A의 column vector들의 선형 조합(Linear combination)을 통해 만들 수 있는 부분 공간(subspace)이다. 행렬 A의 열 공간을 C(A)로 표기한다.
행렬 A의 4개의 3차원 column vector가 있다.
a1,과 a2는 서로 독립(independent) 이다. 2a1 + a2 = a3이므로 a3 은 종속(dependent)이다. a4 = a1 이므로 a4 또한 종속(dependent)이다. 여기서 a1와 a2가 C(A)의 basis vector(기저 벡터)가 된다. 이것들을 모은게 basis(기저)이고 기저의 개수가 2개이므로 행렬 A의 rank는 2이다. rank(A) = 2,
행렬 A의 rank는 선형 독립인 column vector들의 최대 개수, 즉 pivot의 개수이다.
이 basis vector의 공간은 3차원 공간의 1차원 선(line)을 의미한다. 이 basis vector을 조합하면 3차원 공간에서의 2차원 공간인 평면(plane)이 나온다. C(A)의 차원(dimension)은 2를 의미한다.
Null space
Ax = 0을 만족시키는 해(x)들의 선형 조합으로 형성되는 공간을 의미한다.
여기서 x1, x2, x3, x4가 무엇일때 영 벡터가 될지를 생각해보자.
[0,0,0,0], [1,0,0,-1], [2,1,-1,0] 예를 들어 이렇게 3개의 해가 나온다.
Ax = 0 을 만족시키는 해는 수 없이 많다. 어떻게 x의 집합인 nullspace를 표현할까??
column space를 구했을 때와 같이 basis vector(기저 벡터)들을 찾아서 그것의 선형 조합으로 표현하는 것이다.
특수해 = 기저 이다. 이것을 구하는 방법은 free variable(자유 변수) 중에서 하나에는 1을 대입하고 나머지는 0을 대입한다. 이 과정을 반복해 special solution(특수해)를 찾는다. 우리가 알고자 하는 complete solution(완전해) 는 특수해들의 선형 조합이다. nullspace에서의 basis vector들이 특수해다.
자유 변수를 찾기 위해서는 pivot을 찾아야 하므로 상부 삼각행렬로 변환한다.
A의 상부삼각행렬인 U를 구하면 pivot column와 free column을 구할 수 있다.
쉽게 생각해 pivot은 해당하는 열에서 pivot을 제외한 나머지가 0이라고 생각하면 쉽다.
위의 그림에서 pivot 변수들은 pivot columns와 곱해지는 x1, x2 이다. free variable(자유 변수) 들은 free column와 곱해지는 x3, x4이다.
이제 자유 변수 중의 하나에 1를 넣고 나머지 자유 변수에 0을 대입해서 특별해를 구해보자.
x3 = 1, x4 = 0 을 넣어보자
x1 + 2 = 0
x2 + 1 = 0
x1+ 2 - 0
x1 = -2, x2 = -1
위와 같이 첫번째 특수해를 구할 수 있다.
반대로 x4 = 1, x3 = 0 을 넣어서 구하면
x1 = -1, x2 = 0 이나온다.
두번재 특수해는
가 된다. 이 두개의 특수해의 선형 조합이 완전해가 되고 그것이 바로 행렬 A의 nullspace, 즉 N(A)를 나타낸다.
Row space
행렬 A의 row vector들의 선형 조합을 통해 만들어지는 공간이다. row vector들은 row space를 span 한다고 한다. span의 설명은 앞에서 했다. 만약 여기서 행려 A의 row vector가 독립(independent)이면 이 벡터는 row space의 기저(basis)가 되고 종속(dependent) 일 경우 기저가 아니다.
우리는 여태까지 행렬을 다룰때 column vector로 다루고 표현했다. 그렇다면 이것을 쉽게 하는 방법은 무엇일까?
바로 전치(Transpose)행렬을 구하는 것이다.
위와 같이 row space는 행렬을 전치행렬로 바꿔주고 위에서 구한 방법처럼 basis vector을 구해주면 된다.
예를 들어 보면
A의 전치행렬에는 3개의 4차원 column vector 들이 있다.
r1와 r2는 서로 독립(dependent) 관계임을 알 수 있다. r3와 r1은 서로 동일하므로 종속 관계이다.
그러면 C(A(t)) 의 basis vector들은 r1, r2 이렇게 2개이다. 행렬 A의 row space는 r1, r2의 선형 조합으로 만들어낼 수 있는 부분 공간이 된다.
Left null space
행렬 A의 전치에 대한 Null space를 의미한다.
A행렬의 전치 행렬을 구하고 이 행렬x = 0 을 만족하는 x들의 집합이 A의 left nullspace이다.
x1 = -1, x2 =0 , x3 = 1
이 해들의 상수배가 위의 조건에 만족한다. 이것이 바로 basis vector이다.
즉 N(AT(전치행렬)) 는
이다. basis vector는 3차원 공간에서 1차원인 선이고, 상수배 역시 1차원 선이므로 차원은 1이다.
부분 공간들 예시
위와 같이 정리 할 수 있다.
여기서 m은 row(행)을 의미하고 n은 column(열)을 의미한다.
위에서 나타낸 주요 부분 공간들을 그림으로 정리해서 표현하면 아래 그림과 같다.
위 그림의 내용을 이해하는 것이 선형대수학에 있어서 매우 중요하다고 한다.
나머지는 위에서 설명했고 추가적으로 기하학적으로 생각해보자.
Null space 식을 보면 row space와 null space는 직교(orthogonal)한다는 것을 확인 할 수 있다.
Ax = 0 이 식이 row space의 두 벡터와 x 값이 내적 한다는 것을 확인 할 수 있다. 내적했을대 0이 되면 두 벡터 사이의 각도는 90도가 되기 때문에 직교한다. 여기서 null space는 위의 식을 만족하는 x1, x2, x3 이므로 null space와 row space는 직교 함을 알 수 있다.
Null space vector 인 [-1 2 -1] 은 이 vector에 어떤 식을 곱해도 orthogonal이 성립하므로 행렬 A 에 대한 Null space는 Line이다.
주요 부분 공간들의 기저와 차원
마지막으로 정리를 해보자. 부분 공간에 대해 정의할 때 가장 중요한 것은 기저 벡터(basis vector)들과 차원(dimension)을 알아내는 것이다. Column space인 경우 기저를 알기 위해선 각 공간을 형성하기 위한 최소한의 필수 벡터가 몇 개인지를 알아야 하는데 이 개수가 바로 차원(dimension)이 되고, 차원이 곧 rank를 의미한다.
Rank -> 행렬 A의 소거 과정에서 나오는 pivot들의 개수를 의미하고 pivot이 존재하는 column이 pivot column 이 되면서 이것들이 결국 행렬 A의 기저(basis)가 된다.
각 부분 공간의 기저(basis)와 차원(Dimension)을 구하는 방법을 공부했고 서로의 관계 또한 알 수 있었다.
여태까지 했던 내용을 정리한 위의 그림이다.
참고자료 : Learn Again! 러너게인 , 스카이비전