Vector Space의 정의부터 보죠.
N 차원 공간의 모든 점들의 집합이 바로 Vector Space(Vn)입니다.
즉 2차원 Vector Space는 2차원 공간의 모든 점을 의미하고, 3차원 Vector Space는 3차원 공간의 모든 점을
의미합니다.
Vector Space는 이제부터 선형대수학에서 다루는 여러 가지 Vector들이 존재하는 공간입니다. 선형대수는 쉽게 말해, Vector와 SubSpace(다음 장에서 다룹니다)가 이 Vector Space에서 어떻게 존재하는가를 다룬다고 보시면 됩니다.
여기서 핵심은 각 Vector들이 같은 차원의 공간을 공유할수도 있고, 다른 차원의 공간에 존재할 수도 있습니다. 머신러닝에서 다루는 대부분의 Matrix는 다른 차원의 공간들의 관계입니다.
같은 차원의 공간을 공유한다는 건, 어찌보면 굉장히 속편한 상황입니다. 아래를 보시죠
이런 Matrix A가 주어졌다고 봅시다. 이는 Vector Space에서 보면, 이런 식으로 대응됩니다.
즉 X가 존재하는 Vector Space ----> Y가 존재하는 Vector Space로 1:1 매칭이 됩니다. X 위의 한 점이 Y 위의 한 점으로 매칭이되죠. 같은 차원의 Vector Space에서는 이런 식으로 매칭이 됩니다. 우리가 구하고자 하는 해는 이 경우, 한 개로 깔끔하게 나옵니다.
하지만 다른 차원끼리의 매칭이라면, 좀 더 상황은 복잡해집니다. 아래를 보시죠
이런 Matrix A가 주어졌다고 봅시다. 음.. 해는 어떠한 형태로 존재하게 될까요? 과연 1대 1로 매칭이 될까요?
일단 그림을 보기 전에, 생각을 해봅시다. (y1,y2) = (0,0)을 만족하는 Vector X는 무엇이 있을까요?
(0,0,0) , (0,1,1) , (0,2,2) , (0,3,3).......
이전과 달리, 해가 하나로 존재하지 않고, 해 집합으로 존재하게 됩니다. 즉, 다른 차원끼리의 매칭이라면 Y 공간 한점에게, X 공간의 해 집단이 매칭합니다.
이러한 형태의 그림이 그려집니다. 이제 Matrix에서 해를 찾는다는 것은, 해 집합을 알아내야 한다는 것을 의미합니다. 위의 그림에서 저 해집합을 알기 위해선 무엇이 필요할까요? 바로
해 집합의 방향 그리고 해 집합의 특정한 한 점
이후 배우는 내용들은 이 해 집합의 방향과 그 특정한 한 점을 찾는 것으로 귀결됩니다.