[선형대수] 5일차 - Vector Space 란

※ 이 글은 한양대학교 이상화교수님의 선형대수 유튜브 강의를 보며 정리한 글입니다. 잘못 이해한 부분이 있을 수도 있으니 많은 피드백 부탁드리겠습니다. 감사합니다. [유튜브 바로가기]

복습 내용

chapter1

chapter1에선 1차 연립방정식과 함께 Gauss Elimination(가우스소거법)을 살펴봤었다. 이 때 우리는 연립방정식을 Ax = b라는 꼴로 나타낼 수 있었고, 이 때의 A는 정방행렬로 해가 unique한 case와 singular case에 대해서도 살펴봤었다(추가로 해가 unique하게 존재할 시 역행렬을 구할 수 있다는 것도 살펴보았었다) 즉, chapter1에선 다음을 만족하는 경우에 대해서만 살펴본 것이다. .

미지수의 개수 = 식의 개수

이제 chapter2에서는 square matrix가 아닌 rectangular case에 대해서 살펴볼 것이다.

chapter2

chapter2에서는 아래의 경우에 해당하는 case만 살펴볼 것이다.

미지수의 개수 > 식의 개수

이 case에서는 해가 무수히 많거나 없다. 이 무수히 많은 경우에 대해, 어떤 형태로 무수히 많은 건지를 다룰 수 있는 방법이 바로 vector space이다. 이번에는 이 vector space에 대한 개념과 여러 예시로 다양한 곳에서 찾을 수 있는 vector space를 살펴볼 것이다. 또한 Subspace라는 것을 다룰 것인데, 이것에 대한 설명은 아래에서 자세히 살펴보자.

chapter3

눈치를 챘을 수도 있겠지만, 이 chapter3에선 rectangular case 중 다음의 경우를 다룬다.

미지수의 개수 < 식의 개수

즉, 각 chapter3 까지는 연립방정식에 대한 solution의 의미와 이 solution의 기술 방법들을 학습해나갈 것이다.

학습할 내용

2.1 中 space

먼저 vector space를 살펴보기 전에, space의 개념부터 알아보자.

space란? addition(덧셈)과 scalar multiplication(스칼라 곱)에 대해 닫혀 있는 요소들을 갖는 일종의 집합이다.

그럼 closed(닫혀 있다)의 뜻은 뭘까?

어느 집합 A안에 포함되는 x와 y끼리의 덧셈 또는 x와 y에 스칼라곱 연산을 수행했을 때, 이 결과 또한 집합 A에 포함된다는 뜻이다.

2.1 中 vector space

그럼 vector space란 무엇일까?
$$
\forall x, y \in \mathbb{R}^n\ \text{and}\ \forall C \subset R
$$ 를 만족하는 벡터 x와 y, 그리고 스칼라값 C에 대해서 아래의 조건식을 살펴보자.

$$
\begin{aligned}
&1)\ x, y \in \mathbb{V}\ \Rightarrow \ x + y \in \mathbb{V} \newline
&2)\ x, y \in \mathbb{V}\ \Rightarrow Cx \ \in \mathbb{V} \newline \newline
&\therefore \ C_1x + C_2y \in \mathbb{V}
\end{aligned}
$$ 위 조건 1), 2)를 만족하는 \(\mathbb{V}\)를 vector space라고 한다.

즉, n차원 벡터에 포함되는 모든 x와 y, 그리고 실수인 모든 C에 대해서 임의의 x와 y가 어느 집합 \(\mathbb{V}\)에 포함된다면(if), 이들의 선형결합 또한 \(\mathbb{V}\)에 포함된다(then)는 뜻이고, 이를 만족하게 하는 집합 \(\mathbb{V}\)를 vector space라고 할 수 있는 것이다.

2.1 中 vector space의 성질

vector space 안에서의 vector들이 가지는 성질은 다음과 같다.

1. \(X + Y = Y + X\) (교환)
2. \(X + (Y + Z) = (X + Y) + Z\) (결합)
3. \(X + 0 = 0 + X = X\) (항등원)
4. \(X + (-X) = (-X) + X) = 0\) (역원)
5. \(1\cdot X = X\)
6. \(C(X + Y) = CX + CY\) (분배법칙)
7. \((C_1 + C_2)X = C_1X = C_2Y\) (분배법칙)

※ 3번을 통해, 임의의 vector space에서는 항등원의 역할을 하는 origin vector, 즉 영벡터가 무조건 존재해야 한다.
※ 4번을 보면 알 수 있듯이, 위 3번의 항등원을 만들기 위한 unique한 역원이 존재한다.

2.1 中 행렬에서의 vector space

mxn의 크기를 갖는 모든 matrix는 vector space이다. 이 때 이 vector space는 mxn 차원에 포함된다.
$$
A_{m\times n} \in R^{m\times n}
$$
2x2 행렬을 생각해보자. 2x2 행렬 \(A\)와 \(B\)에 어느 스칼라값 \(c_1\)과 \(c_2\)을 이용한 선형결합을 했을 때, \(c_1A + c_2B \)의 결과로 만들어지는 행렬 또한 2x2 행렬임을 알 수 있다. 즉, 2x2 행렬은 덧셈과 스칼라 곱에 대해 닫혀 있으므로 vector space라고 할 수 있다. 참고로 2x2 행렬은 4차원 벡터 공간에 포함된다.

2.1 中 최대 2차 다항함수에서의 vector space

\(ax^2 + bx + c\) 의 2차 다항함수가 있다고 하자. 위에서 '최대'라는 말을 붙힌 이유는 a 또는 a와 b모두가 0이 될 수 있기 때문이다. 이 2차 다항함수의 경우에도 vector로 표현할 시 \(\begin{pmatrix}
a \\
b \\
c \\
\end{pmatrix}\) 로 표현할 수 있고, 이는 3차원 벡터이다. 만약 이 2차 다항함수끼리 더하거나, 혹은 스칼라곱을 수행했을 때도 마찬가지로 2차 다항함수에서 벗어날 수 없으므로 이 또한 3차원 vector space라고 할 수 있는 것이다.

※ 수업에서는 2차 다항함수만 살펴봤는데, n차 다항함수 모두 전부 vector space 조건에 만족한다는 것을 알아두자.

2.1 中 exponential에서의 vector space

exponential(지수함수)는 vector space라고 할 수 있을까? 다음 식을 생각해보자.
$$
f(x) = ae^x
$$ 우린 공학수학에서 이 지수함수를 다항함수로 approximation(근사)할 수 있는 방법인 Taylor Series(테일러 급수)에 대해서 배운 바 있다. 하지만 저 또한 이를 기억하지 못했기 때문에 수업에서 간략히 알려주신 것을 적어놓으려 한다.

Taylor Series
Taylor Series의 핵심은 base point라는 기준점이 있다면, 이 기준점을 중심으로 어떠한 함수던지간에 변수 x에 대한 다항식으로 나타낼 수 있다는 것이다.
$$
f(x) = f(0) + f^{\prime} (0)x + \frac{f^{\prime\prime} (0)}{2!}x^2 + \frac{f^{\prime\prime\prime} (0)}{3!}x^3 + \cdots
$$ 이렇게 지수함수를 다항함수로 approximation할 수 있다.

※ Fourier series
푸리에 급수는 주기함수들을, 다항함수가 아닌, cos sin 들의 조합으로 표현할 수 있다는 것에서 Taylor Series와 차이가 있다.

exponential은 \(\alpha_1e^x + \alpha_2e^x = (\alpha_1 + \alpha_2)e^x\)이고, 이 또한 exponential이기 때문에 addition과 scalar multipllication에 대해 닫혀 있다. 여기서 위와 같이 테일러 급수를 위 식에 대해 나타내보면 무한대의 차수를 가지는 다항함수가 나오는데, 따라서 exponential은 무한대 차원의 vector space라고 할 수 있는 것이다.
$$
f(x) = ae^x \in R^{\infty} \rightarrow \text{Hilbert Space}
$$ 1일차에서 언급했었다시피, 무한대의 차원을 갖는 vector space를 Hilbert space라고 부른다. 우리는 이 Hilbert Space까지는 보지 않을 것이라고 한다.

2.1 中 Subspace

2.1 中 Column Space(추가)

Ax = b에서 이 vector b는 A를 이루는 열벡터들에 대해 벡터 x를 이루는 성분들을 계수로 하는 선형 결합입니다.

$$
\begin{aligned}
&A = \begin{bmatrix}a_1 &a_2 &\cdots &a_n\end{bmatrix}, \quad x = \begin{bmatrix}x_1 \\ x_2 \\ \vdots \\ x_n\end{bmatrix} \newline
&Ax = \begin{bmatrix}a_1 &a_2 &\cdots &a_n\end{bmatrix}\begin{bmatrix}x_1 \\ x_2 \\ \vdots \\ x_n\end{bmatrix} = \begin{bmatrix}b_1 \\ b_2 \\ \vdots \\ b_n\end{bmatrix} = b
\end{aligned}
$$

• 벡터 b는 x 성분들을 계수로 하는 임의의 선형결합 결과이다.
• 벡터 b는 column space에 포함된다는 것과 같은 의미이다.

즉 벡터 b가 행렬 A의 column space에 포함되지 않는다면, 가우스 소거법을 시도해 볼 필요조차 없다는 뜻입니다. (singular case가 나온다는 뜻.)

위 선형결합 모양으로 Ax = b를 나타낸 방식이 기억나지 않는다면, 행렬곱을 관찰하는 3가지 방법 중 추가사항으로 본 4번째방법에 대한 내용을 확인해주세요.