본문 바로가기
공부 정리/Linear Algebra

[MIT Linear Algebra] 8. Solving Ax = b: Row Reduced Form R

by st.George 2024. 1. 15.
  • 본 게시글은 Gilbert strang 교수님의 Linear Algebra, MIT 정리글입니다.
  • 개인적인 공부를 위해 작성한 글이며, 잘못된 내용이 존재할 가능성이 있습니다.
  • 잘못된 내용, 오타는 지적해 주시면 감사하겠습니다.

강의링크:

https://www.youtube.com/watch?v=9Q1q7s1jTzU


 

이번 강의에서 살펴볼 내용은 다음과 같다.

  • Complete solution of Ax=b
  • Rank r
  • r=m: solution exists
  • r=n: solution is unique

이번 강의는 이때까지의 내용을 정리 및 종합하는 성격이 있다.

이전 강의를 제대로 이해하지 못하였다면, 첨부된 링크를 먼저 이해하고 오기를 추천한다.


 

찾고자 하는것은 Ax=b에 대한 solution이다.

Solution이 존재하는 경우도 있지만, 존재하지 않는 경우도 있다.

만약 Solution이 존재하더라도 한 개, 혹은 한 개 이상의 해가 존재할 수도 있다.

 

이번 시간에는  solution이 언제 0개(존재 x), 1개, 1개 이상 존재하는지를,

Rank 조건을 통해 확인해본다.

 

먼저 Solvability condition on b를 살펴본다.

1. Ax=b solvable when b is in column space of A, C(A)

위 내용은 Column space에서 살펴본 내용이다.

b vector가 column space, C(A) 안에 위치할때만 solution을 찾을 수 있다는 의미이다.

 

이해가 되지 않으면 다음  비유를 (정확한 비유인지 모르겠지만) 생각해보자.

우리는 A(Solution)라는 사람을 찾고 싶고, 확인 가능한 범위는 한국(Column space) 내에서만 식별 가능하다.

따라서 A가 한국에 있어야지만 찾을 수 있지, 미국에 있다면 노력해도 찾을 수 없다.

 

https://life-ai-learning.tistory.com/entry/MIT-Linear-Algebra-6-Column-Space-and-Nullspace

 

[MIT Linear Algebra] 6. Column Space and Nullspace

본 게시글은 Gilbert strang 교수님의 Linear Algebra, MIT 정리글입니다. 개인적인 공부를 위해 작성한 글이며, 잘못된 내용이 존재할 가능성이 있습니다. 잘못된 내용, 오타는 지적해 주시면 감사하겠습

life-ai-learning.tistory.com

 

2. If a combinations of rows of A gives zero rows, then same combinations of entries of b must give 0

 

2.은 다음의 Augmented matrix 형태 [A | b] 예제로 살펴보자.

 

 

Elimination을 진행하면 다음의 형태가 된다.

 

 

이때 row 3는 zero rows이다. 또한 zero rows에 해당하는 b의 entry는 0이다.

2.가 말하고자 하는 내용이 바로 이것으로, zero rows에 해당하는 b의 entry가 0이 되야만 한다는 것이다.

이는 자명한 말인데, 0x=0이기 때문이다. 

ex. 0 X x_1 + 0 X x_2 + 0 X x_3 + 0 X x_4 = 0

 

사실 2.은 1.에 포함되는 내용이다. (개인적인 생각)

col 3는 col 1과 col 2의 합으로 이루어져있고, 마찬가지로 b 3 = b 1 + b2로 이루어져있다.

col 3를 0으로 만드는 과정에는 어떠한 새로운 개입도 없기에, C(A)에 포함된다는 조건에 녹아있는 것이다.

 


 

그럼 이제 본격적으로 solution을 찾아본다.

To find complete solution to Ax=b

1. x_particular: set all free variables to zero, solve Ax=b for pivot variables 

 

2. x_nullspace

 

3. x=x_particular + x_nullspace

 

근데 왜 x_p와 x_n을 더하는 것일까?

다음 관계를 살펴보라.

 

 

참고로 x_particular에서 free variables을 0으로 설정하는 이유는 편리성 때문이다.

 

 


Full column rank means r=n, 즉 free variables가 없다는 의미이다.

이때 N(A) = {zero vector}이므로, Ax=Ax_p=b가 된다.

이때 solution이 존재한다면 unique solution만 가능하다.

= 0 or 1 solution

 

예제를 통해 살펴보자.

 

 

이때 다음과 같은 Reduced matrix, R이 나온다.

 

 

Full row rank means r=m

Can solve Ax=b for every b. and it exists

이때 free varibles는 n-r = n-m 개 존재한다.

 

마찬가지로 예제를 통해 살펴보자.

 

 

F는 이전 시간에 살펴본 free variables에 해당하므로 계산을 생략한다.

 

만약 r=m=n이라면 invertible하다.

이때 R=I (Identity matrix)가 된다.

그리고 null space는 zero vector만 가능하다.

1 solution만 가능, 이때 solution은 Ax=b에 대한 solution을 의미

 

그럼 만약 r=n < m이라면 어떨까?

0 or 1 solution만 가능

 

 

r=m < n?

infinite solution이 가능

0이 없기에

 

 

r < m, r<n?

0 or infinte solution이 가능

 

Rank tells everything about the # of solutions