[선형대수] 선형대수(1)

공부 노트

오늘밤공부 2023. 2. 15. 10:23

순서를 갖는 1차원 형태의 배열로 list 또는 array로 나타남
공간에서의 한 점으로 원점으로부터 상대적 위치를 표현
성분의 개수 = 벡터의 차원
기본적으로는 열(column) 벡터의 형태
벡터의 컴포넌트 순서가 다른 경우, 두 벡터는 다른 벡터
벡터의 크기(Norm)
- 원점으로부터의 거리(양수)
- Norm = Length = Magnitude
- L₁ = ∑|xi| ( Robust 학습 / Lasso 회귀 )
- L₂ = √∑|xi|² ( Laplace 근사 / Ridge 회귀 )
단위 벡터(Unit Vector)
- 길이가 1인 벡터(단위 unit = 1)
- 모든 벡터는 단위 벡터의 선형 결합으로 표기 가능
- 선형 결합(Linear Combination) : 벡터의 스칼라 곱과 합으로 나타낸 것
  v = [2, 5] = 2[1, 0] + 5[0, 1] = 2i + 5j
벡터의 내적(Dot Product)
- 정사영(orthogonal projection)된 벡터의 길이(두 데이터의 유사도 확인)
  -> 정사영의 길이를 벡터 y의 길이 ||y||(L2norm)만큼 조정한 값
- 두 벡터에 대해 서로 대응하는 각각의 성분을 곱한 뒤 모두 합하여 구함 -> 두 벡터의 차원이 같아야 함
- 벡터를 내적한 값은 스칼라
  v₁ = [a₁, a₂, a₃, ... ] // v₂ = [b₁, b₂, b₃, ... ]
  v₁∙v₂ = a₁b₁ + a₂b₂ + a₃b₃ + ...
- 내적 교환 법칙 및 분배 법칙 적용

수 또는 변수를 ()안에 행과 열로 배열한 것 -> DataFrame과 유사한 형태
2차원 형태의 array 또는 list로 나타냄 -> 벡터들로 구성
행과 열의 개수는 매트릭스의 차원을 의미
두 매트릭스가 일치하려면 차원과 성분이 동일해야 함
행렬의 𝓧𝒾𝒿는 𝒾번째 데이터의 𝒿번째 변수의 값
벡터공간에서 사용되는 연산자(operator)
-> 행렬곱을 통해 벡터를 다른 차원의 공간으로 보낼 수 있음
-> 행렬곱을 통해 패턴추출과 데이터 압축이 가능

행렬의 전치(Transpose)
> 행과 열을 바꾸어 나타내는 것(𝐀ᵀ)
> 전치의 전치는 자기자신
행렬곱(Matrix Multiplication)
> 두 행렬의 차원이 M * L, L * N이라면 행렬끼리 곱할 수 있음 -> M * N(교환법칙 성립 X)
단위행렬(Identity Matrix)
> 대각행렬 중에서 대각선 성분이 모두 1인 매트릭스
> 𝐀𝑰 = 𝐀
역행렬(Inverse)
> 임의의 정사각행렬에 대해 곱했을 때, 단위 행렬이 되도록 하는 행렬
> 𝐀𝐀ᵀ = 𝑰
유사역행렬(Pseudo-inverse) 또는 무어-펜로즈(Moore-Penrose) 역행렬
> 역행렬은 행과 열 숫자가 같고 행렬식이 0이 아닌 경우에만 가능하기 때문에 역행렬을 계산할 수 없는 경우에 유사역행렬 또는 무어-펜로즈 역행렬 A⁺ 사용
행렬식(Determinant)
> 정사각 행렬 𝐀에 대해 det(𝐀) 또는 |𝐀|로 표기(정사각 행렬에서만 정의)
> 주어진 행렬을 숫자 1개로 표현하겠다 -> Determinant
> 행렬의 행과 열이 선형관계일 경우, det(𝐀) = 0

주어진 두 벡터의 조합으로 만들 수 있는 모든 가능한 벡터의 집합
선형관계의 벡터(Linearly Dependent Vectors)
- 두 개의 벡터가 선형관계 : 벡터들이 같은 선상에 있음
- 두 벡터를 조합 -> 선 외부의 새로운 벡터 생성 X
- 두 개 이상의 벡터가 선형 종속 -> 벡터 중 적어도 하나는 다른 벡터의 선형조합으로 나타낼 수 있음
- 선형관계 벡터들이 만들어 내는 span -> 벡터의 수보다 적은 차원을 갖음
선형관계가 없는 벡터(Linearly Independent Vectors)
- 두 개의 벡터가 선형 독립 : 벡터들이 같은 선상에 있지 않음
- 선형 독립인 벡터가 만들어내는 Span -> 차원의 수 = 벡터의 수

** 수정이 필요하다면 댓글을 부탁드립니다.