AI를 위한 필수 수학

250

AI

를 위한 필수 수학

부에는 어떤 수치 알고리즘이 숨어 있을까? 이 질문에 빠르게 답하자면

QR

분해

QR

decomposition

,

하우스홀더 반사

Householder

reflection

, 그리고 고유값 및 고유벡터에 대한 반복 알고리즘이 있다.

이론적으로 일반 행렬에 대한 특이값 분해를 계산하거나 정방 행렬에 대한 고유값 및 고유벡터

를 계산하려면 다항식을 세우고 이를

0

으로 설정하여 선형 방정식을 풀어야 한다. 하지만 이런

방식은 애플리케이션에서 실용적이지 않다. 다항식의 근을 찾는 문제는 다항식의 계수에서 발

생하는 작은 변동에도 매우 민감하다. 또한 계수 자체에 존재하는 반올림 오류

roundoff

error

에 매

우 취약하다. 이 문제를 해결하기 위해서는 고유벡터와 고유값을 찾는 데 다항식의 근을 수치

적으로 계산하지 않으면서 안정적인 수치 방법이 필요하다. 또한 선형 방정식에 관련된 행렬이

잘 조건화

well

-

conditioned

되어 있는지 확인해야 한다. 그렇지 않으면 가우스 소거법 (

LU

분해 )과

같은 인기 있는 방법이 잘 작동하지 않는다.

대부분의 특이값 분해의 수치적 구현에서는

AA

t

와

A

t

A

를 잘 계산하지 않으려고 한다. 이는 이

책의 주제 중 하나와 일치한다. 행렬 간 곱셈을 하지 않는 대신 행렬과 벡터를 곱하는 것이다.

특이값 분해를 구하는 데 유명한 수치 방법 중 하나인 하우스홀더 반사 알고리즘을 사용하여

행렬을 대각 대칭 핼렬로 변환하고(때로는

QR

분해로 시작하기도 한다) 반복 알고리즘을 사

용하여 ...