예측 계산 복잡도는 샘플 수와 특성 수에 선형적입니다. 다시 말해 예측하려는 샘플이 두 배로
늘어나면(또는 특성이 두 배로 늘어나면) 걸리는 시간도 거의 두 배 증가합니다.
이제 아주 다른 방법으로 선형 회귀 모델을 훈련시켜보겠습니다. 이 방법은 특성이 매우 많고
훈련 샘플이 너무 많아 메모리에 모두 담을 수 없을 때 적합합니다.
4.2
경사 하강법
경사 하강법
Gradient
Descent
(
GD
)은 여러 종류의 문제에서 최적의 해법을 찾을 수 있는 매우 일반
적인 최적화 알고리즘입니다. 경사 하강법의 기본 아이디어는 비용 함수를 최소화하기 위해 반
복해서 파라미터를 조정해가는 것입니다.
짙은 안개 때문에 산속에서 길을 잃었다고 생각해보세요. 발밑 지면의 기울기만 느낄 수 있습니
다. 빨리 골짜기로 내려가는 좋은 방법은 가장 가파른 길을 따라 아래로 내려가는 것입니다. ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.