이후 컴포넌트가 소화할 수 있는 형식으로 데이터를 처리합니다. 데이터 수집 단계에서는 피처
엔지니어링을 수행하지 않습니다(데이터 유효성 검사 단계 후에 수행합니다). 또한 들어오는
데이터의 버전을 관리하여 데이터 스냅샷을 파이프라인 끝에 있는 학습된 모델과 연결하는 점
도 중요합니다.
1.3.2
데이터 검증
새 모델 버전을 학습하기 전에 새 데이터를 검증해야 합니다. 데이터 검증(
4
장)은 새 데이터의
통계가 예상대로인지 확인하는 데 초점을 맞춥니다(예: 범주의 범위, 범주의 수와 분포). 또한
이상 징후가 감지되면 데이터 과학자에게 경고합니다. 예를 들어, 이진 분류 모델을 학습할 때
학습 데이터에 클래스
X
표본의
50
%와 클래스
Y
표본의
50
%가 포함된다고 가정해보죠. 데이
터 검증 도구는 (새로 수집된 데이터가 두 클래스 간에
70
/
30
으로 분할될 때처럼) 클래스 각
각의 비율이 변경될 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.