
287
8
장
데이터 분포 시프트와 모니터링
퇴행성 피드백 루프
4
.
2
.
2
절 ‘자연 레이블’에서 피드백 루프를 알아봤습니다. 피드백 루프는 예측값을 제시한 다음
예측값에 대한 피드백이 되돌아올 때까지 걸리는 시간을 의미합니다. 피드백은 자연 레이블을
추출해 모델 성능을 평가하고 다음번 훈련을 반복하는 데 사용 가능합니다.
퇴행성퇴행성
피드백피드백
루프루프
degenerate
feedback
loop
는 예측 자체가 피드백에 영향을 미치고, 이 피드백이 모
델의 다음번 반복 학습에 영향을 미칠 때 발생합니다. 좀 더 공식적인 언어로 말하자면, 퇴행성
피드백 루프는 시스템 출력을 시스템의 미래 입력을 생성하는 데 사용할 때 발생하며, 이것은
시스템의 미래 출력에 다시금 영향을 미칩니다.
ML
에서 시스템의 예측은 사용자가 시스템과
상호 작용하는 방식에 영향을 미칩니다. 시스템과 사용자의 상호 작용은 때때로 같은 시스템에
대한 훈련 데이터로 사용되므로 퇴행성 피드백 루프가 발생하면서 의도하지 않은 결과를 초래
할 수 있습니다. 퇴행성 피드백 루프는 추천 시스템과 광고 클릭률 예측 등 사용자에게서 획득
한 자연 레이블이 존재하는 작업에서 특히 흔합니다.
예시로 사용자가 좋아할 만한 노래를 추천하는 시스템을 개발한다고 가정해봅시다. 시스템에
서 순위가 높은 노래가 사용자에게 ...