SRE를 위한 시스템 설계와 구축

218

2

부

시스템 설계

●

요청을 처리하는 대신 에러를 리턴하는 로드 셰딩

●

요청 처리 기한에 가까워질 때까지 응답을 지연하는 클라이언트 쓰로틀링

throttling

[그림

8

-

3

]은 용량을 넘어서는 트래픽의 증가를 보여주고 있다. [그림

8

-

4

]는 부하 증가를 관

리하기 위해 로드 셰딩과 쓰로틀링을 적용했을 때의 효과를 보여준다. 이 두 그림을 확인할 때

다음을 염두에 두자.

●

곡선은 초당 요청 수를 의미하며 곡선 아래의 면적은 전체 요청 수를 의미한다.

●

공백은 장애 없이 처리된 트래픽을 의미한다.

●

역슬래시로 표시된 면적은 저하된 (일부 요청이 실패하는 ) 트래픽을 표현한다.

●

교차선으로 표시된 면적은 거부된 (전체 요청이 실패하는 ) 트래픽을 표현한다.

●

슬래시로 채워진 면적은 우선순위가 높은 (중요한 요청이어서 성공적으로 처리한 ) 트래픽을 표현한다.

[그림

8

-

3

]은 볼륨(손실된 요청의 수 )와 시간 (트래픽 증가 후 장애가 지속된 시간 )에 큰 영

향을 주는 크래시가 어떻게 발생하는지를 보여주고 있다. 또한 시스템 크래시가 발생하기 전

에 저하된 트래픽 (역슬래시로 채워진 면적 )이 제대로 처리되지 못한다는 점도 보여주고 있다.

[그림

8

-

4

]는 로드 셰딩이 적용된 시스템이 [그림

8

-

3

]보다 훨씬 적은 트래픽을 거부 (교차선

으로 표시된 면적 ...