머신러닝 시스템 설계

363

10

장

MLOps를 위한 인프라와 도구

10.1.1 10.1.1

퍼블릭 클라우드 퍼블릭 클라우드

vsvs

. 프라이빗 데이터 센터. 프라이빗 데이터 센터

컴퓨팅 레이어는 데이터 스토리지와 마찬가지로 대부분 상품화돼 있습니다. 즉, 기업에서 스토

리지와 컴퓨팅을 위해 데이터 센터를 자체적으로 만드는 대신,

AWS

나 애저 같은 클라우드 공

급업체에 사용한 연산량만큼 비용을 지불하면 됩니다. 클라우드 컴퓨팅을 사용하면 기업에서

컴퓨팅 레이어를 크게 걱정할 필요 없이 개발을 매우 쉽게 시작할 수 있습니다. 이는 워크로드

크기가 유동적인 회사에게 특히 매력적입니다. 예를 들어, 워크로드에 연중 딱 하루만

1

,

000

개

의

CPU

코어가 필요하고 나머지는

10

개만 필요하다고 생각해봅시다. 자체 데이터 센터를 구

축한다면

CPU

코어

1

,

000

개에 해당하는 비용을 선불로 지불해야 합니다. 반면에 클라우드 컴

퓨팅을 사용하면 연중 하루만

1

,

000

개에 해당하는 비용을 지불하고 나머지는

10

개에 해당하

는 비용을 지불하면 됩니다. 필요에 따라 연산 자원을 추가하거나 인스턴스를 종료할 수 있어

편리하죠. 대부분의 클라우드 공급업체는 자동으로 이를 수행해 엔지니어링 운영에 대한 오버

헤드를 줄여줍니다. 이는

ML

에 특히나 유용한데, 데이터 과학 워크로드는 급증하는 경향이 있