SageMaker - 태그 - lee's bloghttps://ken-0913.github.io/myblog/tags/sagemaker/SageMaker - 태그 - lee's blogHugo -- gohugo.ioko-krhyeonjae0913@gmail.com (ken-0913)hyeonjae0913@gmail.com (ken-0913)Wed, 12 Aug 2026 21:00:00 +0900LLM 스터디 2주차 - 클라우드 벤더와 함께 구축하기 — AWS SageMaker로 보는 모델 서빙 6단계https://ken-0913.github.io/myblog/posts/llm/llm-sagemaker-serving-options/Wed, 12 Aug 2026 21:00:00 +0900ken-0913https://ken-0913.github.io/myblog/posts/llm/llm-sagemaker-serving-options/

AWS SageMaker를 예시로 삼아 퍼블릭 클라우드에서 모델 서빙 시스템을 만드는 6가지 방법을 정리한다. 클라우드 벤더가 서빙 옵션을 설계하는 근본 논리 파악하고 GCP Vertex AI나 Azure ML의 유사한 스펙트럼도 같은 기준으로 판단할 수 있다.

5절의 모든 명령과 로그는 RTX 3050 6GB 리눅스 데스크톱에서 실제로 실행한다.

1. 6단계 스펙트럼

단계 방식 자유도 운영 부담
1 Bedrock 낮음 매우 낮음
2 SageMaker JumpStart 조금 높음 낮음
3 Bring Your Own Model 중간 중간
4 Bring Your Own Code 높음 높음
5 Bring Your Own Serving Image 매우 높음 매우 높음
6 Build Your Own Infrastructure 최고 최고

각 단계에서 AWS가 소유하던 레이어가 하나씩 사용자 책임으로 넘어온다.

]]>