Machine Learning Platform Engineering 3장은 Docker, Kubernetes, CI/CD, 모니터링만 다룹니다. 앞 글에서 MLOps를 루프로 바라보는 관점을 제시하였고 이번에는 그 루프가 올라갈 플랫폼에 대해서 학습합니다. 기존에 홈랩 환경이 구축되어 있어서 별도 kind를 사용하지는 않았습니다.

1. 전체 흐름

Machine Learning Platform Engineering 의 2장은 MLOps가 왜 루프여야만 하는지 다룬다.

기억하자. 모델은 조직의 최종 산출물이 아니라 수단이다.

1. 모델 만들기는 어려운 부분이 아니다

모델 아키텍처를 처음부터 연구하는 회사는 드물다. 대부분 기존 구조를 재사용하거나 공개 모델을 도메인에 적응시킨다. Hugging Face 같은 생태계가 이 과정을 더 간단하게 만들었다.

정말 어려운 것은 이제부터다.

• 모델을 어떻게 학습시킬 것인가
• 데이터는 모델까지 어떻게 도달하는가
• 모델은 다른 서비스와 어떻게 상호작용하는가
• 모델은 어디서 실행되는가
• 시간이 지나도 정확도를 어떻게 유지하는가

다섯 개 모두 모델링보다는 플랫폼의 문제다. 비즈니스 가치와 인프라 사이의 이 간극이 MLOps를 어렵게 만든다.

Machine Learning Platform Engineering 1장을 읽고 정리한 글이다.

1. ML 프로젝트가 소프트웨어 프로젝트와 다른점

소프트웨어 프로젝트는 안정성을 우선하며 배포한 것이 그대로 돌기를 기대한다.

ML 프로젝트는 맞는 접근을 미리 알 수 없어서 시행착오의 연속이고 단계 사이 흐름이 비선형적이다. 학습을 돌려본 뒤 데이터 준비로 되돌아가는 일이 흔하다.

2. 두가지 국면

같은 단계 이름이 양쪽에 다 나온다는 데서 이 구분이 중요해진다. 데이터 버전 관리, 모델 학습, 평가, 검증이 양쪽 모두에 있다.