MLOps (Machine Learning Operations) 상세 설명

MLOps는 Machine Learning과 DevOps의 합성어로, 머신러닝 모델을 개발하고 운영하는 데 필요한 모든 프로세스를 자동화하고 표준화하는 문화, 방법론 및 기술의 집합체입니다. 소프트웨어 개발의 DevOps 원칙을 머신러닝 시스템에 적용한 것입니다.

※**DevOps(데브옵스)**는 소프트웨어 개발(Dev) 팀과 운영(Ops) 팀 간의 장벽을 허물고 협업, 자동화, 지속적인 개선을 통해 소프트웨어 제품을 더 빠르고 안정적으로 제공하는 문화, 방식, 도구의 조합입니다.

MLOps의 개념 및 배경

MLOps는 단순한 모델 개발을 넘어, 모델이 실제 서비스 환경에서 안정적이고 효율적으로 작동하도록 보장하는 데 중점을 둡니다.

• 배경: 전통적인 소프트웨어는 정적이지만, 머신러닝 모델은 데이터와 코드의 조합으로 이루어지며, 데이터가 변하면 모델의 성능도 변합니다. 이 복잡성과 동적인 특성때문에 개발(Dev)과 운영(Ops) 사이에 새로운 격차(Gap)가 발생했고, 이를 해소하기 위해 MLOps가 등장했습니다.
• 핵심: 자동화(Automation), 지속적인 통합 및 배포(CI/CD), **지속적인 모니터링(Monitoring)**을 통해 ML 모델의 라이프사이클 전체를 관리합니다.

MLOps의 주요 목적 

MLOps를 도입하는 주된 목표는 머신러닝 프로젝트의 신뢰성, 효율성, 확장성을 확보하는 것입니다.

• 배포 속도 향상 (Accelerate Deployment): 학습된 모델을 수동 개입 없이 빠르고 안정적으로 프로덕션 환경에 배포할 수 있게 합니다.
• 모델의 신뢰성 및 품질 보장 (Ensure Reliability and Quality): 모델의 학습 데이터, 파라미터, 성능 지표 등을 추적하여 문제가 발생했을 때 원인을 빠르게 파악하고 재현할 수 있도록 합니다 (재현성, Reproducibility).
• 지속적인 성능 유지 (Maintain Performance): 배포된 모델의 성능이 시간이 지남에 따라 저하되는 현상인 **데이터 드리프트(Data Drift)**나 **모델 드리프트(Model Drift)**를 실시간으로 감지하고 자동으로 모델을 재학습 및 재배포하여 성능을 유지합니다.
• 협업 강화 (Enhance Collaboration): 데이터 과학자, ML 엔지니어, IT 운영팀 간의 경계를 허물고, 표준화된 툴과 프로세스를 통해 원활한 협업을 가능하게 합니다.
• 규정 준수 및 거버넌스 (Compliance and Governance): 모델이 학습된 데이터와 의사 결정 과정을 기록하고 감사할 수 있게 하여, 금융이나 의료 같은 규제 산업의 요구 사항을 충족시킵니다.

MLOps의 핵심 요소 (Core Components)

MLOps 시스템은 모델의 라이프사이클을 관리하는 여러 핵심 구성 요소로 이루어져 있습니다.

ML Experiment Tracking (ML 실험 추적):

• 목적: 모델을 개발하는 과정에서 시도된 수많은 실험(버전)을 기록하고 관리합니다.
• 내용: 사용된 데이터셋 버전, 하이퍼파라미터 값, 모델 코드 버전, 성능 지표(Accuracy, F1-Score) 등을 기록하여 최적의 모델을 선정하는 데 도움을 줍니다.

Data Versioning & Validation (데이터 버전 관리 및 검증):

• 목적: ML 시스템의 핵심인 데이터의 일관성과 품질을 보장합니다.
• 내용: 데이터셋이 변경될 때마다 버전을 지정하고 추적하며, 학습에 사용되기 전에 누락된 값, 이상치, 통계적 분포의 변화 등을 검증합니다.

※버저닝은 소프트웨어, 문서 등의 특정 상태에 고유한 버전 이름이나 번호를 부여하는 과정입니다. 이를 통해 변경 이력을 추적하고 여러 버전을 관리할 수 있으며, 가장 일반적인 방식은 **시맨틱 버저닝(Semantic Versioning)**으로, 주요(Major), 부(Minor), 패치(Patch) 세 가지 숫자를 사용해 변경 내용을 명확히 전달합니다. 

CI/CD (Continuous Integration / Continuous Delivery):

• ML CI (지속적 통합): 모델 코드를 테스트하고, 데이터 검증을 수행하며, 최종적으로 모델을 학습하는 과정을 자동화합니다.
• ML CD (지속적 배포): 검증된 모델 아티팩트(Artifact)를 모델 레지스트리에 등록하고, 프로덕션 환경에 배포하는 과정을 자동화합니다.

※'인티그레이션(integration)'은 **'통합' 또는 '융합'**을 의미합니다. 여러 요소나 부분들을 하나로 합치거나, 사회나 시스템을 조화롭게 만드는 과정을 뜻하며, 수학에서는 '적분'을 의미

Model Registry (모델 레지스트리):

• 목적: 학습 및 검증이 완료된 모델들을 중앙 집중식으로 저장하고 관리하는 저장소입니다.
• 내용: 모델 버전, 성능 지표, 배포 상태(Staging, Production 등) 등 메타데이터를 포함합니다. 운영팀은 여기서 가장 최적의 모델을 선택하여 배포합니다.

Model Serving (모델 서비스):

• 목적: 배포된 모델이 실시간 또는 배치 방식으로 예측을 수행할 수 있도록 API 엔드포인트를 제공합니다.
• 내용: API 게이트웨이를 통해 모델에 대한 접근을 관리하고, 트래픽에 따라 모델 인스턴스를 확장하거나 축소하는 오토 스케일링 기능을 포함합니다.

Monitoring & Logging (모니터링 및 로깅):

• 목적: 배포 후 모델과 시스템의 상태를 지속적으로 관찰하여 문제를 조기에 감지합니다.
• 내용:

a. 모델 모니터링: 예측 정확도, 데이터 드리프트(Data Drift), 모델 드리프트(Model Drift) 등의 지표를 추적합니다.(※Drift : 경향, tendency, trend, propensity, inclination, penchant, current)

b. 시스템 모니터링: API 지연 시간(Latency), 서버 자원 사용량(CPU/GPU), 오류 발생률 등을 추적합니다.

MLOps 적용 과정 (라이프사이클)

MLOps는 일반적으로 다음과 같은 반복적인 라이프사이클을 따릅니다.

• Data Preparation (데이터 준비): 데이터 수집, 정제, 라벨링, 통계적 분석 및 버전 관리를 수행합니다.
• Model Training (모델 학습): 다양한 실험 관리 도구를 사용하여 모델 코드를 개발하고, 데이터를 활용하여 모델을 학습시킵니다.
• Model Validation (모델 검증): 학습된 모델이 프로덕션 기준(성능, 공정성, 안정성)을 충족하는지 테스트합니다. 합격된 모델은 모델 레지스트리에 등록됩니다.
• CI/CD Pipeline (지속적 통합 및 배포): 자동화된 파이프라인을 통해 코드를 통합하고, 모델을 빌드하며, 프로덕션 환경에 배포합니다. 일반적으로 Blue/Green 또는 Canary 배포 전략을 사용하여 안정성을 확보합니다.
• Model Serving (모델 서비스): 배포된 모델을 API 엔드포인트로 제공하여 실시간 예측 요청에 응답합니다.
• Monitoring & Retraining (모니터링 및 재학습): 배포된 모델을 모니터링하여 성능 저하가 감지되면, 자동화된 재학습 트리거를 작동시켜 모델 라이프사이클을 처음부터 다시 시작합니다. 이 피드백 루프를 통해 시스템이 지속적으로 최적화됩니다.