[패스트캠퍼스 챌린지 2일차] MLOps = ML + DevOps

1. Intro

전통적인 IT 프로젝트에서의 Software 개발 방식은 Uni-directional 한 방향으로 진행되었습니다. 간단히 다음과 같이 정리할 수 있다.

 

Code 구현 → Build → Deployment

 

이러한 방식을 이제 벗어나 DevOps라는 하나의 방법론이 정의되기 시작했습니다. 

 

 

https://devopedia.org/devops

그림에서 볼 수 있듯이 이러한 단계가 하나의 사이클이 이루어지는 개발 방식이 필요하다는 이야기가 나오면서 DevOps라는 개발 방법론이 정의가 되었습니다. 또한 DevOps라는 분야갸 탄생하면서 소프트웨어 개발 프로세스에서 단순한 코드 구현 이외에 여러 가지 구성 요소들이 정리 및 분리가 이루어지면서 많은 기술적 & 문화적 발전이 있었습니다. 

 

 

 

2. ML Project와 SW Project 의 유사성

ML을 서비스화 하는데 꼭 필요한 모든 업무들에 자동화가 필요하다는 의견들이 나오면서 DevOps 방법론을 적용해보자는 아이디어가 나왔습니다. 그 SW 프로젝트와 ML Project의 공통적인 부분과 ML에 적용되는 부분을 정리하면 다음과 같습니다.

- 버전관리 : 데이터 및 모델 버전 관리

- 테스트 자동화 : 모델 학습, 배포, 모델 성능 평가 자동화

- 모니터링 : 서빙 모델, 데이터 변화, 시스템 안정성 모니터링 

 

 

 

 

 

 

 

 

3. AI 서비스와 일반 SW의 차이점

AI Service 를 다음과 같이 정리할 수 있습니다.

 

AI Service = SW + Data

 

코세라에서 ML/DL 입문할 때 많이 듣게 되는 앤드류 응 교수님도 모델보다 데이터가 훨씬 중요하다고 강조하며 최근 들어 데이터의 중요성이 대두되고 있습니다. 이러한 한 가지 차이점 때문에 ML 프로젝트에 큰 영향을 주기 때문에 DevOps와 비슷하면서도 조금 다른 MLOps라는 새로운 분야가 탄생한 것입니다. 

 

MLOps = ML + DevOps 

 

4. 빅테크에서의 MLOps의 정의

ML/DL에서 빠질 수 없는 빅 테크 기업에서도 맥락은 같으나 조금씩 다르게 정의합니다. 

- Google : MLOps는 ML 시스템 개발(Dev)와 ML 시스템 운영(Ops)을 통합하는 것을 목표로 하는 ML Engineering 문화 및 방식입니다. MLOps를 수행하면 통합, 테스트, 출시, 배포, 인프라 관리를 비롯하여 ML 시스템 구성의 모든 단계에서 자동화 및 모니터링을 지원할 수 있습니다. 

- Amazon : 고객 서비스를 개선하며, 손실을 최소화 시키며 내부 DataScientist들의 생산성을 높입니다. 또한 MLOps는 AI Model, ML Project 관리, QA, CI/CD 등의 필요한 모든 것입니다.

- NVIDIA : MLOps는 AI기반 App 개발, 운영, 배포하는 데 있어서 DevOps의 규율을 적용한 것입니다. 

 

다음 글에서는 MLOps의 구성요소에 대해 살펴보겠습니다. 

---

https://bit.ly/37BpXiC

패스트캠퍼스 [직장인 실무교육]

 

* 본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성되었습니다.

 

 

 

---