MLOps1 BentoML v1 Production Guidance - 서론 정리 차원에서, 회사에서 썼던 BentoML deployment에 대해서 짧게 요약해놓고자 한다. Introduction BentoML은 MLops에서, Machine Learning으로 학습된 모델을 Serving하기 위해 만들어진 library로 ML Serving? Machine Learning으로 학습된 모델을 앱 내 서비스 같은 production 환경 ( 학습환경)에서 사용할 수 있도록 하는 것으로, 포장의 개념으로 이해하면 될 듯. 학습 환경과 달리 production 환경에서는 보통 실시간으로 inference되기 때문에, inference할 모델을 미리 저장 (packing)하거나 ; * api형식으로 저장하거나, active learning을 적용해 inference와 동시에 학습할 수.. 2022. 8. 5. 이전 1 다음
