(BentoML) BentoML 개요 및 구성

모든 내용은 아래 Document를 참고했다. 또한 모든 내용은 pytorch를 기준으로 작성되었음을 미리 알리겠다.

Installation BentoML is distributed as a Python Package available on PyPI. Install BentoML alongside with whichever deep learning library you are working with, and you are ready to go!

BentoML supports Linux/... docs.bentoml.org BentoML 최근에는 Flask나 FastAPI 파이썬 백엔드를 활용하여 직접 머신러닝 서버를 개발한다. 서버에 사용할 모델이 1~2개 정도면 큰 무리 없이 개발이 가능하지만 만약에 서버에 사용할 모델이 수십개, 혹은 그 이상이라면 서버 개발에 있어 반복되는 작업이 많아지고 서비스를 위한 Serving에 더 많은 공을 들여야 한다.

많은 개발자들은 이 과정을 빠...