본문 바로가기

DKE/Model Serving

학습된 PyTorch 모델을 FLASK로 배포하기 / 2023.06.03

이미지를 받아서 ImageNet 데이터셋의 1000개 클래스 중 하나로 예측하는 웹 서비스이다!

1. 예제 파일 다운로드

2. app.py 파일 생성

3. Flask 서버 실행

기본적으로 5000번 포트에서 수신 대기한다. 서버를 실행하고, 다른 창을 열어서 추론서버를 테스트

4. 추론 서버 테스트 

/predict 엔드포인트로 kitten.jpg 파일 전송 후 예측 수행 

5. 다른 예제 수행

웰시코기 이미지와 호랑이 이미지로도 수행해봤는데 예측이 정확한것을 확인

 

 

자세한 코드 설명은 아래 웹사이트에서 확인할 수 있다

https://tutorials.pytorch.kr/recipes/deployment_with_flask.html#id1

 

Flask로 배포하기

이 레시피에서는 다음과 같은 내용들을 학습합니다: 학습한 PyTorch 모델을 Flask 컨테이너로 감싸고 웹 API로 노출하는 방법, 웹 요청(request)을 모델에 입력하기 위해 PyTorch 텐서(tensor)로 변환하는

tutorials.pytorch.kr

 

'DKE > Model Serving' 카테고리의 다른 글

[Kubeflow] RBAC: access denied / 2023.06.21  (0) 2023.06.21