프로젝트 명 : 금융 공기업(부산) 기술거래 추천 프로젝트 (S-Bert Similarity Search) (2022.05~2022.12)
프로젝트 소개 :
- 기업 / 개인 등이 필요한 기술을 검색했을때, 이를 기존 거래가 진행된 케이스를 기반으로 학습된 S-Bert 모델을 이용하여 검색 내용과 유사도가 높은 기술을 추천하는 서비스 개발
사용언어 및 개발환경 :
- (폐쇄망) A100 GPU, Redhat 8.4, Python, Torch Serve, FastAPI, Gunicorn, Uvicorn, Shell Script, FileZilla
주요업무 및 상세역할 :
- 기관추천, 민간매도, 이전대상 AI 추천 기술 거래 서비스 RestAPI 개발
- 주기적 임베딩 추가 및 Canary 방식 배포 스크립트 개발
성과/결과 :
- 주기적 임베딩 추가 후 무중단 배포 구축으로 서비스 안정성 강화
- L4 및 Nginx L7 Load Balancing 으로 서비스 안정성 강화
- https://tb.kibo.or.kr/ktbs/tech/supply/supplyTechSearchList.do
프로젝트 명 : 국내 대기업 보험사(S생명) 상담사 화법 추천 프로젝트 (Klue Bert Multi-Turn Response Selection) (2021.12 ~ 2022.07)
프로젝트 소개 :
- 고객 정보 및 상담사와의 대화 내용을 기반으로 추천 답변 제공 서비스 구축
사용언어 및 개발환경 :
- (폐쇄망) A100 GPU / Redhat8.4 / FastAPI / Gunicorn, Uvicorn / Python / Shell Script
주요업무 및 상세역할 :
- Torch Serve Handler 개발 및 최적화
- FastAPI RestAPI 개발
- 주기적 자동 학습을 위한 Shell Script구축
성과/결과 :
- 모델에서 다른 코드는 걷어내고 Inference만 남도록 리팩토링하여 Handler 작성
(추론 속도 3s → 100ms로 감소)
- 주기적 학습 후 모델 성능을 비교하여 Canary 방식으로 무중단 배포 개발 완료
더보기