1. 서비스 소개
이라는 AI기능이 들어간 모바일 포토샵을 런칭. Remove background, Remove Object, Translation, OCR 기능이 추가되어있고, AI Open source들을 이용하여 Backend에서 이미지를 처리 후 저장함.
GPT를 이용해 유저 커스터마이징 된 데이터들을 내에서 유저가 원하는 정보를 채팅을 통해 보여주는 서비스.
유저가 자신의 문서들(word, excel, txt, notion 등)을 업로드하면, Pinecone 데이터베이스에 Split된 형태로 저장되고, 유저가 업로드된 문서들 내의 특정 부분에 대한 검색을 시도하면, Pinecone의 similarity search를 통해 문서 내용을 가져온 뒤 유저의 질문과 문서의 내용을 기반으로 GPT로 부터 답을 얻어 옴.
prompt engineering과, Langchain
2. Cloud
AWS: ECS, ECR, SQS, Elasticache, Lambda, Route53
GCP: Google Cloud Storage
Pinecone
3. Open Source
AI 관련 Open Source 설치 및 운용
Logstash
langchanin for python
4. DB
Mongo Cloud Atlas에 여러개의 클러스터를 생성하여 사용. 결제와 같은 부분에서는 트랜잭션 관리를 통해 관리 함
Pinecone은 특정 쿼리(사용자의 질문)에 대해 similarity search를 활용하기 위해 사용
5. API 서버 개발
MSA를 기반으로 메인, ai, payment 등 서버를 분리하고 SQS를 통해 서버간 통신을 구현 함
NodeJS+Express를 메인 API서버로 사용하고,
FastAPI를 AI관련 opensource application과 통신하도록 사용 함.
- jwt, passport로 인증을 구현
- toss payment 연동
- sqs+logstash를 통해 elastic cache에 적재될 로그들을 수집
- clone job을 통한 정기구독 모델의 자동 결제 구현
- typedi. Layer분리 및 의존성 제거를 위해 사용.
6. 인프라, CI/CD
Github action으로 특정 브랜치 Push에 대해 ci/cd 구현.
AWS ECS fargate에 도커 이미지를 가지고 task definition에 명시된대로 배포
더보기