LLM 기반 챗봇 기획, 프롬프트 엔지니어링
- Prompt Engineering&Chaining 설계
- RAG&Function calling을 위한 데이터 명세 정의
- Fine-tuning을 위한 데이터 기획&제작
- LLM 기반 챗봇 기획
[대표 성과]
Corely, LLM 기반 유튜브 요약 서비스
- 업무: Prompt Engineering&Chaining 설계
- 문제: 1개의 기능을 1개의 프롬프트로 구현하기엔 few-shot으로 넣을 수 있는 데이터가 적었습니다. 그렇다고 이 문제를 fine-tuning으로 해결하기엔 당시 Context length가 4,096개라는 한계가 있었습니다.
- 해결: 1개의 기능을 → 여러 단계로 나누고 → 각각 단계에 맞는 Prompt 혹은 Fine-tuning을 진행하는 Prompt-Chaining을 설계했습니다.
Project A, LLM 기반 제품 추천 서비스
- 업무: Function calling을 위한 데이터 명세 정의
- - 문제: Function calling을 위한 데이터 명세가 정확하지 않으면 유저에게 중복된 정보를 추천하는 등 좋지 않은 유저 경험을 제공하게 됩니다.
- 해결: 유저의 검색어를 대분류(제품 영역), 중분류(브랜드), 소분류(기기 이름) 3단계로 나누고, 각 단계에 맞는 Function Calling 데이터 명세를 설계했습니다.
더보기