서비스
bedrock과 opensearch를 이용하여 하이트진로의 법인카드 사용내역 및 내용요약 기능을 제공하는
AI 에이전트의 RAG 파이프라인을 구축
기간
2025.09.01 ~ 2025.10.31 | 2M
🛠️ 프로젝트 스택
| Category | Technologies |
|---|---|
| Backend | Java(Spring) + Mybatis , JSP |
| Infra | docker |
| Rag set up | aws bedrock, aws opensearch |
💡 주요 경험
1️⃣ AWS BEDROCK 과 OPENSEARCH 연계로 RAG 파이프라인 구축
- 자연어를 SQL로 변환하는 TTS RAG 파이프라인을 구축.
: Java + SpringBoot + AWS Bedrock | OpenSearch 사용
(
1. MultiTurn - 이전 대화의 내용과 현재 질의를 맥락을 기반으로 질의 재구성
2. UserIntent - 사용자 의도 분석 단계로 질의를 모델이 더 쉽게 파악할 수 있도록 고도화
3. SQL Generate - 고도화된 질의를 SQL로 text to sql 변환
4. SQL Verify - 생성된 SQL을 검증하고 오류가 있다면 재시도 파이프라인 실행
5. Summary Extraction - 데이터의 요약 필드를 분류하고 데이터 구성 진행
6. Answer Generation - 조회된 데이터를 요약하여 내용이 정리된 자연어 생성
7. TokenCost Calculation - 파이프라인에서 사용한 토큰의 수 합계
8. Response Creation - 최종 응답 구성
)
2️⃣ 데이터 정합성과 동기화 하는 배치 파이프라인 개발
- 월별로 법인카드 사용내역과 추가적인 메타데이터를 관리하기 위해 데일리로 데이터의 싱크를 맞추는
diff 배치 개발.
: 해당 어플리케이션의 기반 데이터와 원천 데이터의 데이터를 데일리로 diff 하여 해당 결과에
라 일반적인 업데이트를 할 것인지, 차이만 로그에 남길 것인지, 모든 데이터를 다시 재구성 할 것
인지 총 3가지 모드로 배치 모드를 구축함.
3️⃣ 에이전트 챗 화면 개발
- 법인카드 사용내역 및 내용 요약 기능을 제공하는 에이전트 Chat 화면과 DB구조 구축
: DB는 Mysql RDBMS 기반으로 추후에 다른 에이전트들이 추가될 것을 고려하여 타입에 따라 다른
테이블이 추가적으로 생길수 있는 확장적 구조로 구축