상세 보기
실전 배포 가능한 멀티테넌트 툴 호출 기반 RAG: 기업 내부 DB 연동 경영지원 대화형 에이전트
Case Study: Tool-Calling RAG with Private LLM in Multi-Tenant Enterprise Environment
- 김수은;
- 김종우
초록
기업 환경에서 대규모 언어모델은 정형 데이터와 비정형 문서를 함께 다뤄야 하며, 멀티테넌트 환경에서는 데이터 격리와 응답 신뢰성이 중요하다. 본 연구는 사내 전용 LLM을 기반으로 툴 호출 기반 RAG 시스템을 설계하고, 실제 기업 데이터를 활용한 사례 연구를 수행한다. 제안 시스템은 질의를 문서 검색과 SQL/BI 질의로 분해하고, RBAC, RLS, 컬럼 마스킹, 스키마 분리를 적용하여 테넌트 격리를 보장한다. 45개 내부 질문을 대상으로 비교 실험한 결과, 툴 호출 기반 구성은 문서형 RAG보다 높은 정확도와 안정적인 응답 품질을 보인다. 본 연구는 실제 기업의 내부 사용을 고려한 시스템 설계와 운영상의 시사점을 제시한다.
키워드
사내 전용 LLM; 멀티테넌트 데이터 거버넌스; 툴 호출 기반 RAG; SQL/BI 질의 통합; Private LLM; Multi-tenant data governance; Tool-calling RAG; SQL/BI query integration
- 제목
- 실전 배포 가능한 멀티테넌트 툴 호출 기반 RAG: 기업 내부 DB 연동 경영지원 대화형 에이전트
- 제목 (타언어)
- Case Study: Tool-Calling RAG with Private LLM in Multi-Tenant Enterprise Environment
- 저자
- 김수은; 김종우
- 발행일
- 2026-02
- 유형
- Y
- 저널명
- 한국지능시스템학회 논문지
- 권
- 36
- 호
- 1
- 페이지
- 42 ~ 48