LLM 개발 및 운영 플랫폼
LLM Maker는 기업의 문서를 수집하여 챗봇 반영까지
LLM의 운영 전 과정을 한 화면에서 설정 · 관리하는
LLMOps 플랫폼입니다.
LLM Maker
LLM이 검색하는 문서와 답변하는 모델을 한 곳에서 관리합니다.
구축형과 SaaS 중 고객 환경에 맞는 방식으로 제공합니다.
-
지식베이스(근거 기반)
LLM이 답변할 때 검색하는 문서 저장소입니다.
- 01문서 자동 수집
- 02챗봇이 검색할 수 있는 형태로 처리 · 저장
- 03처리 오류가 의심되는 문서 검수
- 04RAG와 온톨로지 기반으로 답변
- 05추출 · 파싱 · 청킹 · 임베딩의 품질 모니터링 기능 제공
-
LLM Studio
LLM 모델을 업무에 맞게 학습시키는 작업 공간입니다.
- 01지식베이스 문서로 학습 데이터 생성
- 02모델 학습과 정답 문항 기반 평가
- 03승인된 모델의 챗봇 반영
- 04다양한 오픈소스 멀티 LLM 선택 제공
- 05NoCode 기반 LLM 개발
- 06XAI(설명가능 AI)를 위한 근거기반 답변
-
시스템 관리
지식베이스와 LLM Studio의 운영환경을 관리하는
영역입니다.- 01LLM Studio 환경 설정
- 02지식베이스 환경 설정
- 03서버 · API 모니터링
- 04사용자 권한 · 작업 이력 관리
- 05보안 가드레일 제공
Key Features
문서를 자동으로 수집하고, 변경된 문서만 반영합니다.
문서 수집부터 서비스 적용까지, 전 과정을 하나의 플랫폼에서 통합 관리합니다. (NoCode 기반 LLMOps)
문서 검수, 모델 평가, 관리자 승인을 모두 통과한 버전만 서비스에 반영합니다.
Functions
LLM Maker는 지식베이스 (RAG · 온톨로지), LLM Studio, 관리도구를 통합 제공합니다.
데이터 수집부터 LLM 개발, 서빙까지의 모든 운영 현황을 한 화면에서 봅니다.
문서 수집부터 지식베이스(RAG · 온톨로지) 적재까지 자동으로 처리합니다.
데이터 추출단계의 품질과 Chunk생성단계의 오류 발생 구간을 자동 마킹하여 선별적으로 검수할 수 있습니다.
지식베이스에 저장된 문서로 LLM 개발용 학습데이터 (QA · 시나리오기반 답변 · 룰 · 출력서식 등)를
생성하고 품질을 측정합니다.
별도의 코딩 없이(NoCode) 생성한 데이터셋으로 모델을 학습하여 업무 특화모델을 개발하고 골든셋으로 품질을 측정합니다.
승인된 모델만 vLLM 방식으로 서빙하고 서비스에 사용되는 OpenAI API를 제공합니다.
지식베이스와 LLM Studio의 운영환경을 한 곳에서 관리합니다.
