(주)진인프라 도입 문의
ON-PREMISE AI PLATFORM

사내 데이터는 회사 안에,
AI는 업무 안으로.

사내 문서와 그룹웨어를 이해하는 AI를 회사 서버 안에서 운영합니다. 질문에 근거 문서를 붙여 답하고, 업무 흐름은 직접 설계해 배포합니다.

무반출사내망 안에서만 추론
근거 제시출처 문서와 함께 답변
노코드 설계캔버스로 흐름 구성
JIN Flow 챗봇 화면 — 질문에 대한 답변과 오른쪽에 참조 데이터 소스 패널이 함께 표시된다
실제 운영 화면 — 답변과 함께 참조한 데이터 소스를 표시합니다.
01 — 도입 배경

범용 AI는 똑똑하지만, 우리 회사를 모릅니다.

사내 규정·제안서·회의록·그룹웨어에 답이 있는데, 외부 AI 서비스는 그 자료를 볼 수 없습니다. 그렇다고 자료를 외부로 올리면 유출 위험과 내부 규정 문제가 남습니다.

외부 AI 서비스만 쓸 때

  • 사내 문서를 모르니 일반론만 답한다
  • 답을 얻으려면 자료를 외부로 올려야 한다
  • 근거 없이 그럴듯한 문장을 지어낸다
  • 그룹웨어 · 결재 · 게시판과 연결되지 않는다
  • 사용 이력이 회사 통제 밖에 남는다

JIN Flow 도입 후

  • 사내 문서를 검색해 근거와 함께 답한다
  • 문서와 추론이 모두 사내망 안에 머문다
  • 근거를 못 찾으면 모른다고 답하도록 통제한다
  • 그룹웨어 사원 · 게시판 · 일정 · 자원을 조회한다
  • 질의 이력과 사용량이 관리자 화면에 남는다
02 — 설치 형태

모델도 데이터도 회사 서버 안에 둡니다.

추론에 쓰는 LLM을 사내 GPU 서버에 직접 올려 운영합니다. 문서 원본, 질의 내용, 생성된 답변 모두 외부로 나가지 않습니다. 폐쇄망 환경에서도 그대로 동작합니다.

사내 GPU 추론

온프레미스 vLLM으로 Gemma 4 31B를 서비스합니다. 외부 API 키도, 종량 과금도 필요하지 않습니다.

데이터 무반출

업로드한 문서와 대화 내용은 사내 DB·벡터 저장소에만 기록됩니다. 외부 전송 경로 자체가 없습니다.

모델 교체 가능

OpenAI 호환 규격을 씁니다. 온프레미스 모델을 바꾸거나, 필요한 업무만 외부 모델로 지정할 수 있습니다.

※ 클라우드 모델을 함께 쓰는 구성도 가능합니다. 이 경우 어떤 업무에서 외부 호출을 허용할지 조직 단위로 지정합니다.

03 — 에이전트 빌더

업무 흐름을 노드로 조립합니다.

개발 없이 캔버스에서 노드를 배치·연결해 AI 업무를 설계합니다. 저장 전에 유효성을 검사하고, 실행 후에는 어떤 노드가 무슨 자료를 넘겼는지 추적할 수 있습니다.

필요한 자료를 어디서 가져올지
직접 정합니다.

같은 질문이라도 회사마다 답이 있는 곳이 다릅니다. 지식베이스에서 찾을지, 그룹웨어를 조회할지, 회의록을 뒤질지 흐름으로 지정합니다.

시작 · RAG 검색 · 사내정보 · 회의록 검색 · 조건 분기 · LLM 응답 노드
노드별 지식베이스 · 조회 범주 · 답변 규칙 개별 설정
실행 trace로 각 노드의 입력과 전달 원문 확인
작성자 · 수정일 표시, 버전 단위 배포
JIN Flow 에이전트 빌더 화면 — 시작·사내정보·LLM 응답 노드를 연결한 플로우와 사내정보 조회 범주 선택 패널
실제 운영 화면 — 노드를 연결해 흐름을 만들고, 사내정보 노드에서 조회할 범주를 고릅니다.
04 — 문서 검색(RAG)

올려 둔 문서에서 근거를 찾아 답합니다.

문서를 올리면 표와 페이지 이미지까지 해석해 검색 가능한 형태로 만듭니다. 답변에는 어느 문서에서 가져왔는지 출처를 함께 제시합니다.

STEP 1업로드

PDF · 워드(docx) · 텍스트(txt·md) 문서를 지식베이스에 올립니다.

STEP 2구조 파싱

본문과 표를 나누어 읽고, 이미지가 섞인 페이지는 OCR로 글자를 뽑습니다.

STEP 3색인

의미 단위로 잘라 벡터로 바꾸고 Qdrant에 저장합니다.

STEP 4하이브리드 검색

의미 검색과 키워드 검색을 함께 돌려 후보를 모읍니다.

STEP 5리랭킹

질문과 가장 맞는 근거만 남겨 LLM에 전달합니다.

표와 그림도 읽습니다

표는 행 단위로 따로 색인해 수치 질문에 대응하고, 도표 위주 페이지는 이미지 임베딩으로 검색합니다.

출처를 함께 보여줍니다

답변 아래에 참조한 문서명과 발췌를 표시해, 사용자가 원문을 직접 확인할 수 있습니다.

근거가 없으면 답하지 않습니다

검색 결과가 질문과 맞지 않으면 지어내지 않고, 담당 부서 문의로 안내하도록 통제합니다.

05 — 사내 시스템 연동

문서뿐 아니라 그룹웨어까지 조회합니다.

그룹웨어 오픈API를 통해 사원·부서·게시판·일정·자원을 실시간으로 조회합니다. 문서에 없는 "지금 상태"를 묻는 질문에 답할 수 있습니다.

사원 · 부서

담당자 연락처와 소속 조직을 조회합니다. 공개 범위는 권한에 따라 제한됩니다.

게시판 · 공지

최근 공지와 게시글을 찾아 요약하고, 어느 게시판 글인지 위치를 안내합니다.

일정 · 자원

회의실·자원 예약 현황처럼 시점에 따라 달라지는 정보는 조회 시점 기준으로 답합니다.

사규 · 규정 게시판

규정 문서가 어느 시스템 어느 게시판에 있는지 글 제목·작성자·첨부까지 함께 안내합니다.

06 — 챗봇 배포

만든 흐름을 바로 사내에 배포합니다.

설계한 에이전트를 배포하면 임직원이 챗봇 화면에서 즉시 사용할 수 있습니다. 사내 포털이나 업무 시스템 안에 창을 끼워 넣는 것도 가능합니다.

업무별로 나눠 배포

사내정보 안내, 규정 문의처럼 성격이 다른 업무는 각각 다른 지식베이스와 답변 규칙을 가진 챗봇으로 나눕니다.

대화 맥락 유지

세션 단위로 대화를 기억해 "그 문서 요약해줘" 같은 이어지는 질문을 이해합니다. 답변은 실시간으로 흘러나옵니다.

기존 시스템에 삽입

iframe 임베드를 지원해 사내 포털이나 업무 시스템 화면 안에 챗봇 창을 그대로 끼워 넣을 수 있습니다.

공개 범위 관리

배포별로 소유자와 공개 범위(조직 · 내부 · 공개)를 지정해, 누구까지 쓸 수 있는지 통제합니다.

07 — 업무 자동화

반복 문서 업무를 플랫폼 안에서 처리합니다.

챗봇 외에도 회사에서 반복되는 문서 업무를 기능으로 제공합니다. 모든 결과물은 같은 플랫폼 안에 남아 권한에 따라 공유됩니다.

AI 회의록

녹음에서 정리본까지

회의를 녹음하거나 파일을 올리면 음성 인식으로 받아쓰고, 화자를 구분해 요약본을 만듭니다. 발화 구간을 눌러 원음을 다시 들을 수 있습니다.

이력서 검토

채용 공고 기준으로 정리

직무기술서에서 평가 기준을 만들고, 지원자 이력서를 기준별로 분석해 표로 정리합니다. 결과는 엑셀로 내려받습니다.

제안서 검수

RFP 요구사항 대조

제안서와 RFP를 함께 올리면 문서 구조를 뽑아 요구사항 누락 여부를 대조하고 품질을 평가합니다.

08 — 운영 · 보안

누가 무엇을 볼 수 있는지 조직 단위로 통제합니다.

본부·그룹 구조를 그대로 반영한 멀티테넌트 구성입니다. 지식베이스와 챗봇, 기능별 접근 권한을 역할에 따라 나눕니다.

멀티테넌트
조직 · 본부 · 그룹

조직별로 데이터가 분리되고, 소속에 따라 보이는 자료가 달라집니다.

권한 관리
역할 기반 제어

기능·화면·문서 단위로 역할별 권한을 지정합니다. 그룹웨어 계정 연동을 지원합니다.

사용량
호출 · 모델 통계

기능별 호출량과 GPU·모델 상태를 관리자 대시보드에서 확인합니다.

감사 로그
변경 이력 기록

설정 변경과 주요 행위를 로그로 남겨 사후 확인이 가능합니다.

JIN Flow 대시보드 화면 — 리소스 현황, LLM·GPU 할당 상태, 멤버 구성, 내 권한 목록
실제 운영 화면 — 소속 범위의 리소스 현황과 LLM·GPU 할당, 부여된 권한을 한 화면에서 확인합니다.
JIN FLOW

숫자로 보는 JIN Flow

운영 중인 구성 기준입니다. 도입 규모에 따라 서버 · GPU 구성은 함께 산정합니다.

사내망 밖으로
나가는 데이터

문서 원본, 질문, 생성된 답변 모두 회사 서버 안에서만 처리됩니다.

0
추론 모델온프레미스 vLLM 서빙31B
GPU 워커추론 · 임베딩 역할 분리2
검색 방식의미 · 키워드 · 이미지3
주요 기능챗봇 · 회의록 · 문서검토 등10+
09 — 기술 구성

검증된 오픈소스로 사내에 구축합니다.

특정 클라우드 서비스에 묶이지 않는 구성입니다. 모델과 저장소를 필요에 따라 교체할 수 있습니다.

추론 LLM
온프레미스 Gemma 4 31B (vLLM, OpenAI 호환 API) — 클라우드 모델 병행 가능
임베딩 · 검색
Qwen3 Embedding(텍스트) · ColQwen2.5(페이지 이미지) · Qwen3 Reranker(재순위)
벡터 저장소
Qdrant — 텍스트 청크와 페이지 이미지 컬렉션 분리 운영
음성 인식
faster-whisper large-v3-turbo · 화자 분리(pyannote) 선택 적용
문서 처리
본문 · 표 구조 파싱, 이미지 페이지 OCR, 청킹 후 색인
애플리케이션
FastAPI(Python) · React 19(TypeScript) · MySQL 8.4
운영 환경
MicroK8s · Podman Compose · NVIDIA Container Toolkit — 폐쇄망 설치 지원
10 — 도입 절차

업무 진단부터 운영 지원까지 전 과정을 수행합니다.

(주)진인프라는 20년 이상 정보통신 인프라를 구축해 온 IT 솔루션 기업입니다. 서버 구성부터 운영까지 함께합니다.

STEP 1업무 진단

어떤 문의가 반복되는지, 답이 어느 자료에 있는지 확인해 적용 범위를 정합니다.

STEP 2구성 설계

서버 · GPU 사양과 연동 대상 시스템, 권한 체계를 함께 설계합니다.

STEP 3구축 · 학습

사내에 설치하고 문서를 색인한 뒤, 업무별 에이전트를 만들어 검증합니다.

STEP 4운영 지원

사용 현황을 보며 답변 품질을 개선하고, 기능 추가와 모델 교체를 지원합니다.

11 — 자주 묻는 질문

도입 검토 시 자주 문의하시는 사항입니다.

Q1사내 문서가 외부로 나가지 않는 게 확실한가요?

추론 모델을 회사 GPU 서버에 직접 설치해 운영합니다. 문서 파싱, 벡터 저장, 답변 생성이 모두 사내망 안에서 끝나며 외부 전송 경로가 없습니다. 폐쇄망 환경에도 설치할 수 있습니다.

Q2AI가 없는 내용을 지어내지 않나요?

답변에 사용한 근거 문서를 함께 제시합니다. 검색된 자료가 질문과 맞지 않으면 임의로 답하지 않고 담당 부서 문의로 안내하도록 통제합니다. 근거 없는 문서명·규정명을 만들어 내지 않도록 별도 장치를 두고 있습니다.

Q3기존 그룹웨어를 바꿔야 하나요?

바꾸지 않습니다. 그룹웨어가 제공하는 오픈API로 필요한 정보를 조회하는 방식이라, 기존 시스템은 그대로 두고 연동만 추가합니다.

Q4어떤 문서 형식을 넣을 수 있나요?

현재 PDF, 워드(docx), 텍스트(txt·md)를 지원합니다. 표는 행 단위로 따로 색인하고, 스캔본처럼 글자가 이미지로 된 문서는 OCR로 처리합니다. 한글(hwp)·엑셀 문서는 PDF로 변환해 올리시면 동일하게 색인됩니다.

Q5부서마다 다른 자료를 보게 할 수 있나요?

가능합니다. 조직 · 본부 · 그룹 구조를 반영해 지식베이스와 챗봇 접근 권한을 나눕니다. 인사 자료처럼 민감한 항목은 역할에 따라 조회 자체를 차단합니다.

Q6도입 비용은 어떻게 산정되나요?

사용 인원, 연동 대상 시스템, 필요한 GPU 사양에 따라 달라집니다. 현재 환경을 알려주시면 서버 구성과 함께 산정해 제안드립니다.