마지막 임베딩·저장 단계입니다. 실제 임베딩 동시 수는 1 → 8이었고, 같은 구간의 원문 전체 재검사는 48 → 0회였습니다. 시작·완료 검증과 잠금 갱신은 유지합니다.
VP 색인 · 운영 반영과 실측 · 2026.11.04
같은 자료에서
얼마나 빨라졌나
Luna none + Voyage와 세 최적화를 배포하고, 이전 보고서의 같은 MD 13,952바이트·7개 청크를 다시 처리했습니다. 새 조합의 핵심 색인은 중앙값 80.2초였습니다.
01 / 같은 MD로 다시 측정
기존 설정 1회와 새 조합 3회를 비교
관계 추출 시작부터 마지막 벡터 반영 완료까지 같은 경계를 측정했습니다. 최초 설치·컨테이너 기동 시간은 이 숫자에 포함하지 않습니다. 원문 파싱 등을 포함한 문서 준비 시간도 표에 함께 적었습니다.
기존 설정 · 이번 기준선GPT-4.1-mini + small · 동시 4 / 1 · 반복 확인
122.2초
승인한 새 조합 · 중앙값Luna none + Voyage · 동시 8 / 8 · 권한 변경 잠금
80.2초
모델 분리 비교 · 중앙값GPT-4.1-mini + Voyage · 동시 8 / 8 · 같은 잠금
43.7초
| 시행 | 핵심 색인 | 문서 준비 | 관계 / 임베딩 요청 | 개념 / 관계 | API 비용 |
|---|---|---|---|---|---|
| 기존 설정 1회 | 122.2초 | 140.1초 | 7 / 34 | 176 / 142 | $0.03125 |
| Luna 조합 1회 | 80.2초 | 85.1초 | 7 / 16 | 100 / 43 | $0.01396 |
| Luna 조합 2회 | 81.7초 | 87.7초 | 7 / 18 | 89 / 74 | $0.00970 |
| Luna 조합 3회 | 44.1초 | 50.3초 | 7 / 16 | 88 / 52 | $0.00633 |
| GPT 비교군 1회 | 49.8초 | 62.4초 | 7 / 37 | 185 / 162 | $0.02964 |
| GPT 비교군 2회 | 37.6초 | 44.1초 | 7 / 28 | 148 / 118 | $0.02443 |
청크 7개는 모두 동일합니다. 개념·관계 수는 모델의 추출 결과량이며 정확도 점수가 아닙니다. 새 조합의 문서 준비 중앙값은 85.1초입니다. 초기화·최종 검증·시험 정리까지 포함한 전체 시험 시간은 별도 원시 측정에 보존했습니다.
02 / 빨라진 곳과 남은 곳
임베딩은 줄었고, Luna 관계 추출이 남았습니다
관계 추출병합임베딩·저장
관계 추출 37.3초 · 병합 6.9초 · 임베딩·저장 78.0초
관계 추출 72.8초 · 병합 3.2초 · 임베딩·저장 4.1초
Luna 21요청 중 3요청의 완료 토큰 수가 8,192 상한에 도달했습니다. 이때 긴 응답 대기가 생겼습니다. 이번 원시 기록에는 종료 사유를 저장하지 않아 실제 잘림 여부는 확정하지 않습니다.
단축률을 모델의 정확도 유지로 해석하면 안 됩니다.
이번 MD에서 기존 설정은 개념 176·관계 142개, Luna는 개념 88~100·관계 43~74개였습니다. 표현을 합친 것인지, 사실이 빠진 것인지는 정답·출처 대조가 필요합니다. 출력 상한 도달도 별도 확인 대상입니다.
03 / 모델만 분리해 비교
같은 최적화에서도 관계 모델에 따라 차이
관계 모델만 GPT-4.1-mini로 두고 Voyage·8/8·권한 변경 잠금을 동일하게 적용했습니다. 2회 중앙값은 43.7초입니다. 두 비교군 모두 새로 비운 색인을 사용했습니다.
속도가 최우선이면 관계 모델은 재선택할 근거가 생겼습니다
Luna 조합 80.2초와 GPT 비교군 43.7초를 확인했습니다. 운영에는 사용자가 선택한 Luna 조합이 반영되어 있습니다. 모델을 자동으로 다시 바꾸지는 않았습니다.
왜 앞선 시험에서는 비슷했나
앞선 Luna 11.9초·GPT 11.8초는 합성 자료의 모델 부분 시험입니다. 이번 실제 MD 전체 색인과 입력·측정 경계가 다릅니다. 그 결과만으로 실제 문서의 전체 속도가 비슷하다고 판단할 수는 없습니다.
| 시행 | 색인 전체 | 완료 토큰 합계 | 가장 긴 API 응답 | 상한 도달 |
|---|---|---|---|---|
| Luna 조합 1회 | 80.2초 | 25,456 | 72.0초 | 2건 |
| Luna 조합 2회 | 81.7초 | 18,595 | 71.5초 | 1건 |
| Luna 조합 3회 | 44.1초 | 11,875 | 36.1초 | 0건 |
| GPT 비교군 1회 | 49.8초 | 16,994 | 26.1초 | 0건 |
| GPT 비교군 2회 | 37.6초 | 13,771 | 21.5초 | 0건 |
Luna 1·2회차는 일부 요청이 8,192토큰 상한까지 생성하며 가장 긴 응답이 약 72초였습니다. 7개를 동시에 시작해도 마지막 응답을 기다려야 합니다. 상한 도달이 없던 Luna 3회차는 44.1초로, GPT 37.6~49.8초와 범위가 겹칩니다.
응답 시간은 공급자 대기와 생성을 합친 값이며 첫 토큰 대기는 분리하지 않았습니다. 원문 응답·종료 사유를 저장하지 않아 긴 출력이 중복인지 필요한 상세인지, 실제로 잘렸는지는 미확정입니다. 모든 모델 API는 200이었고 429·재시도·다른 모델로의 대체 호출은 없었습니다. 소수 반복 결과이므로 Luna가 항상 두 배 느리다고 일반화하지 않습니다.
04 / 운영에 반영한 처리 구조
기존 자료와 새 모델을 분리해 보존
원문·권한 확인
현재 버전과 SHA를 확인하고 문서 변경 잠금을 획득합니다.
7개 청크로 분할
기존 600토큰·100토큰 겹침을 유지합니다. Hindsight 추가 분석은 하지 않습니다.
Luna 관계 추출
최대 8개 병렬, 이 자료에서는 실제 7개. 추론 설정은 none입니다.
그래프 병합
같은 개념·관계를 합치고 공유 그래프의 쓰기 순서를 보호합니다.
Voyage 임베딩
1,024차원·묶음 10·최대 8개 병렬. query/tasks 합계 슬롯은 16입니다.
저장·확인·해제
원문·벡터 대응을 확인하고 잠금을 풉니다. 비정상 종료 잠금은 90초 안에 만료됩니다.
기존 GPT-4.1-mini + small 1,536차원 색인은 보존합니다. 새 색인은 별도 구역에 저장하며, 해당 검색 범위의 기존 자료가 새 색인에 모두 포함될 때 그 범위를 새 모델로 읽습니다. 이번 시험은 실제 사용자의 전체 자료 재색인을 실행하지 않았습니다.
05 / 배포와 검증
서버·DB·원문 보존을 함께 확인
실제 운영 반영
- 권한 API 배포와 실제 계정 잠금 획득·갱신·해제 통과
- 지식 DB 009·010 마이그레이션 2회 적용, 기존 작업 행 지문 보존
- query/tasks 새 이미지와 비밀 설정 4로 전환, 트래픽 각각 100%
- 공개 상태 확인 200·인증 없는 요청 401·비공개 tasks 403
- 기존 지식 그래프 실계정 조회 200 · 개념 198개·관계 158개 확인
- 기존 태그·IAM·자원 설정과 Mac/Windows 0.2.195 목록 보존
시험과 복구 근거
- DB 51개 표 암호화 백업·격리 복원, 행 수·지문 일치
- 운영 이미지 두 개에서 오프라인 검사 통과
- 모든 비교에서 같은 원문·7청크 지문 확인
- 시험용 구역·작업만 정리하고 기존 색인 원문 지문 보존
- 실제 호출 191회, 응답 확인 API 원가 합계 $0.11531
API 비용 누락 0건. 서버·DB 실행 비용은 이 API 합계에 포함하지 않았습니다. 고객 크레딧 잔액과 단가는 바꾸지 않았습니다.
06 / 이 결과로 판단할 수 있는 범위
한 개 MD의 실측입니다
- 같은 MD를 반복 처리한 결과입니다. PDF·스캔·그림·표·다른 문서 100개로 시간을 환산하지 않습니다.
- 실제 답변 정답률·관계 누락률·출처 정확도는 이번 속도 시험에서 채점하지 않았습니다.
- 관계 모델의 추출량 차이로 임베딩 요청 수가 달라졌습니다. 전체 감소율에는 병렬화와 모델 변경의 효과가 함께 들어 있습니다.
- 실행 중 문서의 권한 회수·삭제·변경은 먼저 색인을 중단한 뒤 가능합니다. 만료와 취소 보호는 유지합니다.
- 실측은 배포 r3 처리 코드로 수행했고, 최종 r5는 지식 그래프 읽기 오류와 검증만 보정했습니다. 모델·색인 처리 코드는 같습니다.
- 이번 배포는 서버/API 변경입니다. 새 Mac·Windows 설치파일을 만들거나 기존 설치파일을 덮어쓰지 않았습니다.