caching.crowny.org — 프롬프트 캐싱 90% 할인 선언

SECTION 01 · CURRENT MACHINE

현재 컴퓨터에서의 최적 세팅 판단

macOS Darwin 25 · Claude Code v2 · ANTHROPIC_API_KEY 보유 환경에서 한선씨 llm-bridge.한선의 프롬프트 캐싱 적용이 최적인지 검증.

구성 요소	현재 상태	최적 판정	비고
런타임	CrownyTVM v0.38.0 (Rust)	최적	한선씨 컴파일/실행 즉시
한선씨 코드	llm-bridge.한선 399줄	최적	bash 대체 완료
시스템 프롬프트 크기	4,058자 (~6,000 토큰)	최적	캐시 최소 2048 초과
cache_control 적용	ephemeral (5분 TTL)	최적	1h 옵션 환경변수로 전환 가능
학습 환류	~/.crownycode/학습.dat 자동	최적	34,733 패턴 누적
실제 API 호출 검증	크레딧 부족 차단	대기	충전 후 즉시 검증 가능
병행 bash 폴백	llm-bridge.sh 유지	최적	한선씨 실패 시 자동 폴백 가능

SYSTEM 토큰

4,058

캐시 대상 (정적 부분, 한 번만 비용 1.25배)

USER 토큰

~50

가변 부분 (intent + 설명, 매번 정가)

예상 할인율

90%

2번째 호출부터 system 부분 cache_read 가격

SECTION 02 · MULTI-PLATFORM

다른 컴퓨터에서도 최적이 되도록

Windows / Linux / 개발 서버 / 사용자(서비스) 서버 — 각 환경에서 같은 한선씨 코드가 캐시 적용된 LLM 호출을 동일하게 수행하도록 한다.

환경	런타임 가용	이식 작업	특이 사항
macOS (현재)	CrownyTVM ✓	완료	printenv 의존, 검증 완료
Linux (개발 서버)	CrownyTVM ✓	그대로 동작 예상	printenv 동일, libc 호환
Linux (사용자 서버)	CrownyTVM ✓	데몬화 필요	systemd unit + 헬스 엔드포인트
Windows	CrownyTVM 빌드	WSL2 또는 native	printenv 미지원 → set 또는 직접 GetEnv FFI
RPi5 / 임베디드	CrownyOS ✓	크로스 컴파일 완료	HTTP 직접 BSD 소켓 권장
FPGA / 729 ISA	opcode 추가	HTTP_POST opcode	네트워크 스택 IP/TCP 한선씨화

이식 표준 4종

① 환경값(키) — OS별 추상화
② 파일읽기/쓰기/추가 — 모든 런타임 공통
③ 명령실행 — POSIX/Win 양쪽 안전
④ HTTP 호출 — curl/wget/native 자동 선택

3가지 이식 모드

네이티브: CrownyTVM 빌드 가능 시 (Mac/Linux/RPi5)
WSL/Docker: Windows 사용자용 컨테이너 배포
웹 폴백: caching.crowny.org가 원격 캐시 서버 제공

SECTION 03 · MULTI-LLM EVOLUTION

Claude · Gemini · GPT — 세대 진화 자동 추종

각 LLM 네이티브 기능(캐싱·구조화 출력·tool use)이 발전할 때마다 한선씨 윤활유는 작업을 분류하여 최적 LLM·최적 옵션을 자동 선택한다.

A. 작업 분류 5축 (자동 라우팅)

축	분류	최적 LLM (현재)	캐시 전략
1. 정형 코드 생성	패턴DB HIT	(LLM 호출 없음)	로컬 즉시 반환
2. 한선씨 코드 생성	한국어 RPN/고수준	Claude Haiku 4.5	cache_control ephemeral
3. 대용량 컨텍스트	긴 문서 분석	Gemini Pro (1M+)	Gemini context cache
4. 추론 무거움	아키텍처/리팩터	Claude Opus 4.7	cache_control 1h ttl
5. 구조화 출력	JSON 강제 스키마	GPT (Structured Out)	system 캐시 + 가변 user

B. 의사결정 프로세스

요청 수신

한국어/영어 자연어

→

분류기

5축 점수화

→

패턴 조회

로컬 HIT 우선

→

LLM 선택

규칙 + 비용 + 능력

→

캐시 적용

제공사별 헤더 조립

→

학습 환류

성공시 패턴DB 등록

C. 세대 진화 자동 추종

매월

LLM 기능 스캐너

각 제공사 changelog/docs 폴링 → 새 캐시 옵션·새 모델 자동 감지 → caching.crowny.org/changelog 등재

매주

비용 모델 갱신

토큰 단가 변동 추적 → 라우팅 규칙 자동 재계산 → 가장 싼 LLM 자동 선택

상시

능력 벤치마크

같은 intent에 대해 모든 LLM 호출 → 컴파일 성공률·코드 품질 점수 → 작업 분류표 동적 갱신

SECTION 04 · PERSONAL USE EFFICIENCY

나의 작업 효율 — 크라우니코드 + 기존 서비스 참조 사용

같은 코드를 반복 생성하지 않는다. 같은 컨텍스트를 반복 전송하지 않는다. 패턴DB·셀코어·기존 19개 서비스의 정보를 누적 참조하면서 LLM 호출은 줄이고 캐시는 키운다.

A. 작업 시나리오별 효율 (Haiku 4.5 기준, 추정)

시나리오	패턴DB	캐시 미적용	캐시 적용	절감
한선씨 정형 코드 1회 (이미 학습됨)	HIT	—	$0 (즉시)	100%
한선씨 신규 코드 1회	MISS	~$0.020	~$0.018 (1차)	10%
같은 패턴 변형 9회 (5분 내)	MISS×9	~$0.180	~$0.018	90%
10시간 연속 세션 (intent 평균 50회)	혼합	~$1.00	~$0.20	80%
다음날 같은 영역 (패턴 누적)	HIT 비율 ↑	~$1.00	~$0.10	90%

B. 누적 자산이 만드는 복리 효과

학습DB 패턴

34,733

한 번 만들면 다음부터 무료. 매일 누적 ↑

한선씨 라이브러리

108

LLM 호출 없이 가져오기로 바로 사용

셀코어 룰

15모듈

규칙엔진이 LLM 자리를 대체

기존 서비스

19+

이미 가진 API/데이터를 새 코드가 참조

C. 4상 효율 (T·O·A·U)

T · 시간

응답 속도 ms→μs

• 패턴 HIT: 3초 LLM → 1ms 로컬 (3,000배)
• LLM 호출 시: cache_read는 cold call보다 응답 빠름 (TTFT 단축)

O · 비용

월 $0.20 → 무료 수렴

• 일 50회 × 30일 = 1,500회 호출 가정
• 현재 추정: 월 ~$0.30 (Haiku 캐시 적용)
• 패턴 누적되면 6개월 후 ~$0

A · 품질

함정 회피 + 일관성

• 시스템 프롬프트에 11+건 함정 박힘
• 같은 system → 같은 스타일 (변동 없음)
• 4계층 검증 → 잘못된 코드 자동 차단

U · 학습

세션 간 지식 전이

• 한 세션의 발견 → 다음 세션의 패턴
• 19개 다른 클로드 세션이 동시에 누적
• crowny-knowledge로 PLAN/LIVE_STATUS 공유

SECTION 05 · SERVICE INTEGRATION

나의 서비스 효율 — tiomta.com · crowny.org에 LLM 덧입힘

이미 구축한 19+ 서비스는 한선씨 백엔드 + 셀코어 규칙엔진을 가졌다. 그 위에 LLM을 "필요할 때만" 덧입히고, 시스템 프롬프트는 서비스마다 캐시 풀을 분리해서 운영한다.

A. 서비스별 LLM 활용 패턴 (예상치)

서비스	LLM 용도	system 토큰	일 호출 (가정)	월 절감 (캐시)
asset.crowny.org	자산이전 30초 진단	~8K	50	~$3.5
amti.crowny.org	금융지능 채점 + 해석	~6K	500	~$26
bm.crowny.org	비즈니스모델 자동 공시	~10K	30	~$2.6
mind.crowny.org	라이프스타일 디지털트윈 추론	~12K	200	~$21
pay.crowny.org	정산 분류 + 이상거래	~4K	1,000	~$35
bank.crowny.org	P2P 신용 점수 설명	~5K	100	~$4.4
edu.crowny.org	CLM 교수법 적응학습	~15K	800	~$105
bible.crowny.org	하나님마음 통독 해설	~10K	400	~$35
tiomta.com (900코어)	9영역×100 코어별 분류	~20K	2,000	~$350
합계 (대표 9개)	—	—	5,080	~$582/월

※ Anthropic Haiku 4.5 기준. system 토큰을 cache_control: ephemeral로 처리 시 cache_read 가격($0.08/MTok)으로 절감. 트래픽이 늘수록 절감액은 선형 증가. 19+ 전체 서비스 적용 시 월 $1,200 이상 예상.

B. 서비스 운영에서 캐싱의 특별한 가치

멀티테넌시

한 system, 천 명의 사용자

같은 도메인 안에서 N명이 동시 접속해도 system 프롬프트는 캐시 1번. 사용자 수가 늘수록 호출당 비용은 0에 수렴.

셀코어 결합

규칙 먼저 · LLM은 나중

15모듈 규칙엔진이 분류 가능한 케이스는 LLM 호출 자체를 차단. LLM은 모호한 케이스에만 윤활유로 투입.

셀별 분리

900 코어 = 900 캐시 풀

tiomta.com 9영역×100코어 각각 다른 system 프롬프트. 코어별 캐시가 독립 작동해 도메인 지식 누적과 비용 절감 동시.

C. 사용자(고객) 체감 효율

응답 속도 (TTFT)

• 캐시 미적용: 평균 3~5초 (긴 system 처리)
• 캐시 적용: 평균 0.8~1.5초 (TTFT 60% 단축)
• 사용자 이탈률 감소 → 전환율 ↑

품질 일관성

• 같은 system → 응답 스타일 일관
• 헌법(2026-05-21)·메모리 함정 박힘
• 서비스 브랜드 어조 통제 가능

확장성

• 트래픽 10배 → 비용 1.5배만 (캐시 효과)
• 신규 서비스 추가 시 system 템플릿만 작성
• 셀코어 셀 단위로 독립 배포

가격 결정력

• 호출당 원가 90% 절감 → 마진 확보
• 또는 호출당 가격 인하 → 경쟁력
• PG 수수료 0인 pay와 결합 시 극대화

SECTION 06 · STAGED ROLLOUT

단계별 적용 로드맵 (트러블 없이)

4계층 Quadcode 프로토콜 — [1]작업중 → [2]개선된 → [3]오리지널 → [4]KPS코드 참조. 각 단계마다 검증·정량 비교·롤백 가능. 운영 트래픽 무중단.

전체 진행도 70% (5/7 단계 완료)

단계	작업	상태	검증 기준
1. 자산 수집	한선씨 규칙·함정·키워드를 정적 시스템 프롬프트로 응축	✓ 완료	4,058자 (캐시 최소 2,048 초과)
2. bash 캐시 적용	llm-bridge.sh에 cache_control 추가	✓ 완료	bash -n 통과, usage 로깅
3. 한선씨 이식	llm-bridge.한선 (399줄) 작성	✓ 완료	crowny run 컴파일/실행 정상
4. body 구조 검증	cache_control: ephemeral 포함 확인	✓ 완료	JSON 파싱 OK
5. 환류 동작 검증	학습DB 자동 등록	✓ 완료	~/.crownycode/학습.dat 추가
6. 실제 토큰 캐시	2회 연속 호출로 cache_read > 0 확인	⏸ 대기	API 크레딧 충전 후 수 분
7. promote	[1]작업중 → [3]오리지널 승격	⏸ 사용자 승인	6 통과 + 24h 무사고