케이브맨으로 토큰 절약하는 방법

클로드 쓰다 보면 이런 경험 있으실 거예요.

간단한 거 하나 물어봤는데 답이 논문처럼 길게 나옵니다.
"네, 기꺼이 도와드리겠습니다. 말씀하신 내용을 자세히 살펴보면요..." 하면서 한참을 가요.

친구한테 지하철역 어디냐고 물었는데
이 동네 교통의 역사부터 설명하는 셈이죠.
우리가 원한 건 "두 번째 골목 끝" 한 마디인데요.

문제는 이게 그냥 답답한 게 아니라 돈이라는 겁니다.

AI는 말한 글자량(토큰)만큼 과금돼요.
답이 길수록 요금이 올라가고,
월 구독제를 쓰셔도 사용 한도가 그만큼 빨리 닳습니다.

"왜 이렇게 한도가 금방 차지?" 싶었던 분들,
범인 중 하나가 저 긴 답변입니다.

케이브맨(caveman)이라는 무료 도구가 이걸 해결합니다.

하는 일은 웃길 정도로 단순해요.
AI한테 "원시인처럼 핵심만 짧게 말해. 대신 내용은 하나도 빼먹지 마"라는 지침을 심어주는 겁니다.

새로 온 직원한테 첫날
"우리 회사 이메일은 짧게, 인사말 빼고"라고 알려주는 거랑 똑같아요.

효과는 숫자로 검증돼 있습니다.

제작자가 실제로 질문 10개를 던져 측정했더니
답변 하나당 평균 1,214토큰이 294토큰으로 줄었어요.
평균 65%, 많게는 87% 절약입니다.

그것도 이미 "간결하게 답해줘"라고 부탁한 상태와 비교한 수치예요.
측정 데이터도 전부 공개돼 있어서 광고용 뻥튀기가 아닙니다.

"짧게 말하면 대충 답하는 거 아니야?" 싶으실 텐데, 반대입니다.

케이브맨은 AI의 생각을 줄이는 게 아니라 말만 줄여요.
뇌는 그대로, 입만 작아지는 겁니다.

심지어 올해 3월에 나온 논문에서는
AI에게 짧은 답을 강제했더니 특정 시험에서 정확도가 26점 올랐다는 결과도 있어요.
말이 길어지면 AI도 자기 말에 흔들려서 틀린 답으로 새거든요.

설치도 쉽습니다.

클로드 데스크탑 앱 열고
"이 저장소 안내대로 케이브맨 설치해줘"라고
링크 하나 주면서 부탁하면 끝나요. 30초 걸립니다.

설치되면 내 컴퓨터에 깔린 AI 도구를 알아서 찾아 전부 적용해줍니다.
켜는 건 "케이브맨", 끄는 건 "노말 모드" 한 마디예요.

강도도 고를 수 있습니다.
가볍게 군더더기만 빼는 라이트부터,
전보처럼 짧아지는 울트라,
심지어 한자로 답하는 농담 같은 모드까지 있어요.

근데 제가 써보면서 진짜 꿀은 따로 있었습니다.

케이브맨 컴프레스라는 기능인데요.
AI가 매번 자동으로 읽는 설정 노트(메모리 파일)를 원시인 문체로 다시 써줍니다.
평균 46% 줄어들어요.

이 파일은 대화 시작할 때마다 AI가 읽기 때문에,
한 번만 압축해두면 그 뒤로 모든 대화에서 영구적으로 절약됩니다.
매번이 아니라 평생 할인이에요.