확인 중…

한국어 토큰 실측 — “신형 토크나이저 30% 증가”는 한국어에 해당 없습니다

Anthropic 공식 문서의 “약 30% 더 많은 토큰”은 영문 기준입니다. 한국어로 직접 재봤더니 증가가 없었습니다.

한국어 토큰 증가율+1.2%
영문 대조군 증가율+47.6%
한국어 1자당 토큰1.05
세 줄 요약
① 신형 토크나이저(Claude 4.7 이후)로 바뀌어도 한글은 토큰이 안 늘어납니다.
② 늘어나는 건 영문·숫자 부분뿐입니다. 영문만 있으면 47.6% 늘었습니다.
③ 그래서 한국어 작업이라면 9월 인상은 표시가 그대로 1.5배입니다. “토크나이저 때문에 실질 2배”는 영문 얘기입니다.

왜 이걸 쟀나

Anthropic 공식 문서에는 이렇게 적혀 있습니다.

Claude 4.7 이후 모델과 Claude Mythos Preview는 새로운 토크나이저를 사용하며, 같은 텍스트에 대해 약 30% 더 많은 토큰을 생성합니다. 정확한 증가폭은 콘텐츠와 워크로드 형태에 따라 다릅니다.

문제는 “콘텐츠에 따라 다르다”가 전부라는 점입니다. 한국어가 몇 %인지는 어디에도 없습니다. 해외 글들은 이 30%(어떤 곳은 35%)를 그대로 인용하고, 국내 글들도 그걸 받아 적습니다.

그래서 직접 쟀습니다.

측정 방법

Anthropic count_tokens API에 같은 텍스트를 넣고 구형·신형 토크나이저의 결과를 비교했습니다.

항목값
구형 토크나이저claude-sonnet-4-6
신형 토크나이저claude-sonnet-5
측정일2026년 8월 3일
샘플한국어 4개 + 영문 대조군 1개, 합계 5,401자
봉투 오버헤드를 빼야 합니다
count_tokens는 메시지 구조(role, 구분자 등)에 해당하는 고정 오버헤드를 함께 셉니다. 그대로 쓰면 짧은 텍스트일수록 왜곡이 큽니다.
그래서 같은 텍스트를 두 번 이어붙인 것에서 한 번짜리를 뺐습니다. net = count(T + T) − count(T)
이러면 고정 오버헤드가 상쇄되고 순수 텍스트 토큰만 남습니다.

결과

샘플글자한글구형신형증가율신형 토큰/자
대화체7875428138130%1.033
문서체8675888868860%1.022
기사체8115718568560%1.055
혼합 (한글 35%)1,0913847698095.2%0.742
영문 대조군1,845035352147.6%0.282

한글 위주 샘플 3개는 구형과 신형의 토큰 수가 완전히 같았습니다. 813=813, 886=886, 856=856. 서로 다른 문체의 독립된 샘플 3개에서 전부 일치했으니 우연이 아닙니다.

한글 비중이 35%로 낮은 혼합 샘플만 5.2% 늘었고, 순수 영문은 47.6% 늘었습니다. 증가분의 출처는 한국어가 아니라 ASCII 부분입니다.

보조 검증 — 순수 한글로 다시

혹시 몰라 조건을 더 좁혀 다시 쟀습니다.

샘플글자구형신형증가율토큰/자
순수 한글 (공백 없음)6264640%1.032
한글 + 공백5862620%1.069
한글 + 숫자·영문7057617%0.871

같은 결론입니다. 한글만 있으면 0%, 영문·숫자가 섞이는 만큼만 늘어납니다.

직접 계산해보기

글자 수를 넣으면 실측 기준 토큰 수와, 흔히 인용되는 “30% 증가설”로 계산했을 때의 차이를 보여줍니다.

실측 기준 월 입력 토큰—
“30% 증가설” 기준—
잘못 믿었을 때의 과대 추정—

그래서 뭐가 달라지나

1. 9월 인상은 한국어면 딱 1.5배입니다

Claude Sonnet 5는 2026년 9월 1일부터 $2/$10 → $3/$15로 오릅니다. 여기에 토크나이저 30%를 곱해 “실질 2배”라고 보는 계산이 도는데, 한국어에는 그 곱셈이 없습니다. 인상 내역 자세히 보기

2. Sonnet 5와 4.6은 한국어면 같은 값입니다

9월부터 둘 다 $3/$15입니다. “표시가는 같아도 5가 더 나온다”는 설명은 영문 기준이라, 한국어 작업이면 성능이 나은 5를 쓰면 됩니다. 실질 순위 보기

3. Haiku의 이점은 표시가 3배 차이 그대로입니다

Haiku 4.5는 구형 토크나이저라 “토큰까지 덜 먹어서 격차가 더 벌어진다”고 알려져 있는데, 한국어에서는 그 추가 이점이 없습니다. 물론 $1/$5 대 $3/$15라는 3배 차이는 그대로입니다. Haiku 전환 판단 기준

4. 코드·영문이 섞이면 얘기가 다릅니다 — 이것도 쟀습니다

ASCII 비중만큼 증가율이 올라갑니다. 아래에서 자세히 보세요.

코드·영문은 얼마나 늘어나나 (2차 측정)

개발자 프롬프트에는 코드와 영문 문서가 섞입니다. 그 구간을 따로 쟀습니다.

내용글자한글구형신형증가율
영문 마크다운 문서2,259052774040.4%
Python 코드 (순수)2,149058975528.2%
JSON 설정1,100047157522.1%
JS 코드 + 한글 주석1,57028183792410.4%
한국어 질문 + 코드 블록9172866076456.3%

한글 비중이 증가율을 결정합니다

1·2차 측정을 한글 비중 순으로 늘어놓으면 관계가 분명해집니다.

한글 비중내용증가율
0%영문 산문40.4%
0%순수 코드28.2%
0%JSON22.1%
18%코드 + 한글 주석10.4%
31%한국어 질문 + 코드6.3%
35%혼합 문서5.2%
69~72%한국어 위주0%
신형 토크나이저는 한글을 건드리지 않고 ASCII만 잘게 쪼갭니다.
그래서 한글이 차지하는 비중만큼 증가율이 희석됩니다. 본인 프롬프트에서 한글이 몇 %인지 보면 대략 예측할 수 있습니다.

내 경우엔 얼마나 오르나

이런 작업이라면9월 이후 예상 인상
한국어로만 묻는 챗봇·상담·번역1.5배 (표시가 그대로)
한국어 질문 + 코드 블록 (가장 흔한 개발자 프롬프트)약 1.6배
코드를 통째로 넣는 리뷰·리팩터링약 1.8~1.9배
영문 문서를 통째로 넣는 요약·번역약 2.1배

표시가 인상 1.5배에 각 구간의 토큰 증가율을 곱한 값입니다. “실질 2배”라는 얘기는 영문 문서를 다루는 경우에만 맞습니다.

토큰 밀도 — 별개의 사실

증가율과 별개로, 글자당 토큰 수는 한국어가 영문·코드의 약 3배입니다.

유형신형 토큰/글자
한국어1.05
JSON0.52
순수 코드0.35
영문 산문0.33

다만 글자 수는 언어 간 비교 단위로 적절하지 않습니다. 한국어는 한 글자에 담기는 정보량이 영문 알파벳보다 많아서, “같은 내용을 전달하는 비용이 3배”라는 뜻은 아닙니다.

한계

재현하기

저희가 쓴 스크립트와 샘플을 그대로 올려 두었습니다. 같은 방법으로 직접 재보실 수 있습니다.

쓴 파일을 그대로 올려 두었습니다. 눌러서 바로 받으실 수 있습니다.

파일내용
measure-korean-tokens.ps1 측정 스크립트 (PowerShell)
01-chat.txt 1차 샘플 — 한국어 대화체
02-doc.txt 1차 샘플 — 한국어 문서체
03-news.txt 1차 샘플 — 한국어 기사체
04-mixed.txt 1차 샘플 — 혼합 (한글 35%)
05-english-control.txt 1차 샘플 — 영문 대조군
01-code-python.txt 2차 샘플 — Python 코드
02-code-korean-comment.txt 2차 샘플 — JS 코드 + 한글 주석
03-markdown-en.txt 2차 샘플 — 영문 마크다운
04-json-config.txt 2차 샘플 — JSON 설정
05-korean-with-code.txt 2차 샘플 — 한국어 질문 + 코드
직접 돌려보시려면
스크립트와 샘플 폴더를 같은 위치에 두고 아래를 실행하시면 됩니다. count_tokens는 토큰을 소모하지 않지만 계정 잔액이 있어야 접근됩니다.
$env:ANTHROPIC_API_KEY = "sk-ant-..."
.\measure-korean-tokens.ps1                      # 1차 (한국어)
.\measure-korean-tokens.ps1 -SamplesDir .\samples-code   # 2차 (코드·영문)

값이 다르게 나오시면 아래 의견란에 남겨 주세요. 샘플이나 방법에 문제가 있으면 고치겠습니다.

내 사용량으로 원화 비용 계산해보기 실측 토큰 기준 · 부가세·환율 반영 · 광고 없음