Nếu bạn đang dùng Claude Code mà chưa tối ưu context, bạn đang ném tiền qua cửa sổ. Vấn đề không nằm ở prompt, mà ở hàng nghìn dòng "rác" terminal từ git log hay npm install bị tống thẳng vào context window mỗi khi AI gọi tool. Rust Token Killer (RTK) là một binary bằng Rust nặng 4 MB, đóng vai trò proxy giữa AI agent và shell để "gọt dũa" đống dữ liệu này.
Về mặt kỹ thuật, RTK chặn các lệnh bash, thực thi chúng, rồi lọc bỏ boilerplate vô dụng trước khi trả về bản tóm tắt cho AI. Quảng cáo hứa hẹn giảm 60-90% token, nhưng "giảm token shell" và "giảm tổng hóa đơn Anthropic" là hai chuyện khác nhau. Dữ liệu thực nghiệm cho thấy kết quả thực tế có thể khiến bạn bất ngờ.
RTK là gì và nó cắt token ở chỗ nào?
RTK không phải là phép màu; nó là một lớp hạ tầng nằm giữa shell và AI. Thay vì để Claude Code nhận trực tiếp 2.000 dòng log từ một bộ test suite, RTK chặn lệnh gọi đó lại, chạy trong môi trường local, áp dụng bộ lọc rồi mới trả bản tóm tắt tinh gọn nhất về cho AI.
Kiến trúc này dựa trên triết lý: dữ liệu có thể truy xuất lại (re-fetchable). AI không cần phải "nhớ" vĩnh viễn mọi dòng của git status trong lịch sử hội thoại. Nếu cần chi tiết, nó có thể chạy lại lệnh đó sau. RTK quyết định biên tập thay cho AI, loại bỏ những thứ mà hệ thống đánh giá là nhiễu để giữ context window sạch sẽ cho việc lập luận.
RTK nén output bằng cách nào?
Hệ thống áp dụng 4 chiến lược nén tùy biến theo từng loại lệnh:
- Smart Filtering: vứt bỏ khoảng trắng thừa, comment và code boilerplate không mang giá trị logic.
- Grouping: gom nhóm các file theo trạng thái hoặc thư mục; gom lỗi test theo loại thay vì liệt kê từng dòng.
- Truncation: chỉ giữ lại các đoạn trích quan trọng nhất và cắt bỏ phần lặp lại cơ học.
- Deduplication: khử trùng lặp các dòng log giống nhau và thay bằng số lần xuất hiện (ví dụ: "Error x100").
Cài đặt và bật RTK cho Claude Code
Quá trình cài đặt RTK hiện đã tối ưu cho cả môi trường Windows nhờ native binary hook.
# Cài đặt nhanh (Linux/macOS)
curl -fsSL https://raw.githubusercontent.com/rtk-ai/rtk/refs/heads/master/install.sh | sh
# Tích hợp vào Claude Code
rtk init -gLệnh rtk init -g sẽ tạo hook trong ~/.claude/settings.json. Đáng chú ý, từ phiên bản v0.37.2, auto-rewrite hook đã chạy như một native binary command (rtk hook claude). Điều này có nghĩa là người dùng Windows không còn cần cài đặt jq hay giả lập Unix shell để RTK hoạt động. Sau khi restart Claude Code, mọi lệnh bash sẽ tự động đi qua proxy này.
Lệnh nào được cắt nhiều nhất?
Dựa trên benchmark thực tế, các lệnh có tính lặp lại cao là "con mồi" béo bở nhất của RTK:
| Lệnh | Token gốc (Raw) | Token qua RTK | Tỷ lệ giảm |
|---|---|---|---|
git diff | ~21.500 | ~1.259 | 94% |
cargo test | ~25.000 | ~2.500 | 90% |
git status | ~3.000 | ~600 | 80% |
ls -R / tree | ~2.000 | ~400 | 80% |
Tuy nhiên, RTK có một giới hạn kỹ thuật quan trọng: nó từ chối can thiệp vào các lệnh có pipe (|), heredocs hoặc substitutions phức tạp để tránh làm hỏng logic shell của bạn.
80% output có thành 80% hóa đơn không?
Đây là phần bạn cần tỉnh táo trước các con số marketing. Dữ liệu từ JetBrains Skill Trial Benchmark cho thấy một thực tế khác biệt:
- Độ phủ thấp: thực tế chỉ có khoảng 1/3 lệnh shell là có rule lọc trong RTK. Các lệnh như
python3, script nội bộ hoặc vòng lặp shell thường bị bỏ qua. - Bypass: các tool mặc định của Claude Code như
Read,GrepvàGlobhoàn toàn không đi qua hook của RTK. Phần lớn dữ liệu AI đọc là từ các tool này. - Hiệu ứng ngược về chi phí:
- Ở mức Low Reasoning Effort, hóa đơn thực tế tăng 7,6%.
- Lý do kỹ thuật: khi RTK nén quá đà, AI bị thiếu thông tin chi tiết, phải chạy thêm 13,8% số lượt tương tác (turns) và làm tăng 14,3% lượng cache reads để hiểu chuyện gì đang xảy ra.
- Ở mức High Reasoning Effort, chi phí gần như tương đương (±0%), không tiết kiệm được như quảng cáo.
Khi nào nên — và không nên — bật RTK?
Nên dùng khi
- Thăm dò ban đầu: khi bạn bắt đầu vào một repo mới, chạy
ls -Rhoặcfindđể AI nắm cấu trúc sơ bộ. - Test suites lớn: chạy Jest, Pytest hoặc
cargo testvới hàng trăm test case mà bạn chỉ quan tâm đến những case bị fail. - Thao tác Git cơ bản: kiểm tra status hoặc log nhanh mà không cần sa đà vào chi tiết diff.
Không nên dùng khi
- Debug sâu: khi bạn cần soi từng dòng log hệ thống hoặc stack trace phức tạp mà bộ lọc RTK có thể vô tình "gọt" mất thông tin then chốt.
- AI bắt đầu chạy loạn: nếu thấy Claude Code lặp lại câu hỏi hoặc chạy lại một lệnh nhiều lần, đó là dấu hiệu nó bị thiếu thông tin do nén. Hãy dùng
RTK_DISABLE=1để bỏ qua proxy ngay lập tức.
RTK là một lớp tối ưu hóa hạ tầng đáng thử nếu bạn đang chi hàng nghìn đô mỗi tháng cho token. Nhưng đừng kỳ vọng nó là "viên đạn bạc". Hãy giám sát chỉ số rtk gain nhưng phải đối chiếu trực tiếp với hóa đơn trên Anthropic Console. Đôi khi, cái giá của việc "tiết kiệm token" lại là những lần cache read tốn kém do AI phải đọc đi đọc lại lịch sử để bù đắp cho phần dữ liệu đã bị RTK cắt bỏ.
Tài liệu tham khảo
- GitHub - rtk-ai/rtk: CLI proxy that reduces LLM token consumption by 60-90% on common dev commands
- RTK — Rust Token Killer
- What is RTK? | rtk-ai/rtk | DeepWiki
- RTK: Cut Your AI Coding Bill by 80% With One CLI Tool — DEV Community
- Cut Claude Code Token Costs 60-90% With rtk: Hands-On Guide | ComputeLeap
- How I Cut Claude Code Token Usage by 80% — Without Losing Quality | lmmartinb.com
- rtk Claude Code Token Savings: A Skill Trial Benchmark — JetBrains
- The Token Compression Illusion: Why I'm Skeptical of RTK | Hacker News
- Releases · rtk-ai/rtk