Lanjut ke konten
Samkarsa Logbook

MCP v1.0.0-022: Baseline Audit Token LLM & Rencana Integrasi Basemind Native Engine

Pencatatan benchmark riil konsumsi token Gemini (18.849 token per pesan) sebelum implementasi Basemind Schema Pruning Engine.

1mnt baca

Berdasarkan audit riil pada tabel mcp_request_logs di database PostgreSQL production VPS, tercatat konsumsi token untuk 1 pertanyaan pengguna (“apakah kamu tahu aturan yang digunakan oleh toko kusuma untuk perhitungan margin dan pengelolaan stock”) mencapai 18.849 total token.

Log ID Tahapan Proses AI Model LLM Token In Token Out Total Token
#418 Intent Classification (Router) gemini-2.5-flash 1.905 168 2.073
#419 ReAct Loop Iterasi 1 (Planning) gemini-3.1-flash-lite 2.925 137 3.062
#420 ReAct Loop Iterasi 2 (Planning) gemini-3.1-flash-lite 3.028 109 3.137
#421 ReAct Loop Iterasi 3 (Planning) gemini-3.1-flash-lite 3.121 159 3.280
#422 CFO Advisor Synthesis (Jawaban) gemini-3.1-flash-lite 6.530 767 7.297
TOTAL 1 Pertanyaan Pengguna — 17.509 1.340 🔥 18.849 Token

Dengan menanamkan Basemind langsung ke dalam container mcp-backend-prod:

  1. Schema Pruning: Mengurangi ukuran skema DDL berulang dari ~3.000 token menjadi ~250 token per iterasi ReAct.
  2. Result Data Compression: Mengompresi hasil raw JSON dari database menjadi matriks ringkas (~150 token).
  3. Target Reduksi: Memangkas konsumsi token per pertanyaan dari 18.849 token menjadi < 2.000 token (Efisiensi ≈\approx 90%).