Lanjut ke konten
Samkarsa Logbook

MCP v1.0.0-026: Basemind Local Semantic Router & Fast-Path Zero-Token Architecture

Menggantikan LLM router dengan Basemind Local Semantic Classifier, direct Fast-Path SQL, dan meletakkan multi-turn history di Top-of-Context untuk latensi < 3 detik.

1mnt baca

Penyempurnaan arsitektur eksekusi Vibes Chat (Sajen Intelligence) untuk mengeliminasi redundansi panggilan LLM dan menghapus template kaku yang tidak relevan dengan intensi pengguna.

  1. Basemind Local Semantic Router (basemindTool.ts):
    • Menggantikan pemanggilan Gemini API eksternal pada tahap routing domain.
    • Klasifikasi intensi bisnis (Aturan Toko, Saldo/Kas, Produk Rp 0, Pasar, Teknis) dieksekusi 100% lokal di server dalam waktu < 1 milidetik dengan 0 token.
  2. Fast-Path Direct Database Retrieval (vibeCopilot.ts):
    • Pertanyaan faktual (seperti aturan margin/stok toko, saldo kas/bank, produk tanpa harga) langsung ditarik dari database PostgreSQL tanpa melalui ReAct reasoning loop.
    • Total panggilan Gemini API dipangkas menjadi hanya 1 kali pemanggilan tunggal (Single Synthesis Pass).
  3. Top-of-Context Multi-Turn History & Natural Prompting:
    • Menempatkan riwayat percakapan sebelumnya di baris paling atas System Prompt agar model memiliki kepekaan kontekstual 100% terhadap topik yang sedang dibicarakan.
    • Menghilangkan template birokratis formal yang kaku; respon kini bersifat luwes, to-the-point, cerdas, dan adaptif.
  4. Dampak Performa Riil:
    • Latensi Respon: Terpangkas dari ~15 detik menjadi ~2–3 detik.
    • Konsumsi Token: Terpangkas dari ~9.000 token menjadi ~1.500–2.500 token per interaksi.