Lanjut ke konten
Samkarsa Logbook

Ketik untuk mencari…

↑↓untuk navigasi
Esc

v1.0.0-009 : Penambahan Submenu LLM & API Key Monitoring

Implementasi antarmuka LLM Monitoring terpusat di MCP Server Hub untuk memantau status model aktif, limit API Key Gemini free tier, dan log prompt history.

MCP1mnt baca

Untuk mempermudah monitoring penggunaan token, rotasi API key, dan memantau status model yang sedang aktif digunakan (Ollama vs Gemini), kami menambahkan halaman LLM & API Key Monitoring pada panel kontrol MCP Hub.

Menambahkan endpoint GET /api/v1/llm-monitoring pada src/index.ts untuk:

  • Memeriksa keaktifan server Ollama Local dan Ollama Ngrok.
  • Menguji kesiapan masing-masing API Key yang terdaftar di berkas .env terhadap 5 model Gemini free tier.
  • Membaca data pemakaian real dari tabel ai_model_quotas dan log prompt 10 terbaru dari tabel ai_parsing_logs.

Perbaikan Kritis: Endpoint awalnya mengarah ke mcp_hub_db (database khusus RAG). Diperbaiki agar menggunakan Pool koneksi terpisah (blonjoPool) yang mengarah ke blonjo_db tempat tabel ai_model_quotas dan ai_parsing_logs sebenarnya berada.

Dibuat komponen halaman src/pages/LlmMonitoring.tsx dengan beberapa iterasi penyempurnaan:

Rilis Awal:

  • Visualisasi 3 kartu status: model utama aktif, Ollama Local, Ollama Ngrok.
  • Tabel matrix status API Key Gemini vs model.
  • Tabel log 10 prompt & token terakhir dengan auto-refresh 60 detik.

Iterasi 1 — Konten Log:

  • Kolom “Teks Asli” (isi transaksi) diganti menjadi kolom “Prompt System / User” yang menampilkan isi prompt yang dikirim ke LLM, bukan data transaksi bisnis.

Iterasi 2 — Filter & Highlight Model Aktif:

  • Model yang tidak didukung oleh semua key (semua supported: false) tidak ditampilkan di tabel.
  • Baris model yang sedang aktif digunakan mendapat highlight kuning (amber) dengan dot animasi ping.
  • Sel key yang digunakan pada model aktif mendapat highlight ring kuning.
  • Badge nama model aktif ditampilkan di judul kartu tabel.

Iterasi 3 — Kebersihan UI & UX:

  • Sel key yang gagal / tidak didukung (supported: false) hanya menampilkan tanda — tanpa teks error yang berisik.
  • Prompt pada tabel log history menggunakan Radix UI Popover (@radix-ui/react-popover) menggantikan atribut title HTML biasa — klik teks prompt untuk membuka popup teks penuh yang bisa discroll.

Ditambahkan paket @radix-ui/react-popover@1.1.23 ke mcp-frontend.