v1.0.0-012 : LLM Quota Monitoring — RPM & RPD Real-Time + Indikator Merah

Latar Belakang

Sebelumnya, halaman LLM Monitoring hanya menampilkan status supported/unsupported berdasarkan ping sederhana ke Gemini API. Tidak ada informasi berapa sisa kuota RPM (Request Per Minute) dan RPD (Request Per Day) yang tersedia. Jika kuota habis, sistem baru diketahui setelah terjadi error parsing.

Perubahan Backend — mcp-server/src/index.ts

Endpoint Baru: GET /api/v1/llm-monitoring

Endpoint ini sekarang menghitung pemakaian RPM & RPD secara real-time dari tabel mcp_request_logs:

-- Pemakaian hari ini (RPD)
SELECT model_used, COUNT(*) as count
FROM mcp_request_logs
WHERE created_at >= CURRENT_DATE
GROUP BY model_used;

-- Pemakaian dalam 60 detik terakhir (RPM)
SELECT model_used, COUNT(*) as count
FROM mcp_request_logs
WHERE created_at >= NOW() - INTERVAL '1 minute'
GROUP BY model_used;

Struktur Response Per Key

Setiap entry key dalam model_keys sekarang berisi:

Limit Free Tier yang Digunakan

Perubahan Frontend — mcp-frontend/src/pages/LlmMonitoring.tsx

Interface Diperbarui

interface KeyStatus {
  key_name: string;
  masked_key: string;
  supported: boolean;
  quota_exceeded: boolean;      // baru
  status_code: number;          // baru
  error_msg: string;            // baru
  rpm_display: string;          // baru
  rpd_display: string;          // baru
}

interface ModelKeys {
  model_name: string;
  rpm_limit: number;            // baru
  rpd_limit: number;            // baru
  used_rpm: number;             // baru
  used_rpd: number;             // baru
  rem_rpm: number;              // baru
  rem_rpd: number;              // baru
  keys: KeyStatus[];
}

Tampilan Sel Matrix Tabel

Logika Deteksi QUOTA EXCEEDED

Sebuah key dianggap quota exceeded jika salah satu kondisi terpenuhi:

1. rem_rpm <= 0 (pemakaian dalam 60 detik terakhir ≥ limit RPM)
2. rem_rpd <= 0 (pemakaian hari ini ≥ limit RPD)
3. Ping API Gemini mengembalikan HTTP 429
4. Pesan error mengandung kata quota atau exhausted

Perbaikan Tampilan UI (Follow-up)

Format Display RPM/RPD

Format diubah dari sisa/limit → terpakai/limit agar tidak ambigu:

Format lama 15/15 dibaca “sudah habis semua”, padahal artinya “sisa 15 dari 15”. Format baru 0/15 langsung jelas = baru terpakai 0.

Sel Matrix Lebih Ringkas (1 Baris)

• Hapus teks “READY” — cukup dot hijau/merah sebagai indikator
• 1 baris: ● RPM: 0/15 RPD: 0/1500
• QUOTA EXCEEDED juga 1 baris: 🔴 RPM: 15/15 RPD: 1500/1500

Model Tidak Didukung Disembunyikan

Model yang semua key-nya tidak mendukung (bukan quota exceeded) dihapus dari list agar tabel lebih bersih dan fokus hanya pada model yang relevan.

// Filter: hanya tampilkan model yang minimal 1 key supported atau quota_exceeded
const supportedModelRows = data.model_keys.filter(row =>
  row.keys.some(k => k.supported || k.quota_exceeded)
);

File yang Diubah