AutoGen

AutoGen (Microsoft) adalah framework multi-agen. Arahkan OpenAIChatCompletionClient ke RouterKu.

Nilai koneksi

Langkah-langkah

1. Pasang paket

   Pasang ekstensi OpenAI untuk AutoGen:

   TerminalSalin

   pip install "autogen-ext[openai]" autogen-agentchat

2. Buat kunci RouterKu

   Menu Kunci API → buat kunci (qdr-...).

3. Inisialisasi klien

   Arahkan base_url ke RouterKu dan isi model_info:

   pythonSalin

   from autogen_ext.models.openai import OpenAIChatCompletionClient
   
   client = OpenAIChatCompletionClient(
       model="sonnet-5",
       base_url="BASE_URL_DARI_DASBOR",
       api_key="qdr-...",
       model_info={
           "family": "unknown",
           "vision": False,
           "function_calling": True,
           "json_output": True,
       },
   )

4. Pakai di agen

   Berikan client ini ke AssistantAgent atau tim (mis. RoundRobinGroupChat).

Model yang disarankan

Tips

• Set function_calling: True (seperti contoh) agar tool/agent bekerja — pakai opus-5 untuk orkestrasi kompleks.
• Untuk agen ngobrol ringan, ganti model ke haiku-45 agar hemat.
• Batasi jumlah giliran tim agar tidak boros token pada percakapan panjang.

Kalau bermasalah

• 401 / authentication failed / invalid_api_key — cek dulu apakah kuncinya memang mati, atau cuma tidak sampai ke permintaan. Jalankan uji mandiri di bawah: kalau balasannya 200, kunci kamu SEHAT dan masalahnya ada di konfigurasi AutoGen (lihat 3 poin berikutnya). Kalau bukan 200, buat kunci baru di menu Kunci API.
• 401 padahal kunci sehat (1) — belum restart AutoGen. Banyak aplikasi hanya membaca file .env/variabel lingkungan saat start. Setelah mengubah kunci, tutup penuh lalu jalankan ulang AutoGen.
• 401 padahal kunci sehat (2) — penulisan kunci kotor. Di file .env tulis polos tanpa kutip/spasi: ROUTERKU_API_KEY=qdr-... (bukan = "qdr-..."). Pastikan tidak ada spasi di ujung dan kunci tersalin utuh (tanpa terpotong).
• 401 padahal kunci sehat (3) — nama variabel salah. Rujukan seperti ${ROUTERKU_API_KEY} umumnya hanya dikenali bila namanya HURUF BESAR dan variabelnya benar-benar ada; kalau tidak, teks ${...} terkirim mentah sebagai kunci → 401. Saat ragu, isi kunci qdr-... langsung untuk memastikan.
• 402 / insufficient_balance — saldo habis. Isi lewat menu Isi Saldo.
• 404 / model_not_found — ID model salah. Pakai persis, mis. sonnet-5 (daftar di GET /v1/models).
• Tidak konek / timeout — pastikan Base URL berakhiran /v1 dan bisa diakses dari mesin AutoGen.
• 429 / rate_limited — melewati 240 permintaan/menit atau 24 paralel. Beri jeda atau kurangi konkurensi.

Uji mandiri kunci — jalankan di terminal mesin yang sama. Ganti qdr-... dengan kuncimu:

curl -s -o /dev/null -w "%{http_code}\n" BASE_URL_DARI_DASBOR/chat/completions \
  -H "Authorization: Bearer qdr-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"haiku-45","max_tokens":10,"messages":[{"role":"user","content":"ping"}]}'