URL Dasar API GLM: Sambungkan Klien OpenAI Apapun

Tiga nilai yang Anda butuhkan

Pertanyaan tentang URL dasar API glm biasanya berasal dari seseorang yang memiliki klien yang membutuhkan URL, kunci, dan nama model, tetapi tidak tahu nilai mana yang masuk ke mana. Berikut semuanya dalam satu tempat.

Satu klarifikasi sebelum Anda menyalin apa pun. Nama pada domain merujuk pada istilah pencarian, bukan pada model. Ini adalah API teks yang kompatibel dengan OpenAI untuk satu model bobot terbuka yang dijalankan oleh penyedia independen, disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari vendor di balik GLM, dan bukan router yang meneruskan ke vendor lain. Jika Anda memerlukan model GLM resmi, gunakan layanan vendor tersebut.

Anda mendapatkan kunci dengan mendaftar menggunakan Google atau dengan email dan kata sandi. Halaman kunci API juga memiliki uji coba $0,50 yang bisa diaktifkan dengan satu klik, berlaku selama 7 hari tanpa kartu.

Periksa koneksi dengan curl

Sebelum menyentuh SDK atau aplikasi apa pun, verifikasi kunci dan URL dengan permintaan sederhana. Jika ini berhasil, setiap masalah selanjutnya ada di konfigurasi klien Anda dan bukan di akun. Pertama, daftar model:

Copycurl https://api.glmapi.cc/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Anda harus mendapatkan daftar JSON yang mencakup id uncensored. Kemudian kirimkan satu penyelesaian obrolan:

Copycurl https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 20
  }'

Tambahkan -i untuk melihat header respons. Header tersebut mencakup X-Request-Id, X-Balance-USD (sisa saldo Anda), X-RateLimit-Limit-Requests dan X-RateLimit-Limit-Concurrency. Simpan ID permintaan jika Anda perlu menghubungi dukungan mengenai panggilan tersebut.

Python dan Node

Kedua SDK OpenAI resmi menerima URL dasar kustom. Anda mengubah dua argumen konstruktor dan nama model; sisa kode Anda tetap seperti adanya.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.glmapi.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a tavern."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.glmapi.cc/v1",
  apiKey: process.env.GLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a tavern." }],
});
console.log(resp.choices[0].message.content);

Properti Node adalah baseURL dengan huruf kapital, sedangkan argumen Python adalah base_url. Mengacaukannya adalah cara klasik untuk secara diam-diam beralih ke host default SDK dan mendapatkan kesalahan autentikasi dari server yang salah.

Variabel lingkungan daripada kode

SDK OpenAI membaca OPENAI_BASE_URL dan OPENAI_API_KEY dari lingkungan ketika Anda tidak meneruskannya secara eksplisit. Ini adalah cara paling tidak invasif untuk mengubah target alat yang tidak dapat Anda edit, seperti skrip dari repositori atau kerangka kerja yang membuat klien untuk Anda.

Copyexport OPENAI_BASE_URL="https://api.glmapi.cc/v1"
export OPENAI_API_KEY="YOUR_KEY"
python my_existing_script.py

Anda masih harus mengatur nama model di dalam alat atau file konfigurasinya menjadi uncensored, karena tidak ada variabel lingkungan yang membawanya. Jika alat memiliki dropdown model yang hanya menampilkan nama yang dikenal, cari opsi model kustom atau teks bebas.

Simpan nilai di satu tempat

Setelah koneksi berhasil, hindari menempelkan URL ke lima file. Masukkan tiga nilai ke satu tempat dan baca di tempat lain. File .env berfungsi untuk proyek kecil:

CopyGLM_BASE_URL=https://api.glmapi.cc/v1
GLM_API_KEY=YOUR_KEY
GLM_MODEL=uncensored

Kemudian muat sekali saat awal dan buat satu klien yang diimpor oleh sisa program. Manfaatnya terlihat pada hari Anda mengubah kunci, menambahkan kunci staging dengan saldo uji coba, atau membandingkan endpoint ini dengan yang lain. Anda mengedit file, bukan basis kode Anda.

Simpan kunci terpisah untuk pengembangan dan produksi di mana akun mengizinkannya, dan putar kunci segera jika muncul dalam commit, screenshot, atau log bersama. Kunci yang bocor menghabiskan saldo prabayar Anda, dan saldo tidak akan kembali.

Aplikasi chat dan kerangka kerja

Antarmuka front-end berbeda dalam kata-kata tetapi meminta tiga nilai yang sama. Cari jenis koneksi yang disebut kompatibel dengan OpenAI, OpenAI kustom, atau serupa, lalu isi:

• URL API / URL Dasar: https://api.glmapi.cc/v1
• Kunci API: kunci dari akun Anda
• Model: uncensored

SillyTavern memungkinkan Anda menambahkan endpoint yang kompatibel dengan OpenAI melalui sumber penyelesaian obrolan kustom, dan Open WebUI memiliki jenis koneksi yang kompatibel dengan OpenAI di pengaturannya. Kerangka kerja seperti LangChain menerima base_url pada kelas model obrolan mereka, dan LiteLLM dapat mengarahkan model bergaya OpenAI melalui basis API kustom. Nama menu berubah antar-versi, jadi ikuti dokumentasi terbaru setiap proyek untuk mengetahui persis di mana bidang tersebut berada.

Beberapa aplikasi menanyakan apakah Anda ingin menambahkan /chat/completions secara otomatis. Banyak yang melakukannya, yang berarti URL yang Anda masukkan harus berhenti di /v1. Jika aplikasi meminta endpoint lengkap, berikan https://api.glmapi.cc/v1/chat/completions. Panduan memulai menunjukkan bidang permintaan yang didukung secara lebih rinci.

Mengapa panggilan pertama gagal

Jika uji coba curl berhasil dan aplikasi Anda masih error, penyebabnya hampir selalu salah satu dari ini:

• Kurang /v1. Menggunakan https://api.glmapi.cc saja kemungkinan besar akan gagal dengan kesalahan tidak ditemukan, karena rute berada di bawah /v1.
• Path ganda. Aplikasi menambahkan /chat/completions dan Anda juga mengetiknya, menghasilkan /chat/completions/chat/completions. Hapus dari URL dasar.
• Garis miring akhir. Beberapa klien menggabungkan path dengan buruk. Hapus / terakhir jika Anda melihat garis miring ganda di URL yang dicatat.
• Nama model salah. Satu-satunya ID model adalah uncensored. Nama dari layanan lain tidak akan cocok.
• Masalah kunci. Periksa adanya spasi atau baris baru yang tersesat saat menempel, dan kunci dikirim sebagai Bearer dua kali oleh aplikasi yang sudah menambahkan awalan.
• Memanggil host yang salah. Pada aplikasi browser, URL dasar yang tidak diatur kembali ke host default SDK. Catat URL permintaan aktual.

Panggilan sisi browser juga mengekspos kunci Anda kepada siapa saja yang membuka alat pengembang. Untuk situs publik, kirim permintaan dari server Anda sendiri dan simpan kunci di sana.

Ketika tidak ada yang menjelaskannya, kerjakan mundur dari kasus terkecil. Jalankan perintah curl dari sebelumnya pada mesin yang sama dengan aplikasi yang gagal. Jika curl berhasil di sana, jaringan dan kunci baik-baik saja dan aplikasi membangun permintaan secara berbeda, jadi aktifkan logging debug-nya dan bandingkan URL yang dicatat, header, dan body JSON dengan versi curl, karakter demi karakter. Jika curl gagal hanya di mesin itu, lihat proxy perusahaan, aturan VPN, dan filter DNS, yang kadang-kadang memblokir nama host API yang tidak dikenal. Permintaan yang tidak pernah mencapai server tidak mengembalikan X-Request-Id, yang merupakan cara cepat untuk membedakan dua kasus tersebut.

Batas dan respons 429

Kunci penuh memungkinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 dan 60. Lewati salah satu dan API mengembalikan HTTP 429 dengan kode rate_limited (terlalu banyak per menit) atau concurrency (terlalu banyak sekaligus). Selama kelebihan beban sementara, Anda juga mendapatkan 429, dengan header Retry-After: 5.

Permintaan streaming memegang slot konkurensinya hingga stream berakhir, sehingga aplikasi yang membuka stream dan membiarkannya tanpa menutup koneksi dapat membuat dirinya sendiri kehabisan slot. Body permintaan maksimum adalah 8 MB, dan jendela konteks adalah 100.000 token yang mencakup prompt dan penyelesaian bersama. Untuk tingkat dan top-up, lihat halaman harga.

Streaming, alat, dan JSON menggunakan URL yang sama

Tidak ada alamat terpisah untuk streaming atau pemanggilan fungsi. Semua dikirim ke /v1/chat/completions, dan Anda mengaktifkan fitur dalam body permintaan. Permintaan streaming mengatur "stream": true dan mengembalikan server-sent events; permintaan dengan alat menambahkan tools dan opsional tool_choice; mode JSON menambahkan response_format dengan tipe json_object. Bidang sampling seperti temperature, top_p, stop, seed dan penalti diteruskan.

Berikut adalah panggilan curl streaming. Flag -N mematikan buffering output curl, sehingga Anda melihat potongan saat tiba:

Copycurl -N https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","stream":true,"messages":[{"role":"user","content":"Count to five."}]}'

Jika lapisan proxy atau hosting Anda melakukan buffering respons, streaming akan terlihat seperti satu balasan tertunda yang besar. Reverse proxy sering kali perlu mematikan buffering respons untuk server-sent events, jadi periksa pengaturan itu sebelum menyalahkan API. Untuk contoh lengkap versi Python setiap fitur, lihat panduan memulai.

Panduan lainnya

• Harga API GLM: $0,15 Masuk, $0,50 Keluar per 1M Token
• Python API GLM: Contoh Chat, Streaming, dan Alat
• API Gemma: Mitos vs Fakta