GLM API Base URL: Herhangi bir OpenAI istemcisini bağlayın

İhtiyacınız olan üç değer

Bir glm api base url sorusu genellikle bir URL, bir anahtar ve bir model adı isteyen ve hangi değerlerin nereye gideceğini bilmeyen bir istemcisi olan birinden gelir. İşte hepsi tek bir yerde.

Herhangi bir şeyi kopyalamadan önce bir açıklama. Etki alanındaki ad, model için değil arama terimi içindir. Bu, bağımsız bir sağlayıcı tarafından yürütülen ve yetişkinlerin yasal kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı model için barındırılan, OpenAI uyumlu bir metin API'sidir. GLM arkasındaki satıcının resmi API'si değildir ve diğer satıcılara yönlendirme yapan bir yönlendirici değildir. Resmi bir GLM modeline ihtiyacınız varsa, o satıcının kendi hizmetini kullanın.

Google veya e-posta ve şifre ile kayıt olarak bir anahtar alırsınız. API anahtarı sayfası ayrıca, kart olmadan 7 gün geçerli tek tıkla alınabilen 0,50 $ deneme kredisi de bulunur.

Bağlantıyı curl ile kontrol edin

Herhangi bir SDK veya uygulamaya dokunmadan önce, anahtarı ve URL'yi düz bir istekle doğrulayın. Bu çalışırsa, sonraki her sorun hesabınızda değil, istemci yapılandırmanızdadır. İlk olarak modelleri listeleyin:

Copycurl https://api.glmapi.cc/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

id uncensored içeren bir JSON listesi almalısınız. Ardından bir sohbet tamamlama isteği gönderin:

Copycurl https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 20
  }'

Yanıt başlıklarını görmek için -i ekleyin. Bunlar X-Request-Id, X-Balance-USD (kalan krediniz), X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency içerir. Bir çağrı hakkında destek istemeniz gerekirse istek kimliğini saklayın.

Python ve Node

Resmi OpenAI SDK'ları özel bir base URL kabul eder. İki kurucu argümanı ve model adını değiştirirsiniz; kodunuzun geri kalanı olduğu gibi kalır.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.glmapi.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a tavern."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.glmapi.cc/v1",
  apiKey: process.env.GLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a tavern." }],
});
console.log(resp.choices[0].message.content);

Node özelliği büyük harflerle baseURL iken, Python argümanı base_url'dir. Bunları karıştırmak, SDK'nın varsayılan host'una sessizce düşmek ve yanlış sunucudan bir kimlik doğrulama hatası almak için klasik bir yoldur.

Kod yerine ortam değişkenleri

OpenAI SDK'ları, bunları açıkça geçmediğinizde OPENAI_BASE_URL ve OPENAI_API_KEY'i ortamdan okur. Bu, bir depodan bir betik veya istemciyi sizin için oluşturan bir çerçeve gibi düzenleyemediğiniz bir aracı yeniden hedeflemenin en az müdahaleci yoludur.

Copyexport OPENAI_BASE_URL="https://api.glmapi.cc/v1"
export OPENAI_API_KEY="YOUR_KEY"
python my_existing_script.py

Araç içinde veya yapılandırma dosyasında model adını uncensored olarak ayarlamanız gerekir, çünkü bunu taşıyan bir ortam değişkeni yoktur. Aracın yalnızca bildiği adları listeleyen bir model açılır listesine sahipse, özel model veya serbest metin seçeneğini arayın.

Değerleri tek bir yerde tutun

Bağlantı çalıştıktan sonra URL'yi beş dosyaya yapıştırmaktan kaçının. Üç değeri tek bir yere yerleştirin ve diğer her yerde onları okuyun. Küçük projeler için bir .env dosyası işe yarar:

CopyGLM_BASE_URL=https://api.glmapi.cc/v1
GLM_API_KEY=YOUR_KEY
GLM_MODEL=uncensored

Ardından bunları başlangıçta bir kez yükleyin ve programın geri kalanının içe aktardığı tek bir istemci oluşturun. Fayda, anahtarları değiştirdiğinizde, deneme bakiyesi olan bir staging anahtarı eklediğinizde veya bu uç noktayı başka biriyle karşılaştırdığınızda ortaya çıkar. Kod tabanınızı değil, bir dosyayı düzenlersiniz.

Hesabın izin verdiği yerde geliştirme ve üretim için ayrı anahtarlar tutun ve bir anahtar bir commit'te, bir ekran görüntüsünde veya paylaşılan bir günlükte görünürse hemen yenileyin. Sızan bir anahtar ön ödemeli kredinizi harcar ve kredi geri gelmez.

Sohbet uygulamaları ve çerçeveler

Ön uçlar ifadelerde farklılık gösterir ancak aynı üç değeri ister. OpenAI uyumlu, özel OpenAI veya benzeri bir bağlantı türü arayın, ardından bunları doldurun:

• API URL'si / Base URL: https://api.glmapi.cc/v1
• API anahtarı: hesabınızdaki anahtar
• Model: uncensored

SillyTavern, özel sohbet tamamlama kaynağı aracılığıyla OpenAI uyumlu bir uç nokta eklemenize olanak tanır ve Open WebUI, ayarlarında OpenAI uyumlu bir bağlantı türüne sahiptir. LangChain gibi çerçeveler, sohbet model sınıfına bir base_url alır ve LiteLLM, bir OpenAI tarzı modeli özel bir API base URL'si üzerinden yönlendirebilir. Menü adları sürümler arasında değişir, bu nedenle alanın tam olarak nerede olduğunu bulmak için her projenin güncel belgelerine başvurun.

Bazı uygulamalar /chat/completions eklemesini isteyip istemediğinizi sorar. Çoğu öyle yapar, bu nedenle girdiğiniz URL /v1'de sona ermelidir. Bunun yerine bir uygulama tam uç nokta isterse, ona https://api.glmapi.cc/v1/chat/completions verin. hızlı başlangıç desteklenen istek alanlarını daha ayrıntılı olarak gösterir.

Neden ilk çağrı başarısız olur

curl testi geçerse ve uygulamanız hala hata verirse, neden neredeyse her zaman bunlardan biridir:

• Eksik /v1. Yalnızca https://api.glmapi.cc kullanmak büyük olasılıkla bulunamadı hatasıyla başarısız olacaktır, çünkü rotalar /v1 altında yer alır.
• Çift yol. Uygulama /chat/completions ekler ve siz de onu yazarsınız, bu da /chat/completions/chat/completions üretir. Bunu base URL'den çıkarın.
• Son eğik çizgi. Bazı istemciler yolları kötü birleştirir. Günlüklenen URL'de çift eğik çizgi görürseniz son /'i kaldırın.
• Yanlış model adı. Tek model ID'si uncensored'dir. Diğer hizmetlerden adlar eşleşmeyecektir.
• Anahtar sorunları. Yapıştırırken boşluk veya satır sonu olup olmadığını kontrol edin ve anahtarın, ön eki zaten ekleyen bir uygulama tarafından Bearer olarak iki kez gönderilip gönderilmediğini kontrol edin.
• Yanlış host'a çağrı. Bir tarayıcı uygulamasında, ayarlanmamış bir base URL SDK varsayılanına düşer. Gerçek istek URL'sini günlüğe kaydedin.

Tarayıcı tarafı çağrılar ayrıca anahtarınızı geliştirici araçlarını açan herkese de açık hale getirir. Herkese açık bir site için istekleri kendi sunucunuzdan gönderin ve anahtarı orada tutun.

Bunların hiçbiri açıklamıyorsa, en küçük durumdan geriye doğru ilerleyin. Başarısız olan uygulama ile aynı makinede önceki curl komutunu çalıştırın. curl orada başarılı olursa, ağ ve anahtar iyidir ve uygulama isteği farklı oluşturur, bu nedenle hata ayıklama günlüklemesini açın ve günlüklenen URL'yi, başlıkları ve JSON gövdesini curl sürümüyle karakter karakter karşılaştırın. curl yalnızca o makinede başarısız olursa, kurumsal proxylere, VPN kurallarına ve tanımadığı API host adlarını bazen engelleyen DNS filtrelerine bakın. Sunucuya hiç ulaşmayan bir istek hiçbir X-Request-Id döndürmez; bu, iki durumu ayırt etmenin hızlı bir yoludur.

Limitler ve 429 yanıtları

Tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek sağlar. Bir deneme anahtarı 2 ve 60 sağlar. Bunlardan herhangi birini aşarsanız API, HTTP 429 döndürür ve kod rate_limited (dakika başına çok fazla) veya concurrency (aynı anda çok fazla) ile birlikte gelir. Geçici aşırı yüklenme sırasında ayrıca Retry-After: 5 başlığı ile bir 429 alırsınız.

Akışlı bir istek, akış sonlanana kadar eşzamanlılık slotunu işgal eder; bu nedenle bir akış açar ve bağlantıyı kapatmadan terk eden bir uygulama kendi kaynaklarını tüketebilir. Maksimum istek gövdesi 8 MB'tır ve bağlam penceresi, istem ve tamamlama birlikte 100.000 token kapsar. Hız limitleri ve bakiye yükleme için fiyatlandırma sayfasına bakın.

Akış, araçlar ve JSON aynı URL'i kullanır

Akış veya fonksiyon çağırma için ayrı bir adres yoktur. Her şey /v1/chat/completions adresine gider ve istek gövdesinde özellikleri etkinleştirirsiniz. Akışlı bir istek "stream": true ayarını yapar ve sunucu gönderilen olayları döndürür; araçlar içeren bir istek tools ve isteğe bağlı olarak tool_choice ekler; JSON modu, türü json_object olan response_format ekler. temperature, top_p, stop, seed gibi örnekleme alanları ve cezalar aktarılır.

İşte akışlı bir curl çağrısı. -N bayrağı, curl'un çıktı arabelleğe almasını kapatır, böylece parçalar geldikçe görürsünüz:

Copycurl -N https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","stream":true,"messages":[{"role":"user","content":"Count to five."}]}'

Vekil sunucunuz veya barındırma katmanınız yanıtları arabelleğe alıyorsa, akış tek büyük gecikmiş bir yanıt gibi görünecektir. Ters vekil sunucular genellikle sunucu gönderilen olaylar için yanıt arabelleğe almanın kapatılması gerekir, bu nedenle API'yi suçlamadan önce bu ayarı kontrol edin. Her özellik için çalışılmış bir Python sürümü için hızlı başlangıç sayfasına bakın.

Daha fazla kılavuz

• GLM API Fiyatlandırması: Giriş için $0,15, Çıkış için $0,50, 1M Token başına
• GLM API Python: Sohbet, Akış ve Araç Örnekleri
• Gemma API: Mitler ve Gerçekler