Szybki start dla użytkowników GLM

Instalacja i konfiguracja

Aby rozpocząć, upewnij się, że masz zainstalowane oficjalne SDK OpenAI dla swojego języka. API korzysta ze standardowego schematu uwierzytelniania opartego na nagłówkach. Musisz ustawić nagłówek Authorization na Bearer your-api-key i skonfigurować bazowy URL na https://api.glmapi.cc/v1. Ten URL działa z każdym klientem obsługującym format OpenAI Chat Completions.

Nie jest wymagane żadne specjalne inicjowanie klienta poza standardową konfiguracją. Usługa działa jako bezpośrednia wymiana dla istniejących integracji OpenAI. Możesz zweryfikować swoją konfigurację, sprawdzając endpoint dostępnych modeli.

Pierwsze zapytanie

Wyślij proste zapytanie o uzupełnienie tekstu, aby przetestować łączność. Użyj identyfikatora modelu uncensored dla głównego dużego modelu językowego. API akceptuje standardowe parametry, takie jak max_tokens i temperature.

To zapytanie zwraca bezpośrednią odpowiedź tekstową. Jeśli napotkasz błąd 401, zweryfikuj swój klucz API. Błąd 402 oznacza niewystarczający przedpłacony kredyt.

Kopiujcurl https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integracja z Python SDK

Użyj oficjalnej biblioteki Python do interakcji z API. Zainicjuj klienta, podając bazowy adres URL i klucz API. Składnia odzwierciedla strukturę standardowego klienta OpenAI.

To podejście pozwala wymienić dostawcę bez przepisywania logiki biznesowej. Model reaguje na standardowe formaty promptów. Możesz kontrolować długość i losowość wyjścia za pomocą standardowych parametrów.

Kopiujfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapi.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integracja z Node SDK

W środowiskach JavaScript użyj Node SDK. Skonfiguruj baseUrl, aby wskazywał na nasz endpoint API. Zapewnia to poprawne kierowanie wszystkich zapytań do naszych serwerów.

SDK obsługuje automatycznie ponawianie prób i parsowanie odpowiedzi. Możesz przekazać standardowe parametry uzupełnienia. Obiekt odpowiedzi zawiera wygenerowany tekst w oczekiwanej lokalizacji.

Kopiujimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapi.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając parametr stream na true. API zwraca fragmenty za pomocą Server-Sent Events (SSE). Każdy fragment zawiera częściowy tekst i statystyki użycia.

Ta metoda zmniejsza postrzeganą opóźnienie dla długich odpowiedzi. Możesz przetwarzać tokeny w miarę ich przybywania. Ostatni fragment zawiera całkowitą liczbę tokenów do rozliczenia.

Kopiujstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, błędy i kontekst

Okno kontekstu obsługuje łącznie 100 000 tokenów, z maksymalną odpowiedzią wynoszącą 32 000 tokenów. Zapytania przekraczające limit 8 MB treści zapytania zakończą się niepowodzeniem. Jesteś ograniczony do 300 zapytań na minutę i 8 równoległych zapytań na klucz.

Błąd 401 oznacza nieprawidłowy klucz. Błąd 402 oznacza, że nie pozostał żaden przedpłacony kredyt. Błąd 429 sygnalizuje limit zapytań. Kredyt nigdy nie wygasa, a błędy nie zużywają tokenów. Prywatność jest zachowana; prompty nie są używane do trenowania.