Hướng dẫn nhanh cho người dùng GLM

Cài đặt và Cấu hình

Để bắt đầu, hãy đảm bảo bạn đã cài đặt SDK OpenAI chính thức cho ngôn ngữ của bạn. API sử dụng cơ chế xác thực dựa trên tiêu chuẩn. Bạn phải đặt tiêu đề Authorization thành Bearer your-api-key và định cấu hình base URL thành https://api.glmapi.cc/v1. URL này hoạt động với bất kỳ ứng dụng khách nào hỗ trợ định dạng Chat Completions của OpenAI.

Không cần khởi tạo ứng dụng khách đặc biệt ngoài cấu hình tiêu chuẩn. Dịch vụ hoạt động như một giải pháp thay thế trực tiếp cho các tích hợp OpenAI hiện có. Bạn có thể xác minh thiết lập của mình bằng cách kiểm tra endpoint mô hình có sẵn.

Yêu cầu đầu tiên

Gửi một yêu cầu hoàn thành văn bản đơn giản để kiểm tra kết nối. Sử dụng định danh mô hình uncensored cho mô hình ngôn ngữ lớn chính. API chấp nhận các tham số tiêu chuẩn như max_tokens và temperature.

Yêu cầu này trả về phản hồi văn bản trực tiếp. Nếu gặp lỗi 401, hãy xác minh khóa API của bạn. Lỗi 402 cho biết tín dụng trả trước không đủ.

Sao chépcurl https://api.glmapi.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Tích hợp SDK Python

Sử dụng thư viện Python chính thức để tương tác với API. Khởi tạo ứng dụng khách với base URL và khóa API của bạn. Cú pháp giống với cấu trúc ứng dụng khách OpenAI tiêu chuẩn.

Cách tiếp cận này cho phép bạn thay đổi nhà cung cấp mà không cần viết lại logic kinh doanh. Mô hình phản hồi theo các định dạng prompt tiêu chuẩn. Bạn có thể kiểm soát độ dài và tính ngẫu nhiên của đầu ra thông qua các tham số tiêu chuẩn.

Sao chépfrom openai import OpenAI

client = OpenAI(base_url="https://api.glmapi.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tích hợp SDK Node.js

Đối với môi trường JavaScript, hãy sử dụng SDK Node.js. Định cấu hình baseUrl trỏ đến endpoint API của chúng tôi. Điều này đảm bảo tất cả yêu cầu được định tuyến chính xác đến máy chủ của chúng tôi.

SDK tự động xử lý việc thử lại và phân tích phản hồi. Bạn có thể truyền các tham số hoàn tất tiêu chuẩn. Đối tượng phản hồi chứa văn bản được tạo ở vị trí dự kiến.

Sao chépimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.glmapi.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phản hồi truyền phát

Bật truyền phát bằng cách đặt tham số stream thành true. API trả về các chunk qua Server-Sent Events (SSE). Mỗi chunk chứa văn bản một phần và thống kê sử dụng.

Phương pháp này giảm độ trễ cảm nhận được cho các phản hồi dài. Bạn có thể xử lý token khi chúng đến. Chunk cuối cùng bao gồm tổng số token để tính phí.

Sao chépstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token, với tối đa 32.000 token đầu ra. Các yêu cầu vượt quá giới hạn thân 8 MB sẽ thất bại. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa.

Lỗi 401 nghĩa là khóa không hợp lệ. Lỗi 402 cho biết không còn tín dụng trả trước. Lỗi 429 báo hiệu giới hạn tốc độ. Tín dụng không bao giờ hết hạn và lỗi không tiêu thụ token. Quyền riêng tư được duy trì; prompt không được sử dụng để huấn luyện.