ผสานรวม API โมเดลภาษาขนาดใหญ่แบบไม่เซ็นเซอร์อย่างรวดเร็ว

การกำหนดค่าพื้นฐาน

หัวใจสำคัญของการเชื่อมต่อ API gateway คือการกำหนดค่า Base URL และ凭证การตรวจสอบสิทธิ์ให้ถูกต้อง บริการของเราเข้ากันได้กับโปรโตคอล OpenAI อย่างสมบูรณ์ คุณเพียงแค่ตั้งค่า Base URL เป็น https://api.llmzhongzhuan.com/v1 และแนบ API Key ของคุณในหัวขอ HTTP เท่านั้น

แต่ละบัญชีจะได้รับ API Key เพียงคีย์เดียว ซึ่งจะแสดงทันทีหลังการลงทะเบียน หากต้องการเปลี่ยน สามารถสร้างใหม่ในแผงควบคุม โดยคีย์เก่าจะหมดอายุทันที การออกแบบนี้ช่วยทำให้กระบวนการตรวจสอบสิทธิ์ง่ายขึ้น และรับประกันความปลอดภัยในการเข้าถึง เราไม่รองรับการจัดการคีย์หลายคีย์แบบขนาน แนะนำให้เก็บรักษาคีย์อย่างเหมาะสมตามสถาปัตยกรรมแอปพลิเคชันของคุณ

อินเทอร์เฟซการสนทนาแบบสร้างได้

อินเตอร์เฟซการสนทนามาตรฐานอยู่ที่ POST /v1/chat/completions ร่างคำขอต้องประกอบด้วย model (คงที่เป็น uncensored), messages อาร์เรย์ และพารามิเตอร์เสริม อินเตอร์เฟซนี้รองรับการตอบกลับแบบไม่สตรีมมิง เหมาะสำหรับสถานการณ์ที่ต้องการผลลัพธ์ครบถ้วน

โมเดลทำงานบนเซิร์ฟเวอร์ GPU ประสิทธิภาพสูงที่ติดตั้งแยกต่างหาก มีหน้าต่างบริบทสูงถึง 100,000 โทเคน ไม่ว่าการประมวลผลข้อความยาวหรือการปฏิบัติตามคำสั่งที่ซับซ้อน จะให้ประสบการณ์การเข้าถึง API ดั้งเดิมที่เสถียร

复制curl https://api.llmzhongzhuan.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การตอบสนองแบบสตรีม (SSE)

สำหรับแอปพลิเคชันที่ต้องการการตอบกลับแบบเรียลไทม์ ให้เปิดใช้งานพารามิเตอร์ stream: true เพื่อรับ chunked response ผ่าน Server-Sent Events (SSE) การสตรีมมิงช่วยลดความล่าช้าในการส่งคำแรก (TTFT) อย่างมีนัยสำคัญ และยกระดับประสบการณ์ผู้ใช้

เซิร์ฟเวอร์จะส่งข้อมูล JSON ทีละส่วนอย่างต่อเนื่องจนกว่าการตอบสนองจะสิ้นสุด ไคลเอนต์ต้องนำข้อมูลเหล่านี้มาประกอบกันเพื่อสร้างข้อความสมบูรณ์ โหมดนี้เหมาะมากสำหรับแชทบอทหรือสถานการณ์การสร้างเนื้อหาแบบเรียลไทม์ เพื่อให้แน่ใจว่าข้อมูลจะถึงผู้ใช้ปลายทางอย่างรวดเร็ว

复制from openai import OpenAI

client = OpenAI(base_url="https://api.llmzhongzhuan.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การสอบถามรายการโมเดล

สามารถรับรายการโมเดลที่มีอยู่ในปัจจุบันผ่าน GET /v1/models คำขอจะส่งคืนการตอบสนอง JSON มาตรฐานที่มีฟิลด์ id, object และ owned_by เป็นต้น

ปัจจุบันมีเพียง ID โมเดลเดียวคือ: uncensored โมเดลนี้เป็นโมเดลแบบเปิดน้ำหนัก ซึ่งได้รับการปรับแต่งพิเศษเพื่อลบการเซ็นเซอร์เนื้อหา เหมาะสำหรับเนื้อหาสำหรับผู้ใหญ่ การวิจัยด้านความปลอดภัย และหัวข้อถกเถียง โปรดทราบว่าเราไม่ให้บริการ Embedding หรือการสร้างมัลติโมดัล โดยมุ่งเน้นที่การสนทนาข้อความล้วน

复制import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmzhongzhuan.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การจัดการข้อผิดพลาดและขีดจำกัดอัตรา

บริการปฏิบัติตามมาตรฐานรหัสสถานะ HTTP 401 Unauthorized หมายถึง API Key ไม่ถูกต้อง; 402 Payment Required หมายถึงยอดคงเหลือในบัญชีไม่เพียงพอ ต้องเติมเงินก่อนจึงจะส่งคำขอต่อได้; 429 Too Many Requests หมายถึงเกินขีดจำกัดอัตรา โดยจำกัดไว้ที่ 300 คำขอต่อนาที

นอกจากนี้ ขนาดของ request body ต่อคำขอจำกัดไว้ที่ 8 MB หากพบ rate limit แนะนำให้ใช้กลยุทธ์การลองซ้ำแบบ exponential backoff บริการ AI ไม่เซ็นเซอร์ของเรารักษา throughput สูงไปพร้อมกันกับการกระจายทรัพยากรอย่างเป็นธรรม

复制stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ตัวอย่างโค้ด

นี่คือตัวอย่างที่สมบูรณ์สำหรับการส่งคำขอแบบสตรีมโดยใช้ Python SDK โค้ดแสดงวิธีการเริ่มต้นไคลเอนต์ สร้างประวัติข้อความ และจัดการสตรีมข้อมูล SSE

โปรดตรวจสอบให้แน่ใจว่าได้ติดตั้งไลบรารี openai แล้ว และแทนที่ YOUR_API_KEY ด้วยคีย์จริง ตัวอย่างนี้แสดงให้เห็นอย่างชัดเจนว่าวิธีการรับผลลัพธ์การสร้างแบบเรียลไทม์จาก api zhongzhuan สำหรับโมเดลที่ไม่มีการเซ็นเซอร์ เพื่อช่วยให้ผู้พัฒนาสามารถผสานรวมเข้ากับระบบที่มีอยู่ได้อย่างรวดเร็ว