FAQ API กลาง: จากขั้นตอนรับคีย์ API ไปจนถึงการตรวจสอบข้อผิดพลาด

เริ่มใช้งาน

จะรับคีย์ API ตัวแรกได้อย่างไร?

เปิดหน้ารับคีย์ API แล้วลงทะเบียนด้วยอีเมลและรหัสผ่าน หลังจากลงทะเบียนเสร็จสิ้น คีย์ API จะแสดงบนหน้าเว็บทันที ไม่ต้องกรอกข้อมูลการชำระเงินใดๆ เพียงคัดลอกคีย์ไปใส่ในตัวแปรสภาพแวดล้อมก็สามารถเริ่มเรียกใช้ API ได้

หนึ่งบัญชีมีคีย์ API ได้กี่ตัว?

หนึ่งบัญชีมีคีย์ API ได้หนึ่งตัว หากต้องการเปลี่ยนสามารถสร้างใหม่ได้ แต่โปรดทราบ: หลังจากสร้างใหม่ คีย์ API เก่าจะหมดอายุทันที บริการที่ใช้คีย์ API เก่าอยู่จะเริ่มได้รับ 401 ดังนั้นควรเตรียมกระบวนการแจกจ่ายคีย์ API ใหม่ให้พร้อมก่อนดำเนินการ

ที่อยู่ API และชื่อโมเดลคืออะไร?

ที่อยู่คือ https://api.llmzhongzhuan.com/v1，对话请求发往 /v1/chat/completions ดูรายชื่อโมเดลผ่าน GET /v1/models มีโมเดลเพียงตัวเดียว ชื่อว่า uncensored

ต้องแก้ไขโค้ด OpenAI ที่มีอยู่อย่างไร?

โดยปกติต้องแก้ไขเพียงสองจุด: เปลี่ยน base_url เป็นที่อยู่ด้านบน เปลี่ยนคีย์ API เป็นคีย์ API ของเว็บไซต์นี้ และเปลี่ยนฟิลด์ model เป็น uncensored โครงสร้างของ request body และ response body ยังคงรูปแบบการเติมข้อความสนทนาของ OpenAI ดังนั้นโค้ดส่วนใหญ่ไม่ต้องเปลี่ยนแปลง ดูวิธีการเขียนเฟรมเวิร์กที่ การกำหนดค่าเฟรมเวิร์ก

เครดิตและการคิดเงิน

เครดิตทดลองใช้มีเท่าไหร่ และคำนวณอย่างไร?

บัญชีใหม่ได้รับเครดิตเริ่มต้น 0.50 ดอลลาร์สหรัฐ ใช้ได้ภายใน 7 วัน คิดอัตราตามอินพุต 0.25 ดอลลาร์สหรัฐ ต่อ 1 ล้านโทเคน และเอาต์พุต 1.00 ดอลลาร์สหรัฐ ต่อ 1 ล้านโทเคน หากสมมติว่าแต่ละคำขอมีอินพุต 800 โทเคน และเอาต์พุต 400 โทเคน ค่าใช้จ่ายต่อครั้งจะอยู่ที่ประมาณ 0.0006 ดอลลาร์สหรัฐ เครดิตทดลองใช้จึงสามารถส่งคำขอขนาดนี้ได้มากกว่า 800 ครั้ง การประมาณการนี้มาจากสมมติฐานข้างต้น โดยค่าใช้จ่ายจริงจะขึ้นอยู่กับความยาวของพรอมต์ของคุณ

ยอดเงินจะหมดอายุหลังจากเติมเงินหรือไม่?

ไม่ การเติมเงินคือเครดิตแบบเติมเงินล่วงหน้า ไม่มีระบบสมาชิก และไม่มีกฎการล้างยอดเมื่อครบกำหนด สิ่งที่ต้องระวังมีเพียงเครดิตทดลองใช้ซึ่งจะหมดอายุหลังจาก 7 วัน

จะทราบได้อย่างไรว่าคำขอหนึ่งครั้งใช้เงินเท่าไหร่?

การตอบสนองจะมีข้อมูล usage ซึ่งระบุจำนวนโทเคนอินพุตและเอาต์พุต เมื่อใช้สตรีมมิง จะมีการส่งชิ้นส่วนสุดท้ายที่รวมข้อมูล usage มาด้วย โดยนำจำนวนโทเคนเหล่านี้คูณกับอัตราค่าใช้บริการเพื่อคำนวณค่าใช้จ่าย สามารถดูตัวอย่างการบันทึกข้อมูลลงไฟล์เพื่อตรวจสอบได้จากการปฏิบัติด้านความเสถียร

ดูราคาเต็มได้ที่ไหน?

ราคาอ้างอิงตาม หน้ากำหนดราคา บนหน้าเว็บระบุราคาต่อหน่วยสำหรับอินพุตและเอาต์พุต ไม่มีค่าใช้จ่ายแฝงตามจำนวนคำขอ

ข้อผิดพลาดและขีดจำกัดอัตรา

402 หมายถึงอะไร?

รหัสข้อผิดพลาดคือ no_credit ซึ่งหมายถึงยอดเงินบัญชีหมดหรือเครดิตทดลองใช้หมดอายุ วิธีแก้ไขมีเพียงวิธีเดียว: เติมเงินเครดิตแบบเติมเงินล่วงหน้า อย่าลองส่งคำขอซ้ำ เพราะจะไม่สำเร็จและจะสร้างคำขอที่ไม่จำเป็น

ต้องจัดการกับ 429 อย่างไร?

คีย์แต่ละคีย์สามารถส่งคำขอได้สูงสุด 300 ครั้งต่อนาที หากเกินจะตอบกลับเป็น 429 ให้ลดอัตราการส่งลงแล้วเพิ่มการลองใหม่แบบ backoff ที่มีการสุ่มค่า jitter แนะนำให้ใช้ขีดจำกัดความพร้อมกันและตัวควบคุมจังหวะ (throttle) เพื่อปรับการส่งให้เรียบสำหรับงานแบบ batch ตัวอย่างโค้ดอยู่ในบทความความเสถียร

503 upstream_busy คือข้อผิดพลาดหรือไม่?

ไม่ใช่ความล้มเหลวถาวร หมายถึงบริการกำลังใช้งานหนาแน่น การลองใหม่หลังจากผ่านไปไม่กี่วินาทีมักจะสำเร็จ แนะนำให้ใช้การถอยหลังแบบเพิ่มระดับ และจำกัดจำนวนการลองสูงสุด

403 content_blocked เกิดจากอะไร?

คำอธิบายว่าคำขอนี้ถูกกรองเนื้อหา หากเป็นเนื้อหาทางเพศที่เกี่ยวข้องกับเด็กไม่ว่าจะเป็นภาพจำลองหรือบทบาทสมมติ จะตอบกลับเป็น 403 เสมอ เมื่อเจอ 403 อย่าลองใหม่ ให้ตรวจสอบและแก้ไขเนื้อหาคำขอ

ขอบเขตความสามารถ

หน้าต่างบริบทยาวแค่ไหน และเอาต์พุตเขียนได้ยาวแค่ไหน?

หน้าต่างบริบทรวมคือ 100,000 โทเคน อินพุตและเอาต์พุตรวมกันต้องไม่เกินค่านี้ max_tokens ตั้งค่าเริ่มต้นที่ 2048 และตั้งค่าสูงสุดต่อครั้งได้ 32,000 หากอินพุตบวก max_tokens เกินขีดจำกัดจะตอบกลับเป็น 400 โปรดเว้นพื้นที่สำหรับอินพุตเมื่อเขียนบทความยาว

รองรับสตรีมมิงและการเรียกใช้ฟังก์ชันหรือไม่?

รองรับทั้งคู่ เพียงตั้งค่า stream เป็น true จะได้รับเอาต์พุตแบบสตรีมมิง; การเรียกใช้ฟังก์ชันใช้รูปแบบ tools ของ OpenAI พารามิเตอร์การสุ่มทั่วไปอย่าง temperature, top_p, stop จะถูกส่งต่อ

สามารถสร้างเวกเตอร์, ภาพ หรือเสียงได้หรือไม่?

ไม่ได้ เว็บไซต์นี้ให้บริการเฉพาะการสนทนาข้อความ ไม่มีเวกเตอร์, ภาพ, เสียง, วิดีโอ และการปรับแต่งโมเดล และมีเพียงโมเดลเดียว หากธุรกิจของคุณต้องการความสามารถเหล่านี้ ต้องใช้โซลูชันอื่นเพิ่มเติม

request body มีข้อจำกัดขนาดหรือไม่?

มี ขนาดของ body ต่อคำขอต้องไม่เกิน 8 MB เมื่อใส่เอกสารยาวลงในพรอมต์ นอกจากจำนวนโทเคนแล้ว ต้องระวังจำนวนไบต์รวมด้วย

การเปิดใช้งานและการบำรุงรักษาประจำวัน

ก่อนเปิดใช้งานจริง ควรทำสิ่งใดบ้าง?

ใช้ /v1/models เพื่อยืนยันรายการโมเดลก่อน แล้วรันการทดสอบที่รวมอินพุตยาว สตรีมมิง และเส้นทางข้อผิดพลาด จากนั้นเขียนโค้ดจัดการสำหรับ 402, 429, 503 ตามลำดับ และบันทึกข้อมูล usage ตั้งค่าแจ้งเตือนเมื่อยอดคงเหลือต่ำ เพื่อหลีกเลี่ยงการพบว่าเครดิตหมดในช่วงเวลาที่มีการใช้งานสูง อย่าลืมรวมการตรวจสอบเหล่านี้ในขั้นตอนการปล่อยเวอร์ชัน โดยให้เพื่อนร่วมทีมที่รับผิดชอบตรวจสอบทีละรายการ

หากออนไลน์ทั้งหมดส่งกลับ 401 ต้องตรวจสอบอะไรเป็นอันดับแรก?

ตรวจสอบก่อนว่ามีใครสร้างคีย์ใหม่ในระบบหลังบ้านหรือไม่ เนื่องจากการสร้างคีย์ใหม่จะทำให้คีย์เดิมหมดอายุทันที ตรวจสอบต่อไปว่าตัวแปรสภาพแวดล้อมหายไปจากการปล่อยเวอร์ชันล่าสุดหรือไม่ หรือคีย์มีการรวมช่องว่างและบรรทัดใหม่ไว้ เก็บคีย์ที่ใช้งานอยู่ในที่เดียวเพื่อลดปัญหาการตรวจสอบเหล่านี้

บริการหลายแห่งใช้คีย์เดียวกัน ควรระวังเรื่องใด?

การจำกัดอัตราถูกคำนวณรวมตามคีย์ ดังนั้นคำขอจากทุกบริการรวมกันต้องไม่เกิน 300 ครั้งต่อนาที หากงานแบทช์งานใดงานหนึ่งใช้โควตาจนเต็ม บริการแบบเรียลไทม์ก็จะได้รับ 429 เช่นกัน แนะนำให้จำกัดอัตราสำหรับงานแบทช์แยกต่างหาก โดยจัดลำดับความสำคัญของคำขอแบบเรียลไทม์ไว้ก่อน และหากจำเป็นให้รันงานแบทช์ในช่วงเวลาที่ไม่ใช่ชั่วโมงเร่งด่วน

จะหลีกเลี่ยงการเกินงบประมาณโดยไม่รู้ตัวได้อย่างไร?

ราคาต่อโทเคนของเอาต์พุตเป็น 4 เท่าของอินพุต ดังนั้นควรควบคุม max_tokens และความยาวของพรอมต์เป็นลำดับแรก คำนวณ usage แยกตามฟีเจอร์ หากค่าเฉลี่ยของเอาต์พุตของฟีเจอร์ใดเพิ่มขึ้นเป็นสองเท่า ให้ตรวจสอบว่าเกิดจากการเปลี่ยนแปลงพรอมต์หรือไม่ ข้อดีของโหมดเติมเงินคือเมื่อเครดิตหมดบริการจะหยุดทำงานทันที ไม่เกิดบิลเกินคาด

เนื้อหาและความเป็นส่วนตัว

อนุญาตเนื้อหาประเภทใดบ้าง?

เนื้อหาสำหรับผู้ใหญ่ที่ถูกต้องตามกฎหมาย งานสร้างสรรค์เชิงสมมติ และหัวข้อที่มีข้อโต้แย้งจะไม่ถูกปฏิเสธโดยตรง บริการนี้มุ่งเน้นไปที่ผู้ใช้ผู้ใหญ่ที่มีอายุ 18 ปีขึ้นไป เนื้อหาทางเพศที่เกี่ยวข้องกับเด็กจะถูกบล็อกเสมอ สำหรับต้นทุนและการแลกเปลี่ยนที่เกี่ยวข้องกับบริการนี้ สามารถอ่าน ต้นทุนและการแลกเปลี่ยนของ API AI แบบไม่เซ็นเซอร์ ได้

พรอมต์ของฉันจะถูกนำไปใช้ฝึกโมเดลหรือไม่?

ไม่ พรอมต์จะไม่ถูกนำไปใช้ฝึกโมเดล นอกจากนี้หน้านี้ไม่ได้ระบุรายละเอียดอื่นเกี่ยวกับการจัดเก็บหรือบันทึกข้อมูล โปรดอ้างอิงตามเอกสารประกอบ

บริการนี้แตกต่างจากบริการรวมลิงก์ (aggregator) อย่างไร?

เว็บนี้ให้บริการโมเดลเพียงโมเดลเดียว จึงไม่มีชื่อโมเดลจำนวนมากที่ต้องทำแมปปิง รายการโมเดลสามารถตรวจสอบได้เองผ่าน /v1/models หากต้องการเข้าใจหลักการและความเสี่ยงทั่วไปของบริการรวมลิงก์ สามารถอ่าน หลักการของบริการรวมลิงก์ ก่อนได้