Sansürsüz büyük dil modeli API'sini hızlıca entegre edin

Temel Yapılandırma

API ara sunucusu ile bağlantı kurmanın özü, Base URL ve kimlik doğrulama bilgilerini doğru yapılandırmaktır. Hizmetimiz OpenAI protokolüyle tamamen uyumludur; Base URL'yi https://api.llmzhongzhuan.com/v1 olarak ayarlayıp istek başlıklarına API anahtarınızı eklemeniz yeterlidir.

Her hesap için yalnızca bir API anahtarı atanır ve bu anahtar kayıt sırasında hemen gösterilir. Değiştirmek isterseniz arka uçta yeniden oluşturabilirsiniz; eski anahtar hemen geçersiz kılınır. Bu tasarım, erişim güvenliğini sağlayarak yetkilendirme akışını basitleştirir. Çoklu anahtar paralel yönetimini desteklemediğimiz için, uygulama mimarinize göre anahtarlarınızı uygun şekilde korumanız önerilir.

Üretici Sohbet Arayüzü

Standart sohbet arayüzü POST /v1/chat/completions konumundadır. İstek gövdesi model (uncensored olarak sabitlenmiş), messages dizisi ve isteğe bağlı parametreler içermelidir. Bu arayüz, tam döndürme sonuçları gerektiren senaryolar için uygun olan akışsız yanıtları destekler.

Model, bağımsız olarak dağıtılmış yüksek performanslı GPU sunucuları üzerinde çalışır ve bağlam penceresi 100.000 tokena kadar çıkar. Uzun metin işleme veya karmaşık talimat izleme fark etmez, kararlı bir yerel API erişim deneyimi sunar.

复制curl https://api.llmzhongzhuan.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Akışlı Yanıt (SSE)

Gerçek zamanlı geri bildirim gerektiren uygulamalar için stream: true parametresini etkinleştirerek Sunucu Tarafından Gönderilen Olaylar (SSE) aracılığıyla parçalı yanıtlar alabilirsiniz. Akış, ilk bayt gecikmesini (TTFT) önemli ölçüde azaltır ve kullanıcı deneyimini iyileştirir.

Sunucu, yanıt sona erene kadar JSON parçalarını sürekli olarak iter. İstemci, tam metni oluşturmak için bu parçaları birleştirmelidir. Bu mod, verilerin son kullanıcıya hızlı ulaşmasını sağlayarak sohbet robotları veya gerçek zamanlı içerik oluşturma senaryoları için uygundur.

复制from openai import OpenAI

client = OpenAI(base_url="https://api.llmzhongzhuan.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Model Listesi Sorgulama

GET /v1/models ile mevcut model listesini alabilirsiniz. İstek, id, object ve owned_by alanlarını içeren standart bir JSON yanıtı döndürür.

Şu anda yalnızca bir model kimliği mevcuttur: uncensored. Bu model, açık ağırlıklı bir modeldir; içerik sansürünü kaldırmak için özel olarak ince ayarlanmıştır ve yetişkin içerikler, güvenlik araştırmaları ve tartışmalı konular için uygundur. Gömme (Embedding) veya çok modlu oluşturma hizmetleri sağlamadığımıza lütfen dikkat edin; saf metin sohbetine odaklanıyoruz.

复制import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmzhongzhuan.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Hata İşleme ve Hız Limiti

Hizmet standart HTTP durum kodu düzenini izler. 401 Unauthorized API anahtarının geçersiz olduğunu; 402 Payment Required hesabın bakiyesinin yetersiz olduğunu ve isteklere devam etmek için bakiye yüklemeniz gerektiğini gösterir; 429 Too Many Requests hız limitinin tetiklendiğini gösterir; mevcut hız limiti dakikada 300 istektir.

Ayrıca, tek bir istek gövdesinin boyutu 8 MB ile sınırlıdır. Hız limitine takılırsanız üstel geri çekilme stratejisiyle yeniden deneme yapmanız önerilir. Sansürsüz AI hizmetimiz, yüksek veri işleme hızını korurken kaynak dağılımının adil olmasını sağlar.

复制stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Örnek Kodlar

Aşağıda Python SDK ile akışlı istekler için tam bir örnek verilmiştir. Kod, istemciyi başlatmayı, mesaj geçmişini oluşturmayı ve SSE veri akışını işlemeyi gösterir.

openai kütüphanesinin yüklü olduğundan emin olun ve YOUR_API_KEY yerine gerçek anahtarınızı yazın. Bu örnek, geliştiricilerin mevcut sistemlerine hızlıca entegre edebilmesi için api ara sunucusu arayüzü üzerinden sınırsız AI'nın gerçek zamanlı üretim sonuçlarını nasıl alacağını gösterir.