Szybka integracja API dużego modelu bez cenzury

Podstawowa konfiguracja

Kluczem do podłączenia się do API relay jest poprawna konfiguracja Base URL i poświadczeń. Nasza usługa jest w pełni zgodna z protokołem OpenAI; wystarczy ustawić Base URL na https://api.llmzhongzhuan.com/v1 i dodać nagłówek z kluczem API.

Każdemu kontu przypisany jest dokładnie jeden klucz API, który jest wyświetlany natychmiast po rejestracji. Jeśli chcesz go zmienić, wygeneruj nowy w panelu; stary zostanie natychmiast unieważniony. To upraszcza proces uwierzytelniania i zapewnia bezpieczeństwo dostępu. Nie obsługujemy równoległego zarządzania wieloma kluczami; zalecamy bezpieczne przechowywanie kluczy zgodnie z architekturą Twojej aplikacji.

Interfejs generatywnego dialogu

Standardowy interfejs dialogu znajduje się pod POST /v1/chat/completions. Treść żądania musi zawierać model (ustawiony na uncensored), tablicę messages oraz parametry opcjonalne. Interfejs obsługuje odpowiedzi niestrumieniowe, co jest odpowiednie dla scenariuszy wymagających pełnego wyniku.

Model działa na niezależnie zainstalowanych serwerach GPU o wysokiej wydajności, z oknem kontekstu do 100,000 tokenów. Zapewnia stabilne, natywne połączenie API zarówno przy długich tekstach, jak i złożonych instrukcjach.

复制curl https://api.llmzhongzhuan.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Odpowiedź strumieniowa (SSE)

W aplikacjach wymagających natychmiastowej informacji zwrotnej włącz parametr stream: true, aby otrzymywać odpowiedzi w blokach za pomocą Server-Sent Events (SSE). Strumieniowanie znacząco redukuje opóźnienie pierwszego znaku (TTFT), poprawiając doświadczenie użytkownika.

Serwer nieprzerwanie przesyła fragmenty JSON, aż do zakończenia odpowiedzi. Klient musi samodzielnie złożyć te fragmenty, aby wygenerować pełny tekst. Tryb ten jest idealny do chatbotów lub generowania treści w czasie rzeczywistym, zapewniając szybkie dotarcie danych do użytkowników końcowych.

复制from openai import OpenAI

client = OpenAI(base_url="https://api.llmzhongzhuan.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Lista modeli

Poprzez GET /v1/models możesz pobrać listę dostępnych modeli. Żądanie zwróci standardową odpowiedź JSON zawierającą pola id, object oraz owned_by.

Obecnie dostępny jest tylko jeden model: uncensored. Jest to model o otwartych wagach, dostrojony w celu usunięcia cenzury treści, idealny do treści dla dorosłych, badań nad bezpieczeństwem i kontrowersyjnych tematów. Nie oferujemy embeddingów ani usług multimodalnych; skupiamy się na czystej konwersacji tekstowej.

复制import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmzhongzhuan.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Obsługa błędów i limit zapytań

Usługa przestrzega standardowych kodów stanu HTTP. 401 Unauthorized oznacza nieprawidłowy klucz API; 402 Payment Required oznacza niewystarczające środki na koncie — do kontynuacji żądań konieczne jest doładowanie; 429 Too Many Requests oznacza przekroczenie limitu zapytań, który wynosi obecnie 300 żądań na minutę.

Dodatkowo, maksymalny rozmiar treści żądania wynosi 8 MB. W przypadku przekroczenia limitu zalecamy zastosowanie strategii ponawiania z wykładniczym opóźnieniem. Nasza usługa AI bez cenzury zapewnia sprawiedliwy podział zasobów przy jednoczesnym utrzymaniu wysokiej przepustowości.

复制stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Przykłady kodu

Poniżej znajduje się kompletny przykład żądania strumieniowego za pomocą Python SDK. Kod pokazuje, jak zainicjować klienta, zbudować historię wiadomości i przetworzyć strumień danych SSE.

Upewnij się, że zainstalowano bibliotekę openai i zamień YOUR_API_KEY na właściwy klucz. Przykład pokazuje, jak uzyskać nieograniczone wyniki generowania AI przez api relay, co ułatwia programistom szybką integrację z istniejącymi systemami.