Wat is een API-middelpunt: werking, veelvoorkomende risico's en selectielijst

Het pad van een verzoek door de gateway

Laten we eerst de terminologie helder hebben. Een 'API-gateway' is een gateway die je plaatst tussen je applicatie en de backend die het model draait. Je code stuurt nog steeds requests in OpenAI-formaat, maar je wijst base_url naar het gateway-adres en gebruikt de key die de gateway je geeft.

De gateway voert in deze hop meestal drie taken uit.

• Requestforwarding: controleert de requestbody, vult optioneel standaardparameters in en stuurt het verzoek naar de backend; de response (inclusief streaming SSE chunks) wordt naar jou teruggestuurd, eventueel licht bewerkt.
• Key-mapping: jij bezit een sleutel uitgegeven door de gateway, die alleen binnen de gateway geldig is. De gateway identificeert hiermee wie jij bent, je saldo en welke modellen je kunt aanroepen; de werkelijke credentials voor de backend blijven intern en verschijnen niet in jouw code.
• Facturatie en rate limit: na elk verzoek trekt de gateway het saldo af op basis van het aantal input- en output-tokens vermenigvuldigd met de prijs, en telt het het aantal requests per minuut per sleutel. Bij overschrijding wordt een 429-fout geretourneerd.

Als je deze drie elementen aan elkaar koppelt, begrijp je waarom de ervaring bij middelpunten sterk varieert: de implementatie van de forwardinglaag bepaalt de latency-jitter en stabiliteit van streaming, de key-laag bepaalt het verlies bij lekken, en de facturatielaag bepaalt of de facturen transparant en controleerbaar zijn.

Verschil met directe verbinding met een single-model dienst

Een directe dienst betekent dat je rechtstreeks requests stuurt naar de officiële domeinnaam van de modelprovider, waarbij meestal één account correspondeert met één set modellen, één facturatiemodel en één documentatie. Middelpuntdiensten hebben twee veelvoorkomende vormen, het verschil zit 'm in 'hoeveel er achter is gekoppeld'.

Dimensie	Directe single-dienst	Geaggregeerd middelpunt	Single-model middelpunt
Aantal modellen	Een paar van de provider zelf	Tientallen tot honderden	Eén
Interfaceformaat	Eigen formaat per provider	Uniform gemaakt tot OpenAI-compatible	OpenAI-compatible
Foutopsporingsmoeilijkheid	Laagste, kortste keten	Hoogst, veel modelnaam-mappings	Laag, slechts één model
Geschikt voor	Stabiele business die één provider gebruikt	Vaak wisselen van model voor vergelijking	Vast model, voorspelbaar

Als je business afhankelijk is van slechts één model, zijn de voordelen van aggregatie niet van toepassing en loop je het risico van onzekerheid over 'welk model bij welke naam hoort'. Omgekeerd bespaart een geaggregeerde dienst veel adapter-werk als je wekelijks modellen wilt vergelijken. Er is geen absoluut voor- of nadeel; het is belangrijk om te weten tot welke categorie jij behoort.

Deze site valt in de laatste categorie: we bieden slechts één model met model id uncensored via een OpenAI-compatible chat completion interface. Voor discussies over trade-offs en kosten, zie Kosten en afwegingen van onbeperkte AI API's.

Drie veelvoorkomende risico's

Sleutelbeveiliging

Een middelpuntsleutel is gelijk aan een prepaid tegoedkaart: wie hem heeft, kan je saldo uitgeven. Veelvoorkomende lekpaden zijn: sleutels in frontend-code plaatsen, commiten naar publieke repositories, of plakken in tickets of groepschats. Plaats ze alleen in server-side environment variables; laat de frontend altijd via jouw backend forwarden. Bij vermoeden van lekken direct resetten; de oude sleutel moet onmiddellijk ongeldig worden. Controleer ook of de dienst zelfservice reset toestaat en of de oude sleutel direct vervalt, en niet pas 'na een paar uur'.

Modelvervanging

Dit is de meest besproken vraag in aggregatiediensten: je vraagt A aan, maar krijgt B terug. Dit is moeilijk aan de hand van documentatie te controleren; je moet het via gedrag valideren. Je kunt een vaste set vragen met bekende antwoorden gebruiken en de temperature constant houden om te testen of de outputstijl stabiel blijft. Je kunt ook /v1/models aanroepen om te zien of de lijst overeenkomt met de prijzenpagina. Vage modelnamen en grote prestatieverschillen voor dezelfde naam zijn waarschuwingssignalen.

Ontransparante rate limits

Sommige diensten vermelden in de documentatie alleen 'redelijk gebruik', maar vertragen stiekem tijdens piekuren of dropen requests, wat zich voor jouw applicatie uit als sporadische time-outs. Een volwassen aanpak is het specificeren van het aantal requests per minuut per sleutel en het retourneren van een gestandaardiseerde 429 bij overschrijding, in plaats van verbindingen hangend te laten. Vraag bij selectie duidelijk na: wordt de rate limit per sleutel of per account berekend, welke foutcode je krijgt bij overschrijding, en of er een aparte foutcode komt als je saldo op is.

Checklist voor het kiezen van een doorloosdienst

Deze lijst kun je direct kopiëren naar je evaluatiedocument en punt voor punt afvinken.

1. Wordt er een openbare GET /v1/models aangeboden, waarbij de lijst met modellen overeenkomt met de prijzenpagina?
2. Zijn foutresponsen gestructureerde JSON met een code en een message, waarbij 401, 402, 429 en 503 elk een eigen code hebben?
3. Staat het maximum aantal verzoeken per minuut per sleutel in de documentatie en niet alleen in de mond van de klantenservice?
4. Zijn er duidelijke cijfers voor de contextlengte, het maximale aantal uitvoer-tokens per verzoek en de grootte van het request body?
5. Wordt er precies afgerekend op basis van het aantal tokens in de usage, en kun je het saldo altijd bekijken?
6. Vervalt het saldo vooraf betaald? Is de geldigheidsduur van het proeftegoed duidelijk vermeld?
7. Zijn sleutels zelf te resetten en vervallen oude sleutels direct?
8. Wordt streaming ondersteund, en bevat het laatste antwoord usage-statistieken zodat je zelf je verbruik kunt controleren?
9. Is er een duidelijke uitspraak over of prompts worden gebruikt voor training?
10. Zijn niet-ondersteunde mogelijkheden (zoals vector, afbeelding, spraak) eerlijk vermeld en niet vaag beschreven?

Een perfect score is niet realistisch, maar als je bij de eerste vijf punten twee vragen niet kunt beantwoorden, raden we aan eerst een kleine test te doen met een klein bedrag in plaats van direct een groot saldo op te waarderen.

De verificatie binnen tien minuten na het ontvangen van de sleutel

Het is de moeite waard om voor elke dienst tien minuten uit te trekken voor de basisverificatie voordat je live gaat. Stap één: maak een lijst van modellen en controleer of de geretourneerde id's overeenkomen met je verwachtingen:

复制curl -s https://api.llmzhongzhuan.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Stap twee: stuur een klein verzoek en observeer of het usage-veld in de respons aanwezig is en of de aantallen redelijk zijn. In het onderstaande voorbeeld wordt het model gevraagd de datum te herhalen om te zien of het informatie verzint die het niet kan weten. Dit is een ruwe gedragscontrole, geen strenge evaluatie:

复制curl -s https://api.llmzhongzhuan.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "用一句话介绍你自己，然后复述今天的日期是几号。"}],
    "max_tokens": 200
  }' 

Neem deze twee stappen op in je deploy-script en voer ze uit elke keer dat je van sleutel of dienst wisselt. Als er geen usage in de respons staat, of als de usage-cijfers duidelijk niet overeenkomen met de invoerlengte, wijst dit op een gebrek aan transparantie in de facturatie. Verduidelijk dit voordat je een groot bedrag stort. Voor meer informatie over integratie in verschillende frameworks, zie Framework-configuratiegids.

Parameters van deze site, ter vergelijking met de checklist

Hier vind je de actuele parameters van onze site, zodat je de checklist punt voor punt kunt afvinken zonder steeds door de documentatie te hoeven bladeren.

• API-adres: https://api.llmzhongzhuan.com/v1, ondersteunt POST /v1/chat/completions en GET /v1/models, authenticatie met Bearer-sleutel.
• Er is slechts één model met id uncensored; alleen tekst, geen vector, afbeelding, spraak, video of fine-tuning.
• Contextlengte van 100.000 tokens (invoer plus uitvoer), max_tokens standaard 2048, maximaal 32.000 per keer; request body niet groter dan 8 MB.
• 300 verzoeken per minuut per sleutel, bij overschrijding retourneert de API 429; 503 met upstream_busy betekent dat je het later opnieuw moet proberen; 402 met no_credit bij leeg saldo of verlopen proeftegoed.
• Prijzen: $0,25 per miljoen invoer-tokens, $1,00 per miljoen uitvoer-tokens. Vooraf betalen, geen abonnement, saldo vervalt niet.
• Prompts worden niet gebruikt voor training.

De specifieke bedragen zijn zoals vermeld op de prijzenpagina en in de documentatie. Nieuwe accounts krijgen 0,50 USD aan testtegoed, geldig voor 7 dagen. Je hoeft bij registratie geen betaalgegevens in te vullen en kunt deze eerst gebruiken om de bovenstaande verificatiestappen af te ronden.