API FAQ: 키 발급부터 오류 해결까지

시작하기

첫 번째 키는 어떻게 받습니까?

API 키 발급 페이지에서 이메일과 비밀번호로 회원가입하세요. 회원가입이 완료되면 API 키가 즉시 화면에 표시됩니다. 결제 정보를 전혀 입력할 필요가 없으며, API 키를 복사해 환경 변수에 설정하면 바로 호출할 수 있습니다.

계당 몇 개의 키를 가질 수 있습니까?

계정당 하나의 키를 제공합니다. 키가 필요할 때 재생성할 수 있지만 주의하세요: 재생성하면 이전 키가 즉시 무효화되며, 이전 키를 사용하는 모든 서비스에서 401 오류를 수신하게 됩니다. 따라서 새 키 배포 절차를 준비한 후 작업하세요.

엔드포인트 주소와 모델 이름은 무엇입니까?

주소는 https://api.llmzhongzhuan.com/v1，对话请求发往 /v1/chat/completions이며, 모델 목록은 GET /v1/models로 확인하십시오. 모델 이름은 하나뿐이며 uncensored로 표기됩니다.

기존 OpenAI 코드를 어떻게 수정해야 합니까?

보통 두 가지 부분만 수정하면 됩니다: base_url을 위 주소로 바꾸고, API 키를 사이트의 키로 변경한 뒤, model 필드를 uncensored로 변경하세요. 요청 및 응답 구조는 OpenAI Chat Completions 형식을 유지하므로 대부분의 코드 변경이 필요 없습니다. 프레임워크별 설정 방법은 프레임워크 설정을 참조하세요.

크레딧 및 청구

무료 체험 크레딧은 얼마나 제공되며, 어떻게 계산됩니까?

신규 계정에는 0.50달러가 제공되며, 유효 기간은 7일입니다. 입력 토큰 100만 개당 0.25달러, 출력 토큰 100만 개당 1.00달러로 계산됩니다. 각 요청의 입력이 800 토큰, 출력이 400 토큰이라고 가정하면, 한 번의 요청 비용은 약 0.0006달러이며, 무료 체험 크레딧으로는 약 800회 이상의 요청이 가능합니다. 이는 가정 기반의 추정치이며, 실제 횟수는 프롬프트 길이에 따라 달라집니다.

충전 후 잔액은 만료됩니까?

아닙니다. 충전하는 것은 선불 크레딧이며, 구독이 없으며, 만료 시 소진되는 규칙도 없습니다. 주의해야 할 것은 무료 체험 크레딧으로, 이는 7일 후 만료됩니다.

한 번의 요청 비용은 어떻게 확인합니까?

응답에는 usage 필드가 포함되어 있으며, 여기에는 입력 및 출력 토큰 수가 포함되어 있습니다. 스트리밍 요청의 경우, 마지막에 usage를 포함하는 추가 청크가 자동으로 생성됩니다. 이 두 숫자에 단가를 곱하면 해당 요청의 비용이 산출됩니다. 로깅 방법은 안정성 실무을 참조하십시오.

전체 가격은 어디서 확인합니까?

가격은 가격 책정 페이지을 기준으로 합니다. 페이지에는 입력 및 출력 두 가지 등급의 단가가 명시되어 있으며, 숨겨진 사용 횟수 기반 비용은 없습니다.

오류 및 속도 제한

402 오류는 무엇을 의미합니까?

오류 코드는 no_credit이며, 계정 잔액이 모두 소진되었거나 무료 체험 크레딧이 만료되었음을 의미합니다. 해결책은 단 하나입니다: 선불 크레딧을 충전하십시오. 이 오류는 재시도하지 마십시오. 재시도해도 성공하지 못하며, 불필요한 요청만 생성됩니다.

429 오류는 어떻게 처리합니까?

각 API 키는 분당 최대 300개의 요청을 처리할 수 있으며, 초과 시 429 오류가 발생합니다. 전송 속도를 낮추고 랜덤 지터가 포함된 백오프 재시도를 추가하세요. 배치 처리의 경우 동시 요청 한계와 미터기를 사용해 전송을 평준화하는 것이 좋으며, 예제 코드는 안정성 문서에서 확인할 수 있습니다.

503 upstream_busy는 고장입니까?

영구 고장이 아닙니다. 이는 서비스가 일시적으로 바쁨을 의미합니다. 몇 초 후 재시도하면 일반적으로 성공하므로, 지수 백오프를 사용하고 최대 재시도 횟수를 제한하는 것을 권장합니다.

403 content_blocked은 무엇입니까?

이번 요청에서 콘텐츠 필터링이 활성화되었음을 알립니다. 미성년자가 포함된 성 콘텐츠는 가상 또는 역할극 여부 없이 모두 403 오류를 반환합니다. 403 오류 발생 시 재시도하지 마시고 요청 내용을 확인하여 수정하십시오.

기능 한계

컨텍스트 창은 얼마나 길며, 출력은 얼마나 길게 작성할 수 있습니까?

컨텍스트 창 총 길이는 100,000 토큰이며, 입력과 출력의 합계가 이를 초과할 수 없습니다. max_tokens 기본값은 2048이며, 단일 요청의 최대값은 32,000으로 설정할 수 있습니다. 입력과 max_tokens의 합이 한도를 초과하면 400 오류가 반환되므로, 긴 텍스트 작성 시 입력에 충분한 공간을 남겨두십시오.

스트리밍과 함수 호출을 지원합니까?

모두 지원합니다. stream을 true로 설정하면 SSE 스트리밍 출력을 얻을 수 있습니다. 함수 호출은 OpenAI의 tools 형식을 따릅니다. temperature, top_p, stop 등의 일반적인 샘플링 매개변수는 전달됩니다.

벡터, 이미지 생성 또는 음성을 수행할 수 있습니까?

불가능합니다. 본 사이트는 텍스트 대화만 제공하며, 벡터, 이미지, 오디오, 비디오 및 파인튜닝을 제공하지 않습니다. 또한 모델은 하나뿐입니다. 이러한 기능이 비즈니스에 필요한 경우 다른 솔루션을 추가로 구성해야 합니다.

요청 본문에 크기 제한이 있습니까?

있습니다. 단일 요청 본문의 크기는 8 MB를 초과할 수 없습니다. 긴 문서를 프롬프트에 포함할 때는 토큰 수뿐만 아니라 전체 바이트 수도 주의하십시오.

운영 및 일상 유지보수

본격적인 운영 전에 가장 먼저 해야 할 일은 무엇입니까?

먼저 /v1/models로 모델 목록을 확인하고, 긴 입력, 스트리밍, 오류 경로가 포함된 테스트를 실행하세요. 그런 다음 402, 429, 503 오류에 대한 처리 분기를 작성하고 사용량을 저장하세요. 마지막으로 임계값을 설정해 피크 시간대에 크레딧이 바닥나는 것을 방지하세요. 이러한 확인 항목을 릴리스 프로세스에 포함하고 담당자가 항목별로 확인하도록 하세요.

운영 환경에서 모든 응답이 401을 반환할 때 먼저 무엇을 확인해야 합니까?

먼저 백엔드에서 API 키가 재생성되었는지 확인하세요. 키가 재생성되면 기존 키는 즉시 무효화됩니다. 또한 환경 변수가 최근 릴리스에서 손실되었는지, 또는 키에 공백이나 줄바꿈이 혼입되었는지 확인하세요. 현재 유효한 키를 하나의 장소에만 저장하면 이러한 조사 작업의 대부분을 생략할 수 있습니다.

여러 서비스가 하나의 API 키를 공유할 때 주의해야 할 점은 무엇입니까?

속도 제한은 API 키별로 집계되므로 모든 서비스의 요청 합계가 분당 300회를 초과할 수 없습니다. 하나의 배치 작업이 할당량을 모두 소모하면 온라인 서비스에도 429 오류가 반환됩니다. 배치 작업에 별도의 속도 제한을 설정하고 온라인 요청의 우선순위를 높이며, 필요시 배치 작업을 야간에 분산하여 실행하는 것을 권장합니다.

예상치 못한 비용 초과를 어떻게 방지할 수 있습니까?

출력 토큰의 단가는 입력의 4배이므로 max_tokens와 프롬프트에서 요구하는 분량을 우선적으로 제어하세요. 기능별로 usage를 집계하여 특정 기능의 평균 출력량이 갑자기 두 배로 증가하면 프롬프트 변경이 원인인지 확인하세요. 선불 크레딧 방식은 잔액이 소진되면 서비스가 중단되므로 예상치 못한 초과 요금이 발생하지 않습니다.

콘텐츠 및 개인정보

어떤 콘텐츠가 허용됩니까?

합법적인 성인 콘텐츠, 픽션 및 논쟁적인 주제는 직접 거부되지 않으며, 서비스는 18세 이상 성인 사용자를 대상으로 합니다. 미성년자가 관련된 성 콘텐츠는 항상 차단됩니다. 해당 서비스의 비용과 트레이드오프에 대해서는 무제한 AI API의 비용과 트레이드오프를 참조하세요.

내 프롬프트가 학습에 사용됩니까?

아니요, 프롬프트는 학습에 사용되지 않습니다. 이 페이지는 그 외의 저장 또는 로그 세부 사항에 대해 명시하지 않으므로 문서를 참조하세요.

이 서비스와 집계형 중계 서비스의 차이점은 무엇입니까?

본 사이트는 하나의 모델만 제공하므로 많은 모델 이름을 매핑할 필요가 없으며, 모델 목록은 /v1/models 엔드포인트를 통해 직접 확인할 수 있습니다. 중계 서비스의 일반적인 원리와 위험을 이해하려면 중계 원리를 먼저 읽어보시기 바랍니다.