API 문서

첫 번째 요청 시작하기

클라이언트를 베이스 URL에 연결하고 생성된 API 키로 인증하여 즉시 텍스트 생성을 시작하세요. 인터페이스는 표준 관례를 따르므로 새로운 프로토콜을 배우지 않고도 기존 SDK를 사용할 수 있습니다. 프롬프트를 전송합니다. uncensored 모델을 사용하여 합법적인 성인 사용에 대한 일반적인 콘텐츠 필터를 적용하지 않는 텍스트 응답을 받으세요.

베이스 URL 및 키 구성

요청이 당사 특정 엔드포인트로 라우팅되도록 환경 변수를 설정하세요. 자리 표시자 키를 가입 시 생성된 키로 교체하세요. 이렇게 하면 이후 모든 호출이 올바른 비검열 모델 인스턴스를 사용하도록 보장됩니다.

• Base URL: https://api.nsfwlocalllm.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

모델 엔드포인트를 확인하여 키가 작동하는지 확인할 수 있습니다. 유효한 키는 즉시 사용 가능한 모델 ID를 반환합니다.

채팅 완료 요청을 전송합니다.

텍스트 생성을 위한 표준 채팅 완료 페이로드를 보내세요. 시스템은 입력을 처리하고 모델의 응답을 반환합니다. 다음을 사용하세요 uncensored 필터링 없는 인스턴스를 타겟팅하고 있는지 확인하려면 모델 ID를 사용합니다.

응답에는 생성된 텍스트와 토큰 사용 통계가 포함됩니다. 이를 애플리케이션 로직에 직접 파싱할 수 있습니다.

Copycurl https://api.nsfwlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the server uptime stats"}]
  }'

성공 또는 실패 사례 처리를 위한 표준 HTTP 상태 코드 확인.

실시간 출력을 위해 스트리밍을 활성화하세요

스트림 응답을 사용하여 사용자의 지각된 지연 시간을 줄이세요. 스트리밍을 활성화하려면 설정하세요 stream: true 요청 본문에 포함하세요. API는 부분 토큰을 포함하는 일련의 서버 전송 이벤트(SSE)를 반환합니다.

클라이언트 측에서 이러한 토큰을 집계하여 전체 메시지를 복원합니다. 이 접근 방식은 즉각적인 피드백이 중요한 채팅 인터페이스에 이상적입니다. 마지막 SSE 이벤트에는 요청의 총 토큰 사용량이 포함됩니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nsfwlocalllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

부드러운 사용자 경험을 위해 연결 오류를 우아하게 처리하세요.

구조화된 데이터를 위한 JSON 모드

프로그램 처리를 위해 유효한 JSON 출력을 강제하세요. 설정 response_format 수신하여 {"type": "json_object"} 요청에 포함됩니다. 이는 파싱 오류를 줄이고 일관된 데이터 구조를 보장합니다.

구조화된 프롬프트 생성, 엔티티 추출 또는 동적 콘텐츠 구축에 이 기능을 사용하세요. 모델은 시스템 지침에 제공된 형식 제약 조건을 따릅니다. 이는 다른 서비스와의 신뢰할 수 있는 통합에 중요합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.nsfwlocalllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

끝단 케이스를 포착하기 위해 클라이언트 측에서 출력 JSON을 검증합니다.

함수 호출을 구현하세요.

도구를 정의하여 모델의 기능을 확장하세요. 전달 tools 요청에 함수 정의를 포함하는 배열입니다. 모델은 맥락에 따라 이러한 함수를 호출할 수 있습니다.

LLM이 데이터를 가져오거나 작업을 수행할 시기를 결정하는 복잡한 워크플로우를 가능하게 합니다. 응답에서 함수 인수를 받으며 해당 인수를 클라이언트 측에서 실행합니다. 결과를 모델에 다시 전달하여 추가 추론을 수행합니다.

設定 tool_choice 수신하여 auto 유연한 의사 결정을 위한. 이 기능은 외부 데이터 접근이 필요한 고급 역할극 시나리오를 지원합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)