Ollama API 문서: 엔드포인트 참조

Base URL 및 인증

모든 요청의 base URL은 https://api.ollamaapidocumentation.com/v1bearer 토큰을 사용하여 인증합니다 Authorization 헤더. 키는 대시보드에서 생성되며 즉시 작동합니다.

• 공식 OpenAI SDK 또는 호환 가능한 클라이언트를 사용하세요.
• 기본 URL을 위의 값으로 설정하세요.
• 헤더에 API 키를 포함하세요.

인증은 엄격합니다. 키가 없거나 유효하지 않으면 API가 401 오류를 반환합니다. 이는 사용량이 청구를 위해 정확하게 추적되도록 보장합니다.

채팅 완료 엔드포인트: POST /v1/chat/completions

다음으로 메시지를 전송하세요 POST /v1/chat/completions. 엔드포인트는 JSON 본문과 함께 model field set to "uncensored" and a messages 배열입니다.

이 엔드포인트는 텍스트 생성을 처리합니다. 이미지, 오디오 또는 비디오는 지원되지 않습니다. 응답을 스트리밍하거나 전체 결과를 기다릴 수 있습니다.

402는 크레딧 부족을 나타냅니다. 요청은 실제 토큰 사용량에 따라 요금이 부과됩니다. 크레딧으로 인한 거부는 무료입니다.

모델 리스팅: GET /v1/models

을 사용하여 사용 가능한 모델을 검색하세요. GET /v1/models. 이는 모델 객체 목록을 반환합니다. 사용 가능한 유일한 모델 ID는 "uncensored"입니다.

이 엔드포인트는 연결 상태를 확인하는 데 도움이 됩니다. 기본 URL이 올바른지 확인합니다. 모델 이름과 개체 유형도 표시됩니다.

무거운 페이로드를 전송하기 전에 연결 문제를 디버깅하려면 이 명령을 사용하세요.

파라미터: Temperature, Top P, Seed

생성 제어 temperature, top_p, 그리고 seedThe seed 매개변수는 결정론적 출력을 보장합니다. 디버깅 또는 일관된 결과를 위해 사용하세요.

設定 temperature 0과 2 사이에서 조정하세요. 낮은 값은 응답을 더 예측 가능하게 만듭니다. 높은 값은 무작위성을 증가시킵니다. 시스템 top_p 매개변수는 누적 확률에 따라 토큰을 필터링합니다.

이 파라미터들은 OpenAI API와 정확히 동일하게 작동합니다. 스타일에 대한 정밀한 제어를 위해 조합하여 사용할 수 있습니다.

스트리밍 응답 및 토큰 사용량

stream을 true로 설정하여 스트리밍 활성화 stream: trueAPI는 Server-Sent Events(SSE)를 반환합니다. 각 청크에는 부분 텍스트가 포함됩니다.

최종 청크에는 토큰 사용량 통계가 포함되어 있습니다. 이를 통해 비용을 정확하게 계산할 수 있습니다. 토큰은 도착하는 대로 처리할 수 있습니다.

스트리밍은 지각된 지연 시간을 줄여줍니다. 채팅 인터페이스에 이상적입니다. 서버는 응답이 완료될 때까지 데이터를 푸시합니다.

제한 사항, 오류 및 컨텍스트 윈도우

컨텍스트 윈도우는 100,000 토큰입니다. 입력 및 출력을 합산합니다. 요청당 최대 16,000 토큰을 생성할 수 있습니다. 기본 최대 출력은 2,048 토큰입니다.

속도 제한은 분당 300회입니다. 동시 요청 수는 8개입니다. 요청 본문 크기는 8 MB로 제한됩니다.

오류에는 잘못된 키에 대한 401과 속도 제한에 대한 429가 포함됩니다. 크레딧 관련 오류는 402를 반환합니다. 이러한 오류는 명확하고 실행 가능합니다.

cURL

Copycurl https://api.ollamaapidocumentation.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list files in the current directory"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocumentation.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocumentation.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)