Ollama API Documentation: Referință Endpoint

URL de bază și autentificare

URL-ul de bază pentru toate solicitările este https://api.ollamaapidocumentation.com/v1. Te autentifici folosind un token bearer trecut în Authorization header. Cheia ta este generată pe dashboard și funcționează imediat.

• Folosește SDK-urile oficiale OpenAI sau orice client compatibil.
• Stabilește URL-ul de bază la valoarea de mai sus.
• Include your API key in the header.

Autentificarea este strictă. Dacă cheia lipsește sau este invalidă, API-ul returnează o eroare 401. Acest lucru asigură că utilizarea ta este urmărită cu precizie pentru facturare.

Endpoint Completări Chat: POST /v1/chat/completions

Trimite mesaje către model prin POST /v1/chat/completions. Endpointul acceptă un corp JSON cu un model câmp setat la "uncensored" și un messages array.

Acest endpoint gestionează generarea de text. Nu suportă imagini, audio sau video. Puteți stream-ui răspunsurile sau puteți aștepta rezultatul complet.

Erorii precum 402 indică credit insuficient. Solicitățile sunt facturate în funcție de utilizarea reală a token-urilor. Refuzurile din cauza creditului sunt gratuite.

Listare Modele: GET /v1/models

Recuperează modelele disponibile folosind GET /v1/models.Aceasta returnează o listă de obiecte model. Singurul ID de model disponibil este "uncensored".

Acest endpoint ajută la verificarea conectivității. Confirmă că URL-ul de bază este corect. De asemenea, afișează numele modelului și tipul de obiect.

Folosiți acest lucru pentru a depana problemele de conexiune înainte de a trimite payload-uri grele.

Parametri: Temperatură, Top P, Seed

Controlează generarea cu temperature, top_p, și seed. The seed parametrul asigură output-uri deterministe. Folosește-l pentru depanare sau rezultate consistente.

Setează temperature între 0 și 2. Valorile mai mici fac răspunsurile mai predictibile. Valorile mai mari cresc aleatorietatea. Modelul top_p parametrul filtrează tokenii în funcție de probabilitatea cumulată.

Acești parametri funcționează exact ca API-ul OpenAI. Poți combina aceste opțiuni pentru un control precis al stilului.

Răspunsuri în streaming și consumul de tokeni

Activați streaming-ul setând stream: trueAPI returnează Server-Sent Events (SSE). Fiecare chunk conține text parțial.

Ultimul fragment include statistici de utilizare a tokenilor. Acest lucru îți permite să calculezi costurile cu precizie. Poți procesa tokenii pe măsură ce ajung.

Streaming-ul reduce latența percepută. Este ideal pentru interfețele de chat. Serverul trimite date până când răspunsul este complet.

Limitări, Erori și Fereastră de Context

Fereastra de context are 100.000 de tokeni. Acest lucru include atât inputul, cât și outputul. Poți genera până la 16.000 de tokeni per cerere. Outputul maxim implicit este de 2.048 de tokeni.

Limitările de rată sunt de 300 de cereri pe minut. Puteți avea 8 cereri concurente. Dimensiunea corpului cererii este limitată la 8 MB.

Erorile includ 401 pentru chei invalide și 429 pentru limitele de rată. Erorile de credit returnează 402. Aceste erori sunt clare și acționabile.

cURL

Copycurl https://api.ollamaapidocumentation.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list files in the current directory"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapidocumentation.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapidocumentation.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)