Documentazione API Ollama: Riferimento Endpoint
Questa pagina documenta l'API compatibile con OpenAI per l'inferenza uncensored. Funziona con gli SDK standard modificando l'URL di base e la chiave API.
URL Base e Autenticazione
L'URL di base per tutte le richieste è https://api.ollamaapidocumentation.com/v1. Autenticati utilizzando un token bearer passato in Authorization header. La tua chiave viene generata nella dashboard e funziona immediatamente.
- Utilizza gli SDK ufficiali di OpenAI o qualsiasi client compatibile.
- Imposta l'URL base sul valore sopra indicato.
- Includi la tua chiave API nell'intestazione.
L'autenticazione è rigorosa. Se la chiave è mancante o non valida, l'API restituisce un errore 401. Questo garantisce che il tuo utilizzo venga tracciato con precisione per la fatturazione.
Endpoint Chat Completions: POST /v1/chat/completions
Invia messaggi al modello tramite POST /v1/chat/completions. L'endpoint accetta un corpo JSON con un model field impostato su "uncensored" e a messages array.
Questo endpoint gestisce la generazione di testo. Non supporta immagini, audio o video. Puoi trasmettere le risposte o attendere il risultato completo.
Errori come 402 indicano credito insufficiente. Le richieste vengono addebitate in base all'utilizzo reale dei token. I rifiuti dovuti al credito sono gratuiti.
Elenco modelli: GET /v1/models
Recupera i modelli disponibili utilizzando GET /v1/models. Questo restituisce un elenco di oggetti modello. L'unico ID modello disponibile è "uncensored".
Questo endpoint aiuta a verificare la connettività. Conferma che l'URL base è corretto. Mostra anche il nome del modello e il tipo di oggetto.
Usa questo per risolvere i problemi di connessione prima di inviare payload pesanti.
Parametri: Temperatura, Top P e Seed
Controlla la generazione con temperature, top_p, e seed. Il seed parameter garantisce output deterministici. Usalo per il debug o risultati coerenti.
Imposta temperature tra 0 e 2. Valori più bassi rendono le risposte più prevedibili. Valori più alti aumentano la casualità. Il top_p il parametro filtra i token in base alla probabilità cumulativa.
Questi parametri funzionano esattamente come l'API OpenAI. Puoi combinarli per un controllo preciso sullo stile.
Risposte in streaming e utilizzo dei token
Abilita lo streaming impostando stream: true. L'API restituisce Server-Sent Events (SSE). Ogni chunk contiene testo parziale.
L'ultimo chunk include le statistiche sull'utilizzo dei token. Questo ti permette di calcolare i costi con precisione. Puoi elaborare i token man mano che arrivano.
Lo streaming riduce la latenza percepita. È ideale per le interfacce chat. Il server invia dati fino al completamento della risposta.
Limiti, Errori e Finestra di Contesto
La finestra di contesto è di 100.000 token. Questo include sia i token di input che quelli di output. Puoi generare fino a 16.000 token per richiesta. L'output massimo predefinito è di 2.048 token.
I limiti di frequenza sono di 300 richieste al minuto. Puoi effettuare 8 richieste concorrenti. La dimensione del corpo della richiesta è limitata a 8 MB.
Gli errori includono 401 per chiavi non valide e 429 per i limiti di frequenza. Gli errori di credito restituiscono 402. Questi errori sono chiari e azionabili.
cURL
curl https://api.ollamaapidocumentation.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list files in the current directory"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocumentation.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocumentation.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Domande comuni
Qual è l'URL base per la documentazione API ollama?
L'URL base è HTTPS://api.ollamaapidocumentation.com/v1. Devi impostare questo valore nella configurazione del tuo SDK per utilizzare l'API LLM uncensored.
Come gestisco errori come 401 o 402?
Un errore 401 significa che la tua chiave API non è valida o è mancante. Un errore 402 indica che non hai credito prepagato. Aggiungi fondi con criptovalute per continuare.
Qual è la dimensione della finestra di contesto?
La finestra di contesto è di 100.000 token. Questo limite include sia il prompt che il completamento. Puoi impostare max_tokens fino a 16.000.
Ottieni la tua chiave in pochi secondi
Registrati, ottieni la chiave, sostituisci l'URL di base. Fatto.