Ollama API: Αναφορά Endpoints
Αυτή η σελίδα τεκμηριώνει το API συμβατό με OpenAI για uncensored inference. Λειτουργεί με τα τυπικά SDKs αλλάζοντας τη βάση URL και το API key.
Βασικό URL και Αυθεντικοποίηση
Η base URL για όλες τις αιτήσεις είναι https://api.ollamaapidocumentation.com/v1. Κάνετε έλεγχο ταυτότητας χρησιμοποιώντας ένα bearer token που περνάται στο Authorization header. Το κλειδί σας δημιουργείται στο dashboard και λειτουργεί αμέσως.
- Χρησιμοποιήστε τα επίσημα SDK της OpenAI ή οποιοδήποτε συμβατό client.
- Ορίστε το βασικό URL στην παραπάνω τιμή.
- Συμπεριλάβετε το API key σας στην κεφαλίδα.
Η πιστοποίηση είναι αυστηρή. Αν λείπει το κλειδί ή είναι μη έγκυρο, το API επιστρέφει σφάλμα 401. Αυτό εξασφαλίζει ότι η χρήση σας καταγράφεται ακριβώς για χρέωση.
Τερματικό Συμπληρώματος Συζήτησης: POST /v1/chat/completions
Στείλτε μηνύματα στο μοντέλο μέσω POST /v1/chat/completions. Η endpoint δέχεται ένα σώμα JSON με ένα model field ορισμένο σε "uncensored" και ένα messages array.
Αυτό το endpoint διαχειρίζεται παραγωγή κειμένου. Δεν υποστηρίζει εικόνες, ήχο ή βίντεο. Μπορείτε να κάνετε streaming στις απαντήσεις ή να περιμένετε το πλήρες αποτέλεσμα.
Σφάλματα όπως 402 υποδεικνύουν ανεπαρκή πιστωτικά. Οι αιτήσεις χρεώνονται βάσει πραγματικής χρήσης tokens. Οι απορρίψεις λόγω πιστωτικών είναι δωρεάν.
Κατάλογος Μοντέλων: GET /v1/models
Ανάκτηση διαθέσιμων μοντέλων χρησιμοποιώντας GET /v1/models. Αυτό επιστρέφει μια λίστα αντικειμένων μοντέλου. Το μόνο διαθέσιμο ID μοντέλου είναι "uncensored".
Αυτό το endpoint βοηθά στον έλεγχο σύνδεσης. Επιβεβαιώνει ότι η βασική διεύθυνση URL είναι σωστή. Επίσης δείχνει το όνομα του μοντέλου και τον τύπο αντικειμένου.
Χρησιμοποιήστε αυτό για να απομονώσετε προβλήματα σύνδεσης πριν στείλετε μεγάλα φορτία.
Παράμετροι: Θερμοκρασία, Top P, Seed
Ελέγξτε τη δημιουργία με temperature, top_p, και seed. Το seed parameter διασφαλίζει deterministic εξόδους. Χρησιμοποιήστε το για debugging ή consistent αποτελέσματα.
Ορίστε temperature μεταξύ 0 και 2. Χαμηλότερες τιμές κάνουν τις απαντήσεις πιο προβλέψιμες. Υψηλότερες τιμές αυξάνουν την τυχαιότητα. Το top_p η παράμετρος φιλτράρει tokens με βάση την αθροιστική πιθανότητα.
Αυτές οι παράμετροι λειτουργούν ακριβώς όπως η API OpenAI. Μπορείτε να τις συνδυάσετε για ακριβή έλεγχο του στυλ.
Streaming Αποκρίσεις και Χρήση Token
Ενεργοποιήστε streaming ρυθμίζοντας stream: true. Το API επιστρέφει Server-Sent Events (SSE). Κάθε κομμάτι περιέχει μερικό κείμενο.
Το τελευταίο chunk περιλαμβάνει τα στατιστικά χρήσης tokens. Αυτό σας επιτρέπει να υπολογίσετε το κόστος με ακρίβεια. Μπορείτε να επεξεργαστείτε τα tokens καθώς φτάνουν.
Η ροή δεδομένων (streaming) μειώνει την αντιλαμβανόμενη καθυστέρηση. Είναι ιδανική για διεπαφές συνομιλίας. Ο διακομιστής στέλνει δεδομένα μέχρι να ολοκληρωθεί η απάντηση.
Όρια, Σφάλματα και Context Window
Το παράθυρο συμφραζομένων είναι 100.000 tokens. Αυτό περιλαμβάνει τόσο την είσοδο όσο και την έξοδο. Μπορείτε να παράγετε έως 16.000 tokens ανά αίτηση. Η προεπιλεγμένη μέγιστη έξοδος είναι 2.048 tokens.
Τα όρια ρυθμού είναι 300 αιτήματα ανά λεπτό. Μπορείτε να έχετε 8 ταυτόχρονες αιτήσεις. Το μέγεθος του σώματος του αιτήματος περιορίζεται στα 8 MB.
Τα σφάλματα περιλαμβάνουν 401 για μη έγκυρα κλειδιά και 429 για όρια ρυθμού. Τα σφάλματα πιστωτικών επιστρέφουν 402. Αυτά τα σφάλματα είναι σαφή και ενεργά.
cURL
curl https://api.ollamaapidocumentation.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list files in the current directory"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapidocumentation.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapidocumentation.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ροή
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Συχνές ερωτήσεις
Ποια είναι η base URL για την τεκμηρίωση ollama API;
Η βασική διεύθυνση URL είναι HTTPS://api.ollamaapi-documentation.com/v1. Πρέπει να ορίσετε αυτό στις ρυθμίσεις του SDK σας για να χρησιμοποιήσετε το API του LLM uncensored.
Πώς διαχειρίζομαι σφάλματα όπως 401 ή 402;
Ένα σφάλμα 401 σημαίνει ότι το API key σας είναι μη έγκυρο ή λανθασμένο. Ένα σφάλμα 402 υποδεικνύει ότι δεν έχετε προκαταβλημένο υπόλοιπο. Προσθέστε κεφάλαιο με κρυπτονομίσματα για να συνεχίσετε.
Ποιο είναι το μέγεθος του παραθύρου συνάφειας;
Το παράθυρο κειμένου είναι 100.000 tokens. Αυτό το όριο περιλαμβάνει τόσο την εντολή όσο και την απάντηση. Μπορείτε να ορίσετε max_tokens έως 16.000.
Κτήστε το κλειδί API σας σε δευτερόλεπτα.
Εγγραφείτε, αποκτήστε το key, αλλάξτε τη βάση URL. Ολοκληρώθηκε.
