Τεκμηρίωση API & Γρήγορη Έναρξη

Βασικό URL και Αυθεντικοποίηση

Χρησιμοποιήστε τη βάση URL μας και ένα μοναδικό API key για να συνδεθείτε. Το endpoint δέχεται τυπικά headers. Αντικαταστήστε YOUR_API_KEY με το string από το dashboard σας.

• Base URL: https://api.ollamaopenaicompatibleapi.com/v1
• ID Μοντέλου: uncensored

Η πιστοποίηση βασίζεται σε διακριτικό bearer. Περάστε το στην Authorization header. Αυτό διασφαλίζει συμβατότητα με οποιοδήποτε OpenAI SDK compatible client. Μπορείτε να δημιουργήσετε ένα νέο κλειδί άμεσα μέσω Google ή email. Δεν απαιτείται αριθμός τηλεφώνου.

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε ένα POST request στο /v1/chat/completions. Συμπεράψτε τον πίνακα μηνυμάτων σας και το όνομα του μοντέλου. Το API επιστρέφει κείμενο ως έξοδο με βάση την εντολή σας. Αυτό λειτουργεί με οπον πάροχο που χρησιμοποιεί τυποποιημένες παραμέτρους.

Ορίστε τη θερμοκρασία για δημιουργικότητα ή κρατήστε την χαμηλή για ακρίβεια. Μπορείτε επίσης να ορίσετε stop sequences. Ο εξυπηρετητής επεξεργάζεται το αίτημα και επιστρέφει την ολοκλήρωση. Αυτή είναι η βασική αλληλεπίδραση για τις περισσότερες ενσωματώσεις.

Θυμηθείτε ότι τα σφάλματα δεν καταναλώνουν το προπληρωμένο πιστωτικό σας υπόλοιπο. Μόνο οι επιτυχείς ολοκληρώσεις χρεώνονται. Αυτό προστατεύει τον προϋπολογισμό σας κατά τις φάσεις debugging.

Copycurl https://api.ollamaopenaicompatibleapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 10 Linux kernel security patches from 2023"}]
  }'

Streaming Αποκρίσεις μέσω SSE

Ενεργοποιήστε streaming ρυθμίζοντας stream: true. Ο διακομιστής στέλνει τμήματα καθώς παράγονται. Αυτό μειώνει σημαντικά την αντιλαμβανόμενη καθυστέρηση. Λαμβάνετε μερικές απαντήσεις σε πραγματικό χρόνο.

Επεξεργαστείτε τη ροή Server-Sent Events. Το τελικό κομμάτι περιέχει στατιστικά χρήσης. Αυτό περιλαμβάνει μετρήσεις tokens τόσο για είσοδο όσο και για έξοδο. Μπορείτε να παρακολουθείτε τα κόστη δυναμικά κατά τη διάρκεια της δημιουργίας.

Αυτή η προσέγγιση λειτουργεί καλά για διεπαφές συνομιλίας. Οι χρήστες βλέπουν το κείμενο να εμφανίζεται λέξη προς λέξη. Νιώθει πιο ανταποκρινόμενο από το να περιμένετε την πλήρη απάντηση. Το API διαχειρίζεται την σταθερότητα σύνδεσης αυτόματα.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling και JSON Mode

Ορίστε εργαλεία στο σώμα του αιτήματος. Το μοντέλο μπορεί να εξάγει δομημένα δεδομένα. Χρησιμοποιήστε response_format με {"type": "json_object"} για αυστηρό JSON. Αυτό διασφαλίζει παραγωγή εξόδου που αναλύεται κάθε φορά.

Οι ορισμοί εργαλείων περιλαμβάνουν όνομα, περιγραφή και παραμέτρους. Το μοντέλο αποφασίζει ποιο εργαλείο να καλέσει. Εκτελείτε τη συνάρτηση και τροφοδοτείτε τα αποτελέσματα πίσω. Αυτό επιτρέπει πολύπλοκες ροές εργασιών πράκτορα.

Η λειτουργία JSON απενεργοποιεί την παραγωγή ελεύθερου κειμένου. Αναγκάζει το μοντέλο να συμμορφωθεί με το schema σας. Χρησιμοποιήστε το όταν ενσωματώνεστε με βάσεις δεδομένων ή APIs. Μειώνει τις παραισθήσεις σε δομημένα πεδία.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Όρια Ρυθμού και Σώματα Αιτήματος

Λαμβάνετε 300 αιτήματα ανά λεπτό ανά κλειδί. Η ταυτόχρονη επεξεργασία περιορίζεται σε 8 ταυτόχρονες συνδέσεις. Το μέγιστο μέγεθος σώματος αιτήματος είναι 8 MB. Αυτό ταιριάζει στις περισσότερες εφαρμογές που βασίζονται σε κείμενο.

Το context window επιτρέπει 100.000 tokens συνολικά. Αυτό περιλαμβάνει τόσο prompt όσο και completion. Μέγιστη έξοδος ανά αίτηση είναι 16.000 tokens. Αν παραλείψετε max_tokens, προεπιλέγεται σε 2,048.

Διαχειριστείτε ομαλά τα σφάλματα HTTP 429. Υποδεικνύουν ότι χτύπησατε το όριο ρυθμού. Εφαρμόστε exponential backoff στον κώδικα του πελάτη σας. Αυτό αποτρέπει την υπερφόρτωση του διακομιστή κατά τις αιχμές.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Σφάλματα Πιστοποίησης και Όρια

Μια κατάσταση 401 σημαίνει ότι το κλειδί σας είναι άκυρο. Ελέγξτε για τυπογραφικά λάθη ή ληγμένες συνεδρίες. Μια κατάσταση 402 υποδεικνύει ανεπαρκές υπόλοιπο. Προσθέστε κεφάλαιο μέσω κρυπτονομίσματος για να ανακτήσετε την υπηρεσία.

Η κατάσταση 429 σηματοδοτεί περιορισμό ρυθμού. Ξεπεράσατε τα 300 αιτήματα ανά λεπτό. Μειώστε την απόδοσή σας ή αναβαθμίστε το κλειδί σας. Η API επιστρέφει σαφή μηνύματα σφάλματος.

Το υπόλοιπο δεν λήγει ποτέ. Μπορείτε να κάνετε φόρτωση οποιαδήποτε στιγμή. Η ελάχιστη φόρτωση είναι $20. Τα bonus credits εφαρμόζονται για μεγαλύτερες ποσότητες. Αυτό διατηρεί το έργο σας να τρέχει ομαλά.