ज़ीरो रिफ्यूज़ल API
ओलामा ओपनएआई कम्पैटिबल एपीआई: अनसेंसर्ड विकल्प
एक अविच्छिन्न LLM को हमारे ollama openai सुसंगत API के माध्यम से 100,000 टोकन संदर्भ विंडो और तत्काल क्रिप्टो टॉप-अप के साथ प्राप्त करें।
- 100,000 टोकन संदर्भ विंडो
- केवल प्रीपेड क्रिप्टो
- $0.50 ट्रायल क्रेडिट
एक कॉल के साथ परीक्षण करें
curl https://api.ollamaopenaicompatibleapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 10 Linux kernel security patches from 2023"}]
}'from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);फीचर्स
मानक SDK
किसी भी OpenAI-संगत क्लाइंट के साथ base_url और कुल बदलकर काम करता है।
कठोर नो-रिफ्यूजल
हम कानूनी वयस्कों, काल्पनिक या विवादास्पद विषयों को अस्वीकार नहीं करते हैं।
स्ट्रीमिंग सपोर्ट
मानक SSE के माध्यम से अंतिम चंक में टोकन उपयोग प्राप्त करें।
JSON मोड
response_format json_object सपोर्ट के साथ सख्त आउटपुट फॉर्मेट लागू करें।
फंक्शन कॉलिंग
पूर्ण संगतता के साथ tool_choice प्रबंधित करें।
गोपनीयता प्रथम
प्रॉम्प्ट्स प्रशिक्षण के लिए उपयोग नहीं किए जाते; फ़ोन नंबर की आवश्यकता नहीं है।
यूज केस
स्थानीय प्रॉक्सी ब्रिज
स्थानीय llama.cpp निष्पादन को एक मानक OpenAI एंडपॉइंट के माध्यम से रूट करें।
MVP विकास
तेज अनसेंसर्ड टेस्टिंग के लिए अपने स्टैक में इस API को डालें।
Dev Container Setup
कस्टम बेस URL के साथ @ai-sdk/openai-compatible कॉन्फ़िगर करें।
मिडलवेयर एकीकरण
मौजूदा OpenAI इंटीग्रेशन के लिए एक ड्रॉप-इन रिप्लेसमेंट के रूप में उपयोग करें।
सेटअप
खाता बनाएं
Google या ईमेल के साथ साइन अप करें और एक API कुंजी प्राप्त करें।
Top Up Crypto
अपने प्रीपेड क्रेडिट बैलेंस को सक्रिय करने के लिए USDT या USDC जोड़ें।
स्ट्रीमिंग शुरू करें
चैट-पूरक एंडपॉइंट पर तुरंत अनुरोध भेजें।
ollama ओपनएआई कम्पेटिबल API क्या है? (उपयोग के मामले)
यह एक मानकीकृत एंडपॉइंट है जो आपको लोकल इनफ़्रेंस इंजनों को होस्टेड, uncensored मॉडल्स से बदलने की अनुमति देता है, बिना क्लाइंट कोड को फिर से लिखे।
स्थानीय प्रॉक्सी रिप्लेसमेंट
अपने मौजूदा OpenAI SDK तर्क को अक्षुण्ण रखते हुए अनुरोधों को हमारे सर्वर पर रूट करें।
अनकेंसरड इनफेरेन्स
"uncensored" मॉडल तक बिना सामग्री फ़िल्टर के पहुंचें जो कानूनी वयस्क या विवादास्पद विषयों को ब्लॉक करते हैं।
लागत दक्षता
केवल उपयोग किए गए टोकन के लिए भुगतान करें प्रीपेड क्रिप्टो के साथ, महंगे मासिक सब्सक्रिप्शन से बचत करते हुए।
अनसेंसर्ड प्रदाता चुनने के लिए डेवलपर's चेकलिस्ट
सुनिश्चित करें कि एंडपॉइंट मानक ओपएआई पैरामीटर्स को सख्ती से स्वीकार करता है, कस्टम वापर्स के बिना।
- टोकन अकाउंटिंग: बिलिंग इनपुट और आउटपुट टोकन दोनों को सटीक रूप से कवर करती है की पुष्टि करें।
- रिफंड नीति: सुनिश्चित करें त्रुटियां और अस्वीकृतियों में शून्य शुल्क लगता है।
- गोपनीयता: जाँच करें कि प्रॉम्प्ट्स मॉडल ट्रेनिंग के लिए उपयोग नहीं किए जाते हैं।
- स्केल: सिस्टम समवर्ती अनुरोधों को बिना कतारबंदी विलंबता के संभालता है।
- लचीलापन: सुनिश्चित करें कि आप क्लाइंट कोड को बदले बिना मॉडल स्विच कर सकते हैं।
ये जांच छिपी लागत और इंटीग्रेशन की परेशानियों को रोकती हैं।
वास्तविक लागत उदाहरण: टोकन अंकगणित और मूल्य निर्धारण
हमारा अनकैप्ड LLM इनपुट टोकन के प्रति मिलियन के लिए $0.15 और आउटपुट टोकन के प्रति मिलियन के लिए $0.50 चार्ज करता है, हर अनुरोध के लिए पारदर्शी मूल्य निर्धारण सुनिश्चित करता है। एक मानक 1,000-टोकन वाले प्रॉम्प्ट के लिए जो 2,000 टोकन जनरेट करता है, आपको ठीक $0.00115 का भुगतान करना होता है। त्रुटियों में शून्य लागत आती है। यह प्रीपेड मॉडल मासिक सब्सक्रिप्शन को समाप्त करता है, आपको क्रिप्टो के साथ टॉप-अप करने और छिपे शुल्क के बिना आवश्यकतानुसार उपयोग को स्केल करने की अनुमति देता है।
असली अनसेंसर्ड मॉडल के बजाय फ़िल्टर्ड API का उपयोग कर रहे हैं, इसके 5 संकेत
हमारा API डिफ़ॉल्ट रूप से सामग्री लौटाता है, जबकि कई विकल्प अस्वीकृतियों को प्रतिक्रिया JSON के भीतर छुपा देते हैं।
अन्य ओपनएआई-कम्पैटिबल प्रोवाइडर से माइग्रेशन
अनकेंसर्ड LLM में स्विच करने के लिए अपने बेस यूआरएल और API कुंजी को अपडेट करने की आवश्यकता है। यह ड्रॉप-इन रिप्लेसमेंट मानक OpenAI SDKs के साथ काम करता है। पहले, Get API Key पेज पर Google या ईमेल के माध्यम से अपनी कुंजी जनरेट करें। दूसरा, अपने क्लाइंट को HTTPS://api.ollamaopenaicompatibleapi.com/v1 की ओर इशारा करें। तीसरा, मॉडल आईडी को "uncensored" पर सेट करें। इन स्निपेट्स के साथ स्ट्रीमिंग और टूल उपयोग की जांच करें:
from openai import OpenAI client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY") resp = client.chat.completions.create( model="uncensored", messages=[{"role": "user", "content": "Summarise this thread without softening it."}], ) print(resp.choices[0].message.content)import OpenAI from "openai"; const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY }); const resp = await client.chat.completions.create({ model: "uncensored", messages: [{ role: "user", content: "Draft a villain monologue for my game." }], }); console.log(resp.choices[0].message.content);
अनसेंसर्ड LLM निच में सामान्य गलतियाँ
डेवलपर्स अक्सर यह मान लेते हैं कि सभी OpenAI-कम्पैटिबल एंडपॉइंट्स एक जैसे व्यवहार करते हैं। यह गलत है। कई प्रदायक मानक HTTP 200 रिस्पॉन्स के पीछे कड़े कंटेंट फिल्टर छुपाते हैं, जो अस्वीकृति के बजाय फिल्टर किए गए टेक्स्ट लौटाते हैं। अन्य स्थानीय Ollama इंस्टेंसों को होस्टेड APIs के साथ भ्रमित करते हैं, जिससे लेटेंसी में आश्चर्य होता है। आपको मॉडल ID की पुष्टि करनी चाहिए कि वह आपकी अपेक्षाओं से मेल खाती है। हमारा अनसेंसर्ड मॉडल "uncensored" ID का उपयोग करता है और एक समर्पित API के माध्यम से सेवा प्रदान करता है। स्केल करने से पहले हमेशा स्ट्रीमिंग व्यवहार और टोकन सीमाओं का परीक्षण करें। जांचें कि क्या प्रदायक एरर के लिए बिल करता है या केवल वास्तविक टोकन उपयोग के लिए।
FAQ
ollama OpenAI संगत API क्या है?
यह एक होस्टेड एंडपॉइंट है जो मानक OpenAI SDK अनुरोधों को स्वीकार करता है। हमारी सेवा हमारे सर्वरों पर "uncensored" मॉडल का उपयोग करके टेक्स्ट को प्रोसेस करती है। आपको स्ट्रीमिंग, JSON मोड और टूल सपोर्ट मिलता है, कानूनी सामग्री के लिए कठोर नो-रिफ्यूजल पॉलिसी के साथ।
आप कौन-से भुगतान विधियाँ स्वीकार करते हैं?
केवल क्रिप्टो: TRC20 पर USDT या Base पर USDC, $20 से $500 तक कोई भी पूर्ण राशि। $50 से बोनस क्रेडिट लागू होता है।
uncensored मॉडल की लागत प्रति मिलियन टोकन कितनी है?
इनपुट टोकन की लागत प्रति मिलियन $0.15 है। आउटपुट टोकन की लागत प्रति मिलियन $0.50 है। त्रुटियां और अस्वीकृतियां मुफ्त हैं। आप केवल वास्तविक उपयोग के लिए भुगतान करते हैं, प्रीपेड क्रिप्टो क्रेडिट के साथ। बेस सेवा के लिए कोई मासिक सब्सक्रिप्शन या छिपे हुए शुल्क नहीं हैं।
क्या मैं मौजूदा OpenAI Python SDK का उपयोग कर सकता हूँ?
हाँ। API मानक OpenAI क्लाइंट्स के साथ पूरी तरह से संगत है। आपको बस बेस URL को अपने एंडपॉइंट पर बदलने और अपनी API key अपडेट करने की आवश्यकता है। तापमान, top_p और स्ट्रीमिंग जैसे सभी पैरामीटर OpenAI की तरह ही काम करते हैं।
क्या मैं कितने requests कर सकता हूँ, इस पर कोई सीमा है?
आप प्रति कुंजी प्रति मिनट 300 अनुरोध भेज सकते हैं। आप एक साथ आठ संयुक्त अनुरोध भी चला सकते हैं। प्रत्येक अनुरोध बॉसी 8 MB से कम रहनी चाहिए। ये सीमाएं आपके स्वचालित वर्कफ़्लो और एकीकरण के लिए स्थिर प्रदर्शन सुनिश्चित करती हैं।
अपने खाते में फंड कैसे जोड़ें?
TRC20 पर USDT या Base पर USDC का उपयोग करके टॉप-अप करें। भुगतान $20 से $500 की पूर्ण राशि में होते हैं। आपको $50 के लिए +5% से शुरू होकर $200 के लिए +15% तक बोनस क्रेडिट मिलता है। खरीद के बाद क्रेडिट कभी समाप्त नहीं होता।
एक मिनट में कुंजी प्राप्त करें
साइन अप करें, कुंजी प्राप्त करें, बेस यूआरएल अपडेट करें। हो गया।
