API سازگار با openai Ollama: جایگزین بدون سانسور

API سازگار با OpenAI ollama چیست؟ (موارد استفاده)

این یک اندپوینت استاندارد است که به شما امکان می‌دهد موتورهای استنتاج محلی را با مدل‌های میزبانی‌شده و uncensored بدون بازنویسی کد کلاینت جایگزین کنید.

• جایگزین پراکسی لوکال

  درخواست‌ها را به سرورهای ما هدایت کنید در حالی که منطق SDK OpenAI موجود خود را دست‌نخورده نگه می‌دارید.

• استنتاج بدون سانسور

  به مدل "uncensored" بدون فیلترهای محتوا که موضوعات بزرگسالان قانونی یا بحث‌برانگیز را مسدود می‌کنند دسترسی پیدا کنید.

• کارایی هزینه

  فقط به ازای توکن‌های مصرفی با ارز دیجیتال پیش‌پرداخت پرداخت کنید و از اشتراک‌های ماهانه گران‌قیمت اجتناب کنید.

چک‌لیست توسعه‌دهنده برای انتخاب یک ارائه‌دهنده بدون سانسور

بررسی کنید که نقطه پایانی به‌دقت پارامترهای استاندارد OpenAI را بدون بسته‌های سفارشی می‌پذیرد.

• حسابداری توکن: تأیید صورتحساب شامل توکن‌های ورودی و خروجی به‌طور دقیق.
• سیاست بازپرداخت: تضمین خطاها و رد شدن‌ها هزینه‌ای ندارند.
• حریم خصوصی: بررسی کنید که پرامپت‌ها برای آموزش مدل‌ها استفاده نشده باقی می‌مانند.
• مقیاس‌دهی: بررسی کنید که سیستم درخواست‌های همزمان را بدون تأخیر صف‌بندی مدیریت می‌کند.
• انعطاف‌پذیری: اطمینان حاصل کنید که می‌توانید بدون تغییر کد کلاینت، مدل‌ها را تغییر دهید.

این بررسی‌ها از هزینه‌های پنهان و مشکلات یکپارچه‌سازی جلوگیری می‌کنند.

مثال‌های هزینه واقعی: ریاضیات توکن و قیمت‌گذاری

LLM بدون سانسور ما برای هر میلیون توکن ورودی ۰.۱۵ دلار و برای هر میلیون توکن خروجی ۰.۵۰ دلار هزینه دارد که قیمت‌گذاری شفاف را برای هر درخواست تضمین می‌کند. برای یک پرامپت استاندارد ۱,۰۰۰ توکنی که ۲,۰۰۰ توکن تولید می‌کند، شما دقیقاً ۰.۰۰۱۱۵ دلار پرداخت می‌کنید. خطاها هزینه‌ای ندارند. این مدل پیش‌پرداخت، اشتراک‌های ماهانه را حذف می‌کند و به شما امکان می‌دهد با ارز دیجیتال شارژ کنید و استفاده را دقیقاً همان‌طور که نیاز دارید مقیاس‌بندی کنید، بدون هزینه‌های پنهان.

۵ نشانه که شما از یک API فیلترشده به جای یک مدل کاملاً بدون فیلتر استفاده می‌کنید

API ما به صورت پیش‌فرض محتوا را برمی‌گرداند، در حالی که بسیاری از گزینه‌های جایگزین، ردی‌ها را درون JSON پاسخ پنهان می‌کنند.

مهاجرت از یک ارائه‌دهنده سازگار با OpenAI

برای جابجایی به LLM بدون سانسور ما، به به‌روزرسانی آدرس پایه و کلید API نیاز است. این جایگزین مستقیم با SDKهای استاندارد OpenAI کار می‌کند. ابتدا، کلید خود را از طریق گوگل یا ایمیل در صفحه Get API Key ایجاد کنید. دوم، کلاینت خود را به HTTPS://api.ollamaopenaicompatibleapi.com/v1 متصل کنید. سوم، شناسه مدل را روی "uncensored" تنظیم کنید. streaming و استفاده از ابزارها را با این قطعه‌کدها بررسی کنید:

• Copyfrom openai import OpenAI
  
  client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
  
  resp = client.chat.completions.create(
      model="uncensored",
      messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
  )
  print(resp.choices[0].message.content)

• Copyimport OpenAI from "openai";
  
  const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
  
  const resp = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
  });
  console.log(resp.choices[0].message.content);

اشتباهات رایج در حوزه LLM بدون سانسور

توسعه‌دهندگان اغلب فرض می‌کنند که تمام نقاط پایدار سازگار با OpenAI یکسان عمل می‌کنند. این غلط است. بسیاری از ارائه‌دهندگان فیلترهای محتوای سخت‌گیرانه را پشت پاسخ‌های HTTP 200 استاندارد پنهان می‌کنند و متن فیلتر شده را به جای رد کردن درخواست، برمی‌گردانند. برخی دیگر نمونه‌های محلی Ollama را با APIهای میزبانی‌شده اشتباه می‌گیرند که منجر به تعجب از تأخیر می‌شود. باید مطمئن شوید که شناسه مدل با انتظارات شما مطابقت دارد. مدل بدون سانسور ما از شناسه "uncensored" استفاده می‌کند و از طریق یک API اختصاصی سرویس می‌دهد. همیشه رفتار استریمینگ و محدودیت‌های توکن را قبل از مقیاس‌دهی آزمایش کنید. بررسی کنید که آیا ارائه‌دهنده بابت خطاها صورتحساب صادر می‌کند یا فقط بابت توکن‌های واقعی استفاده شده.