API Ollama openai compatible: Альтернатива без цензури

Що таке сумісна з OpenAI API ollama? (Випадки використання)

Це стандартний ендпоінт, який дозволяє замінити локальні інференс-рушії на розміщені моделі uncensored без переписування клієнтського коду.

• Локальна заміна проксі

  Маршрутизація запитів на наші сервери, зберігаючи логіку існуючого SDK OpenAI незмінною.

• Нецензуроване висновення

  Отримайте доступ до моделі "uncensored" без фільтрів контенту, які блокують законні дорослі або суперечливі теми.

• Ефективність витрат

  Платіть лише за використані токени з передоплатою криптовалютою, уникаючи дорогих щомісячних підписок.

Чек-лист розробника' для вибору uncensored постачальника

Перевірте, чи ендпоінт суворо приймає стандартні параметри OpenAI без додаткових обгорток.

• Облік токенів: Підтвердити, що билінг точно враховує як вхідні, так і вихідні токени.
• Політика повернення: Забезпечте, що помилки та відмови не нараховують жодних зборів.
• Конфіденційність: Перевірте, що промпти залишаються незастосованими для навчання моделей.
• Масштабування: Перевірте, чи система обробляє одночасні запити без затримок у черзі.
• Гнучкість: Переконайтеся, що ви можете перемикати моделі без зміни коду клієнта.

Ці перевірки запобігають прихованим витратам та проблемам із інтеграцією.

Реальні приклади вартості: Арифметика токенів та ціноутворення

Наша uncensored LLM коштує $0.15 за мільйон вхідних токенів та $0.50 за мільйон вихідних токенів, забезпечуючи прозору цінову політику для кожного запиту. Для стандартного запиту на 1 000 токенів із генерацією 2 000 токенів ви платите рівно $0.00115. Помилки не коштують нічого. Ця передоплачена модель усуває щомісячні підписки, дозволяючи поповнювати баланс криптовалютою та масштабувати використання точно за потребою без прихованих платежів.

5 ознак того, що ви використовуєте відфільтрований API замість справжньої моделі без цензури

Наш API за замовчуванням повертає контент, тоді як багато альтернатив ховають відмови всередині JSON-відповіді.

Міграція з іншого постачальника, сумісного з OpenAI

Перехід на нашу uncensored LLM вимагає оновлення base URL та API-ключа. Ця заміна «plug-and-play» працює зі стандартними OpenAI SDK. По-перше, згенеруйте ключ через Google або електронну пошту на сторінці Get API Key. По-друге, вкажіть клієнту на HTTPS://api.ollamaopenaicompatibleapi.com/v1. По-третє, встановіть ідентифікатор моделі на "uncensored". Перевірте стрімінг та використання інструментів за допомогою цих фрагментів коду:

• Copyfrom openai import OpenAI
  
  client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
  
  resp = client.chat.completions.create(
      model="uncensored",
      messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
  )
  print(resp.choices[0].message.content)

• Copyimport OpenAI from "openai";
  
  const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
  
  const resp = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
  });
  console.log(resp.choices[0].message.content);

Поширені помилки в ніші uncensored LLM

Розробники часто припускають, що всі сумісні з OpenAI кінцеві точки поводяться однаково. Це не так. Багато постачальників ховають суворі фільтри вмісту за стандартними відповідями HTTP 200, повертаючи відфільтований текст замість відмови. Інші плутають локальні екземпляри Ollama з хостинговими API, що призводить до несподіваних затримок. Ви повинні перевірити, чи відповідає ідентифікатор моделі вашим очікуванням. Наша uncensored модель використовує ідентифікатор "uncensored" і обслуговується через виділений API. Завжди тестуйте поведінку потокової передачі та обмеження токенів перед масштабуванням. Перевірте, чи нараховує постачальник плату за помилки, чи лише за фактичне використання токенів.