Ollama openai compatible api: Het Uncensored Alternatief

Wat is een ollama openai-compatible API? (Gebruiksgevallen)

Het is een gestandaardiseerd endpoint waarmee je lokale inferentie-engines kunt vervangen door gehoste, uncensored modellen zonder dat je clientcode hoeft te herschrijven.

• Lokale Proxy Vervanging

  Routeer verzoeken naar onze servers terwijl je bestaande OpenAI SDK-logica intact blijft.

• Onbeperkte Inference

  Toegang tot het "uncensored"-model zonder inhoudsfilters die wettelijk volwassen of controversiële onderwerpen blokkeren.

• Kostenefficiëntie

  Betaal alleen voor gebruikte tokens met vooruitbetaalde crypto, waardoor je dure maandelijkse abonnementen vermijdt.

De Checklist van de Ontwikkelaar voor het Kiezen van een Ongestureerde Aanbieder

Verifieer dat het endpoint standaard OpenAI-parameters strikt accepteert zonder aangepaste wrappers.

• Tokenadministratie: Bevestig dat facturering zowel input- als outputtokens nauwkeurig dekt.
• Terugbetalingsbeleid: Zorg ervoor dat fouten en weigeringen nul kosten veroorzaken.
• Privacy: Controleer dat prompts niet worden gebruikt voor het trainen van modellen.
• Schaal: Verifieer dat het systeem gelijktijdige verzoeken verwerkt zonder wachtrijvertragingen.
• Flexibiliteit: Zorg ervoor dat je van modellen kunt wisselen zonder clientcode te wijzigen.

Deze controles voorkomen verborgen kosten en integratieproblemen.

Echte kostenvoorbeelden: Tokenwiskunde & prijzen

Onze ongecensureerde LLM rekent $0,15 per miljoen invoertokens en $0,50 per miljoen uitvoertokens, wat transparante prijzen garandeert voor elk verzoek. Voor een standaard prompt van 1.000 tokens die 2.000 tokens genereert, betaal je precies $0,00115. Fouten kosten niets. Dit prepaid model elimineert maandelijkse abonnementen, zodat je kunt opwaarderen met crypto en je gebruik precies kunt schalen zoals nodig, zonder verborgen kosten.

5 tekenen dat je een gefilterde API gebruikt in plaats van een echt onbeperkt model

Onze API retourneert standaard inhoud, terwijl veel alternatieven weigeringen verbergen in de response JSON.

Migreren van een andere OpenAI-compatibele provider

Het overschakelen naar onze ongefilterde LLM vereist het bijwerken van je base URL en API-sleutel. Deze drop-in vervanging werkt met standaard OpenAI SDK's. Genereer eerst je sleutel via Google of e-mail op de pagina 'API-sleutel ophalen'. Wijs je client vervolgens aan op HTTPS://api.ollamaopenaicompatibleapi.com/v1. Stel de model-ID in op "uncensored". Controleer streaming en toolgebruik met deze snippets:

• Copyfrom openai import OpenAI
  
  client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
  
  resp = client.chat.completions.create(
      model="uncensored",
      messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
  )
  print(resp.choices[0].message.content)

• Copyimport OpenAI from "openai";
  
  const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
  
  const resp = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
  });
  console.log(resp.choices[0].message.content);

Veelgemaakte fouten in de niche van ongecensureerde LLM's

Ontwikkelaars gaan er vaak van uit dat alle OpenAI-compatible endpoints identiek werken. Dit is onjuist. Veel providers verbergen strikte inhoudsfilters achter standaard HTTP 200-antwoorden, waarbij gefilterde tekst wordt teruggegeven in plaats van een weigering. Anderen verwarren lokale Ollama-instanties met gehoste API's, wat leidt tot verrassingen qua latentie. Je moet controleren of de model-ID overeenkomt met je verwachtingen. Ons ongecensureerde model gebruikt de ID "uncensored" en wordt bediend via een dedicated API. Test altijd het streaminggedrag en tokenlimieten voordat je schaal. Controleer of de provider factureert voor fouten of alleen voor daadwerkelijk tokengebruik.