API tương thích OpenAI Ollama: Giải pháp thay thế không kiểm duyệt

API tương thích OpenAI của ollama là gì? (Các trường hợp sử dụng)

Đây là một endpoint chuẩn cho phép bạn thay thế các công cụ suy luận cục bộ bằng các mô hình uncensored được lưu trữ mà không cần viết lại mã client.

• Thay thế Proxy cục bộ

  Định tuyến các yêu cầu đến máy chủ của chúng tôi trong khi giữ nguyên logic SDK OpenAI hiện có của bạn.

• AI không kiểm duyệt Inference

  Truy cập mô hình "uncensored" mà không có bộ lọc nội dung chặn các chủ đề người trưởng thành hợp pháp hoặc gây tranh cãi.

• Hiệu quả chi phí

  Chỉ trả tiền cho token đã sử dụng với crypto trả trước, tránh các gói đăng ký hàng tháng đắt đỏ.

Danh sách kiểm tra của Nhà phát triển để Chọn Nhà cung cấp Không kiểm duyệt

Xác minh điểm cuối chấp nhận nghiêm ngặt các tham số tiêu chuẩn của OpenAI mà không có lớp bọc tùy chỉnh.

• Kế toán Token: Xác nhận thanh toán bao gồm chính xác cả token đầu vào và đầu ra.
• Chính sách Hoàn tiền: Đảm bảo lỗi và từ chối không phát sinh chi phí.
• Quyền riêng tư: Kiểm tra rằng các prompt vẫn không được sử dụng để huấn luyện mô hình.
• Mở rộng: Xác minh hệ thống xử lý các yêu cầu đồng thời mà không có độ trễ xếp hàng.
• Sự linh hoạt: Đảm bảo bạn có thể chuyển đổi mô hình mà không cần thay đổi mã client.

Các kiểm tra này ngăn chặn chi phí ẩn và sự cố tích hợp.

Ví dụ chi phí thực tế: Toán học token & giá cả

LLM không kiểm duyệt của chúng tôi tính $0.15 cho mỗi triệu token đầu vào và $0.50 cho mỗi triệu token đầu ra, đảm bảo giá minh bạch cho mọi yêu cầu. Đối với một lệnh gọi prompt 1.000 token tiêu chuẩn tạo ra 2.000 token, bạn trả chính xác $0.00115. Lỗi không tốn phí. Mô hình trả trước này loại bỏ đăng ký hàng tháng, cho phép bạn nạp tiền bằng crypto và mở rộng quy mô sử dụng chính xác khi cần mà không có phí ẩn.

5 dấu hiệu cho thấy bạn đang sử dụng API có bộ lọc thay vì mô hình không kiểm duyệt thực sự

API của chúng tôi trả về nội dung theo mặc định, trong khi nhiều giải pháp thay thế khác ẩn các lệnh từ chối bên trong JSON phản hồi.

Di chuyển từ Nhà cung cấp Tương thích OpenAI Khác

Chuyển sang mô hình LLM không kiểm duyệt của chúng tôi yêu cầu cập nhật base URL và khóa API. Giải pháp thay thế trực tiếp này hoạt động với các SDK OpenAI tiêu chuẩn. Đầu tiên, tạo khóa của bạn qua Google hoặc email trên trang Get API Key. Thứ hai, trỏ client của bạn đến HTTPS://api.ollamaopenaicompatibleapi.com/v1. Thứ ba, đặt ID mô hình thành "uncensored". Xác minh streaming và sử dụng tools với các đoạn mã sau:

• Copyfrom openai import OpenAI
  
  client = OpenAI(base_url="https://api.ollamaopenaicompatibleapi.com/v1", api_key="YOUR_KEY")
  
  resp = client.chat.completions.create(
      model="uncensored",
      messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
  )
  print(resp.choices[0].message.content)

• Copyimport OpenAI from "openai";
  
  const client = new OpenAI({ baseURL: "https://api.ollamaopenaicompatibleapi.com/v1", apiKey: process.env.API_KEY });
  
  const resp = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
  });
  console.log(resp.choices[0].message.content);

Những Sai Lầm Thường Gặp Trong Lĩnh Vực LLM Không Kiểm Duyệt

Nhà phát triển thường giả định tất cả các điểm cuối tương thích với OpenAI hoạt động giống hệt nhau. Điều này sai. Nhiều nhà cung cấp ẩn các bộ lọc nội dung nghiêm ngặt đằng sau các phản hồi HTTP 200 tiêu chuẩn, trả về văn bản đã lọc thay vì từ chối. Những người khác nhầm lẫn các phiên bản Ollama cục bộ với các API được lưu trữ, dẫn đến những bất ngờ về độ trễ. Bạn phải xác minh ID mô hình phù hợp với kỳ vọng của bạn. Mô hình không kiểm duyệt của chúng tôi sử dụng ID "uncensored" và phục vụ thông qua một API chuyên dụng. Luôn kiểm tra hành vi streaming và giới hạn token trước khi mở rộng. Kiểm tra xem nhà cung cấp có tính phí cho lỗi hay chỉ tính phí cho việc sử dụng token thực tế hay không.