Szybki start z API Abliterate

Zainstaluj standardowe SDK OpenAI

Zacznij od zainstalowania oficjalnej biblioteki dla wybranego języka. Zapewnia to kompatybilność z naszym bazowym adresem URL i metodami uwierzytelniania.

Skonfiguruj swój podstawowy URL i Klucz

Wskaż swojego klienta na HTTPS://api.abliterate.cc/v1 i użyj swojego unikalnego klucza API. Otrzymujesz jeden aktywny klucz na konto, który otrzymujesz natychmiast po rejestracji za pomocą Google lub e-maila.

• Bazowy URL: HTTPS://api.abliterate.cc/v1
• Autoryzacja: token Bearer przez Authorization nagłówek

To rozwiązanie działa z dowolnym standardowym klientem kompatybilnym z OpenAI.

Wyślij swoje pierwsze żądanie uzupełnienia

Wyślij żądanie POST do /v1/chat/completions z identyfikatorem modelu uncensored. Model przetwarza tekst w i tekst w bez ogólnych osłon.

Copycurl https://api.abliterate.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top five Python libraries for web scraping in 2024"}]
  }'

Sprawdź odpowiedź pod kątem wygenerowanego tekstu. Możesz dostosować parametry takie jak temperature do kreatywności lub top_p dla różnorodności.

Włącz Strumieniowanie dla Outputu w Czasie Rzeczywistym

Ustaw stream: true otrzymywania tokenów za pośrednictwem Server-Sent Events (SSE). Zapewnia to gładsze doświadczenie dla interfejsów czatu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ostatni kawałek zawiera całkowite użycie tokenów. Strumieniowanie działa dla wszystkich standardowych parametrów.

Użyj Wywoływania Narzędzi i Trybu JSON

Włącz wyjścia strukturalne z response_format: {"type": "json_object"} dla spójnego parsowania. Możesz również użyć tools i tool_choice dla wywoływania funkcji.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliterate.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Te funkcje działają wraz ze standardowymi parametrami takimi jak stop sekwencje i seed dla powtarzalności.

Obsługa błędów i limitów tokenów

Monitoruj kody statusu HTTP dla powszechnych problemów. Błąd 401 oznacza, że Twój klucz jest nieprawidłowy lub brakujący. Błąd 402 wskazuje na niewystarczające prepaydowane kredyty. Błędy nie zużywają Twojego salda tokenów. Limity szybkości wymuszają 300 żądań na minutę na klucz. Żądania współbieżne są ograniczone do 8. Okno kontekstu obsługuje 100,000 tokenów.

Okno kontekstowe wynosi łącznie 100 000 tokenów. Maksymalna liczba tokenów wyjściowych na żądanie to 16 000. Błędy i odrzucenia nie zużywają Twojego kredytu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliterate.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);