Průvodce rychlým startem API Abliterate

Nainstalujte standardní SDK OpenAI

Začněte instalací oficiální knihovny pro váš preferovaný jazyk. To zajišťuje kompatibilitu s naší základní URL a metodami ověřování.

Konfigurujte svou základní URL a klíč

Nasměrujte svého klienta na HTTPS://api.abliterate.cc/v1 a použijte svůj jedinečný API klíč. Na účet získáte jeden aktivní klíč, který obdržíte okamžitě po registraci přes Google nebo e-mail.

• Základní URL: HTTPS://api.abliterate.cc/v1
• Ověření: Bearer token přes Authorization hlavička

Toto nastavení funguje s jakýmkoli standardním klientem kompatibilním s OpenAI.

Odeslat První požadavek na dokončení

Odeslat požadavek POST na /v1/chat/completions pomocí ID modelu uncensoredModel zpracovává text na vstup a text na výstup bez obecných zábran.

Copycurl https://api.abliterate.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top five Python libraries for web scraping in 2024"}]
  }'

Zkontrolujte odpověď na generovaný text. Můžete upravit parametry jako temperature pro kreativitu nebo top_p pro rozmanitost.

Povolit streamování pro výstup v reálném čase

Nastavit stream: true pro přijímání tokenů prostřednictvím Server-Sent Events (SSE). To poskytuje plynulejší zážitek pro chatová rozhraní.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Poslední blok obsahuje celkové využití tokenů. Streamování funguje pro všechny standardní parametry.

Použijte Volání nástrojů a režim JSON

Povolte strukturované výstupy s response_format: {"type": "json_object"} pro konzistentní analýzu. Můžete také použít tools a tool_choice pro volání funkcí.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliterate.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tyto funkce fungují společně se standardními parametry jako stop sekvenční a seed pro reprodukovatelnost.

Zvládněte chyby a limity tokenů

Sledujte kódy stavu HTTP pro běžné problémy. 401 znamená, že váš klíč je neplatný nebo chybí. 402 indikuje nedostatečný předplacený kredit. 429 signalizuje, že jste dosáhli limitu 300 požadavků za minutu.

Okno kontextu má celkem 100 000 tokenů. Maximální výstup je 16 000 tokenů na požadavek. Chyby a odmítnutí nespotřebovávají váš kredit.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliterate.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);