Посібник зі швидкого старту API Abliterate

Встановіть стандартну SDK OpenAI

Почніть із встановлення офіційної бібліотеки для бажаної мови. Це забезпечує сумісність з нашою базовою URL-адресою та методами автентифікації.

Налаштуйте ваш базовий URL та ключ

Направте свій клієнт на HTTPS://api.abliterate.cc/v1 та використовуйте свій унікальний API-ключ. Ви отримуєте один активний ключ на акаунт, який надається миттєво після реєстрації через Google або електронну пошту.

• Базова URL-адреса: HTTPS://api.abliterate.cc/v1
• Автентифікація: Bearer-токен через Authorization header

Ця конфігурація працює з будь-яким стандартним клієнтом, сумісним з OpenAI.

Надішліть свій перший запит на завершення

Надішліть POST-запит на /v1/chat/completions за допомогою ідентифікатора моделі uncensored. Модель обробляє текст вхідний і текст вихідний без загальних обмежень.

Copycurl https://api.abliterate.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top five Python libraries for web scraping in 2024"}]
  }'

Перевірте відповідь на наявність згенерованого тексту. Ви можете налаштувати такі параметри, як temperature для творчості або top_p для різноманітності.

Увімкнути потокову передачу для виводу в реальному часі

Встановити stream: true отримувати токени через Server-Sent Events (SSE). Це забезпечує більш плавний досвід для чат-інтерфейсів.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Останній фрагмент містить загальне використання токенів. Потокове передавання працює для всіх стандартних параметрів.

Використовуйте Виклик інструментів та режим JSON

Увімкніть структуровані виводи з response_format: {"type": "json_object"} для послідовного парсингу. Ви також можете використовувати tools та tool_choice для виклику функцій.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliterate.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ці функції працюють разом із стандартними параметрами, такими як stop послідовності та seed для відтворюваності.

Обробка помилок та лімітів токенів

Моніторьте коди стану HTTP для виявлення поширених проблем. Помилка 401 означає, що ваш ключ недійсний або відсутній. Помилка 402 вказує на недостатність передоплачених кредитів. Помилка 429 сигналізує про досягнення ліміту в 300 запитів на хвилину.

Розмір контекстного вікна становить 100 000 токенів загалом. Максимальний вивід — 16 000 токенів за запит. Помилки та відмови не списують ваш кредит.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliterate.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);