Обзор API

1curl https://api.internal:8080/v1/chat/completions \
2  -H "Authorization: Bearer sk_live_your_api_key_here" \
3  -H "Content-Type: application/json" \
4  -H "X-Request-ID: req_$(uuidgen)" \
5  -H "X-Tenant-ID: bank_retail" \
6  -d '{
7    "model": "llama-3-70b-chat",
8    "messages": [
9      {
10        "role": "system",
11        "content": "Вы - помощник банка. Отвечайте на русском языке."
12      },
13      {
14        "role": "user",
15        "content": "Какие документы нужны для открытия счёта?"
16      }
17    ],
18    "temperature": 0.7,
19    "max_tokens": 500,
20    "stream": false
21  }'

1{
2  "id": "chatcmpl-abc123def456",
3  "object": "chat.completion",
4  "created": 1706745600,
5  "model": "llama-3-70b-chat",
6  "choices": [
7    {
8      "index": 0,
9      "message": {
10        "role": "assistant",
11        "content": "Для открытия счёта физическому лицу потребуются следующие документы:\n\n1. Паспорт гражданина РФ\n2. ИНН (при наличии)\n3. СНИЛС\n\nДля юридических лиц дополнительно..."
12      },
13      "finish_reason": "stop"
14    }
15  ],
16  "usage": {
17    "prompt_tokens": 45,
18    "completion_tokens": 150,
19    "total_tokens": 195
20  },
21  "system_fingerprint": "fp_llama3_70b_v1"
22}

{
  "error": {
    "code": "invalid_api_key",
    "message": "Указанный API ключ недействителен или отозван.",
    "type": "authentication_error",
    "param": null,
    "request_id": "req_abc123def456"
  }
}

1from coren import CorenClient
2from coren.exceptions import (
3    AuthenticationError,
4    RateLimitError,
5    APIError,
6    PolicyViolationError
7)
8
9client = CorenClient(base_url="https://api.internal:8080")
10
11try:
12    response = client.chat.completions.create(
13        model="llama-3-70b-chat",
14        messages=[{"role": "user", "content": "Помогите с кредитом"}]
15    )
16except AuthenticationError as e:
17    logger.error(f"Ошибка аутентификации: {e.message}")
18    # Проверьте API ключ
19except RateLimitError as e:
20    logger.warning(f"Лимит превышен. Повтор через {e.retry_after} сек")
21    # Реализуйте exponential backoff
22except PolicyViolationError as e:
23    logger.error(f"Нарушение политики: {e.message}")
24    # Запрос заблокирован guardrails
25except APIError as e:
26    logger.error(f"Ошибка API ({e.status_code}): {e.message}")
27    # Обработка других ошибок