Совместимые форматы
LLMoxy поддерживает несколько форматов запросов. Для миграции существующим приложениям обычно достаточно заменить базовый URL и ключ API.
Совместимость с OpenAI
Конфигурация SDK OpenAI:
TS
Основные маршруты:
| Маршрут | Назначение |
|---|---|
POST /v1/chat/completions | Chat Completions. |
POST /v1/completions | Устаревшие текстовые дополнения. |
POST /v1/responses | Responses API. |
POST /v1/embeddings | Embeddings. |
POST /v1/images/generations | Генерация изображений. |
POST /v1/audio/transcriptions | Аудиотранскрипция. |
POST /v1/audio/translations | Аудиоперевод. |
POST /v1/audio/speech | Преобразование текста в речь. |
GET /v1/realtime | WebSocket Realtime. |
Anthropic Messages
BASH
Маршруты Anthropic принимают system, max_tokens, temperature, top_p, top_k, stop_sequences, tools, tool_choice, thinking, metadata.user_id и другие поля.
Gemini
BASH
Списки моделей в стиле Gemini можно получить через GET /v1beta/models.
Ещё не реализованные маршруты
В настоящее время Relay возвращает «не реализовано» для следующих маршрутов, совместимых с OpenAI:
POST /v1/images/variations/v1/files/v1/fine-tunesDELETE /v1/models/{model}
