DAVIL Cod

English version: README.md

Зачем платить за LLM, когда есть бесплатные?

Твой AI-агент, бот или скрипт использует один OpenAI-совместимый endpoint. За ним DAVIL Cod автоматически распределяет запросы между 18 бесплатными моделями — Groq, Mistral, Gemini, NVIDIA NIM, OpenRouter, ZAI. Если один провайдер упал, перегружен или сжёг дневной лимит — запрос мгновенно уходит на следующий. Ты никогда не видишь «rate limit», и никогда не платишь.

Результат: полноценный LLM-доступ для повседневной работы по цене $0.

Возможности

| | | |---|---| | 🔀 Автопереключение | 18 провайдеров в одной цепочке. Провайдер упал? Следующий уже отвечает. | | 💰 Бесплатно | Только free-модели. Дашборд показывает остаток лимита каждого провайдера. | | ⚡ Умный выбор | Прокси сам находит самый быстрый и стабильный провайдер для каждого запроса. | | 🛡️ Надёжность | Circuit breaker, очередь запросов, автоотключение мёртвых провайдеров, watchdog. | | 📊 Дашборд | Статус, скорость, лимиты, история, токены, RPM-график. | | 💾 Кэш на диске | Повторные промпты не тратят лимиты вообще. | | 🔌 Совместимость | Любой OpenAI-клиент: opencode, Cursor, ChatGPT-аналоги, твои скрипты. |

Быстрый старт — 30 секунд

npx davil-cod init -i     # мастер спросит: пароль + ключи каждого провайдера
npx davil-cod start       # прокси на http://localhost:4000
npx davil-cod test        # проверить, что всё работает

Дашборд: http://localhost:4000/?key=твой_пароль

Или через Docker:

docker run -d --name davil-cod -p 4000:4000 \
  -e PROVIDER_GROQ_APIKEY=... \
  -e PROVIDER_MISTRAL_APIKEY=... \
  -e AUTH=your-secret-key \
  nik951751/davil-cod

Подключение к любому OpenAI-клиенту

| Поле | Значение | |------|----------| | Base URL | http://localhost:4000/v1 | | API Key | твой пароль из init | | Модель | tier-s (быстрая) / tier-splus (мощная) |

Пример для opencode (~/.config/opencode/opencode.jsonc):

{
  "provider": {
    "free-proxy": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DAVIL Cod",
      "options": {
        "baseURL": "http://localhost:4000/v1",
        "apiKey": "your-secret-key-here"
      },
      "models": {
        "tier-splus": { "name": "DAVIL Cod (Best)", "input": ["text"] },
        "tier-s": { "name": "DAVIL Cod (Fast)", "input": ["text"] }
      }
    }
  }
}

Поддерживаемые провайдеры

| Провайдер | Модели | Где ключ | Лимит/день | |-----------|--------|----------|------------| | Groq | gpt-oss-120b, qwen-27b | console.groq.com | 1000 | | Mistral | codestral, small | console.mistral.ai | 500K ток | | NVIDIA NIM | deepseek, llama, vision | build.nvidia.com | 40 | | Gemini | gemini-3.6-flash, vision | aistudio.google.com | 1500 | | OpenRouter | cohere-north, glm, nemotron, ox-alpha | openrouter.ai | 50-100 | | ZAI | glm-4.7-flash | open.bigmodel.cn | 1000 |

Каталог расширяемый: добавь модель в providers.json — и она попадёт в пул. Провайдеры, недоступные твоему ключу (404), отключаются автоматически.

Как это работает

1. Приходит запрос на /v1/chat/completions (формат OpenAI).
2. DAVIL Cod выбирает лучший провайдер: здоровый, под лимитом, самый быстрый сегодня.
3. Если запрос не прошёл — мгновенно пробует следующий из цепочки.
4. Ответ возвращается клиенту в том же формате — клиент ничего не замечает.

Разработка

npm test          # unit-тесты (17 шт.)
node server.js    # запуск из исходников

Конфигурация

Ключи — только в .env (не в git):

PROVIDER_GROQ_APIKEY=...       # Groq
PROVIDER_MISTRAL_APIKEY=...    # Mistral
PROVIDER_GEMINI_APIKEY=...     # Gemini
PROVIDER_NIM_APIKEY=...        # NVIDIA NIM
PROVIDER_OPENROUTER_APIKEY=... # OpenRouter
PROVIDER_ZAI_APIKEY=...        # ZAI

Параметры сервера — в config.json или env:

| Параметр | Env | По умолчанию | |----------|-----|--------------| | Порт | PORT | 4000 | | Пароль | AUTH | пусто (нет auth) | | Лимит запросов/мин | config.json → rateLimit | 100/мин |

Провайдеры — каталог в providers.json (18 моделей). Добавить свой: впиши его в config.json → providers (формат как в providers.json).

Команды CLI

npx davil-cod init              # создать конфиг
npx davil-cod init -i           # интерактивный мастер (ключи, пароль)
npx davil-cod start             # запустить прокси
npx davil-cod status            # диагностика: провайдеры, лимиты, ошибки
npx davil-cod test              # проверить, что работает
npx davil-cod install-service   # автозапуск при старте системы
npx davil-cod dashboard         # открыть дашборд

FAQ

Это законно? Да. Ты подключаешь свои бесплатные ключи провайдеров — просто получаешь единый надёжный доступ к ним всем.

Сколько это стоит? $0. Только лимиты бесплатных тарифов провайдеров.

Какие модели самые быстрые? Прокси сам измеряет и выбирает. Сейчас лидируют Qwen (Groq, ~300ms) и cohere-north (OpenRouter).

Могу добавить свой провайдер? Да — впиши его в config.json или providers.json.

Это только для opencode? Нет. Любой OpenAI-совместимый клиент (см. examples/ — Cursor, Claude Code, скрипты).

Инструменты (tools/)

Генератор шортс — tools/generate_shorts.py

Бесплатная генерация вертикальных видео (9:16) через MiniMax H3 (видео + звук из одного промпта) или Wan 2.1. Работает через онлайн-демо Hugging Face — GPU в облаке, без установки.

cd tools
uv venv .venv && uv pip install --python .venv/bin/python -r requirements.txt
export HF_TOKEN=hf_xxx            # бесплатно: huggingface.co → settings/tokens
./.venv/bin/python generate_shorts.py "Cozy morning scene, warm light" --format 9:16 --duration 5

Каталог готовых промптов: tools/prompts.md.

Лицензия

MIT