RouterLLM
Gateway Go para APIs LLM compatible con OpenAI. Rutea peticiones entre múltiples proveedores (Forge, Cline, Google) con failover automático y traducción de formatos Anthropic↔OpenAI↔Gemini. Incluye gestión de claves multi-key y soporte Docker.
Ficha actualizada 26 sept 2026, 11:19 · upstream 26 sept 2026, 10:59 · release sin release detectada
Qué es RouterLLM
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
RouterLLM es un proxy ligero escrito en Go que actúa como puerta de entrada para APIs de modelos de lenguaje grandes (LLMs). Acepta solicitudes compatibles con OpenAI (`/v1/chat/completions`, `/v1/responses`) y las enruta a proveedores upstream configurados, gestionando la autenticación y traducción de esquemas entre diferentes estilos de API. Soporta failover automático cuando una clave falla (401/402/403) o errores temporales (429/5xx), rotando claves en un grupo para mantener la disponibilidad del servicio sin intervención manual inmediata.
El sistema traduce automáticamente las peticiones entre dialectos de razonamiento, permitiendo usar parámetros como `reasoning_effort` o `thinking_budget` independientemente del proveedor subyacente (OpenAI, Anthropic, Gemini). Incluye soporte para autenticación mediante OAuth device flow para proveedores específicos como Codex, Cline y Alysis, almacenando tokens en archivos locales que se montan en contenedores Docker.
Los endpoints expuestos incluyen salud (`/health`), listado de modelos (`/v1/models`) y rutas completas para chat y respuestas. La configuración se gestiona mediante un archivo YAML centralizado con variables de entorno para claves API, permitiendo despliegues simples o complejos según las necesidades del equipo de infraestructura.
- Unificar múltiples proveedores LLM en una única interfaz compatible con OpenAI
- Implementar failover automático entre claves API cuando una se agota o falla
- Traducir peticiones Anthropic a formato OpenAI sin modificar el cliente
- Gestionar cuentas OAuth (Codex, Cline) mediante tokens almacenados localmente
- Centralizar configuración de modelos y parámetros de razonamiento en un archivo YAML
- Failover multi-key automático con periodo de enfriamiento tras errores 401/402/403
- Traducción bidireccional de esquemas entre Anthropic, OpenAI y Gemini
- Soporte nativo para OAuth device flow en proveedores específicos (Codex, Cline)
- Configuración modular vía YAML con variables de entorno para claves API
- Endpoints compatibles con OpenAI (`/v1/chat/completions`, `/v1/models`)
- Requiere Go 1.26.4+ para compilación desde fuente (no es binario precompilado)
- No soporta WebSocket ni caché de prompts en sesiones largas de agentes
- Proveedores estilo Google no admiten endpoints `/v1/responses` o `/v1/files`
- Tokens OAuth almacenados localmente requieren montaje correcto en Docker
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Compilar con `go run ./cmd/routerllm` o usar Docker Compose. Configurar `.env` con claves API antes de iniciar. Para proveedores OAuth (Codex, Cline, Alysis), ejecutar el comando de login (`--codex-login`, etc.) en el host antes de montar los archivos JSON en el contenedor. Puerto por defecto 1765.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.