OmnisRouter
OmnisRouter es un proxy de ruteo LLM abierto y autocontenido que asigna cada solicitud a el modelo más económico capaz, con registro transparente por petición.
Ficha actualizada 22 sept 2026, 19:20 · upstream 22 sept 2026, 19:14 · release v1.1.0
Qué es OmnisRouter
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
OmnisRouter es un proxy de ruteo de lenguaje de gran escala (LLM) abierto y autocontenido. Permite redirigir cada solicitud hacia el modelo más económico disponible en una lista de proveedores, incluyendo Anthropic, OpenAI y Gemini, con soporte para formatos como Anthropic Messages, OpenAI Chat Completions y Gemini. El proxy ofrece ruteo reproducible, BYOK (Bring Your Own Key) y un registro detallado por petición que muestra qué modelo fue seleccionado, la confianza del router, las alternativas consideradas y el ahorro económico. El modelo de ruteo es versionable y reproducible desde datos públicos, sin usar modelos ocultos o probabilidades no verificables.
El proxy acepta solicitudes en varios formatos: Anthropic Messages, OpenAI Chat Completions y Gemini. Transfiere fielmente los estilos de respuesta, streaming, herramientas (tools), visión (vision) y caché (prompt caching). El modelo de ruteo se construye mediante un proceso offline determinista basado en datos públicos, con una política de codificación y matemáticas derivada de las mediciones reales del OmnisBench.
El proxy soporta BYOK: no asigna modelos que no haya habilitado explícitamente. Si un modelo candidato no puede cumplir una capacidad requerida (por ejemplo, visión o caché), el router devuelve un error explícito en lugar de silenciar la solicitud. El prompt se envía solo al proveedor seleccionado, manteniendo la privacidad del usuario.
El proxy soporta autenticación con tokens de acceso y gestión de claves por proveedor. Las claves se almacenan cifradas en reposo (AES-256-GCM). Se puede usar un modelo local con SQLite o Docker Compose para despliegue sin necesidad de .NET o contenedores.
El proxy incluye una función de "collect" que lee transcripciones locales de Claude Code y reporta el uso a un dashboard, permitiendo monitoreo del consumo sin generar contenido nuevo. También soporta un modo tray para ejecutar el proxy como aplicación de escritorio en Windows.
La configuración incluye opciones para habilitar limpieza de caché (normalización de líneas terminadas, eliminación de espacios sobrantes, ordenamiento de herramientas) y medición de gasto por caché, con opción de enviar reportes a Om
- Redirigir solicitudes a modelos más económicos según el presupuesto del usuario, manteniendo calidad suficiente
- Implementar BYOK (Bring Your Own Key) para evitar costos ocultos o límites de tokens en proveedores gratuitos
- Ahorro económico al seleccionar modelos con menor costo por token que los líderes del mercado
- Transparencia total: el usuario sabe exactamente qué modelo fue elegido y por qué, sin black-boxes
- Gestión de múltiples proveedores (Anthropic, OpenAI, Gemini) en un solo proxy centralizado
- Monitoreo de costos con reportes automáticos a OmnisVigil o dashboards personalizados
- Autenticación segura mediante tokens y gestión de claves por proveedor
- Soporte para formatos de API diversos (Anthropic Messages, OpenAI Chat Completions, Gemini)
- Ruteo transparente: el usuario recibe un registro detallado (JSON NDJSON) que muestra exactamente qué modelo fue elegido, la confianza del router, las alternativas consideradas y el ahorro económico
- BYOK con verificación explícita: no se asignan modelos que no haya habilitado; si un modelo no cumple una capacidad requerida, el router devuelve un error
- Modelo de ruteo reproducible: construido mediante un proceso offline determinista basado en datos públicos del OmnisBench, garantizando consistencia entre builds
- Caché inteligente con limpieza automática: normaliza líneas terminadas, elimina espacios sobrantes y ordena herramientas; la medición de gasto por caché es transparente
- BYOK con cifrado AES-256-GCM en reposo: las claves se almacenan de forma segura sin exponerlas a los usuarios finales
- Soporte para múltiples proveedores (Anthropic, OpenAI, Gemini) desde un solo proxy centralizado
- Opción de "collect" para monitorizar el uso real de modelos locales sin generar contenido nuevo
- Configuración flexible: permite habilitar o deshabilitar caché, medir gastos y enviar reportes a OmnisVigil con configuración por entorno
- El modelo de ruteo se construye offline mediante un proceso determinista basado en datos públicos; no se puede ajustar dinámicamente durante el runtime
- La política de caché depende de la configuración del usuario y no tiene mecanismos automáticos para detectar cambios en los prompts o APIs sin intervención manual
- El proxy no es compatible con modelos que no soporten streaming nativo (por ejemplo, algunos modelos de Anthropic)
- No hay soporte explícito para modelos multimodales avanzados como DALL-E 3 o Gemini Advanced Vision
- La capacidad de caché depende del tamaño de la respuesta y puede ser ineficiente para respuestas muy largas
- El proxy no tiene capacidades nativas de razonamiento profundo (deep reasoning) ni de planificación a largo plazo
- No hay soporte para múltiples tokens en una sola solicitud (multi-token completion)
- La configuración de caché requiere reinicio del servicio si se cambian las opciones
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Se puede desplegar con Docker Compose usando un archivo docker-compose.yml que incluye el proxy, base de datos PostgreSQL y Redis para caché,Opción sin contenedores: construir el proyecto con .NET SDK y ejecutarlo directamente como servicio local o en Kubernetes,El proxy requiere una base de datos (PostgreSQL opcional) para persistir prompts, decisiones de ruteo y claves de acceso; se puede usar SQLite como alternativa ligera,Para producción recomendada: desplegar el proxy con autenticación, caché activa, BYOK habilitado y monitoreo en producción,Si se usa OmnisVigil para monitorizar gastos, se debe configurar un plan de suscripción o usar Billing=PayAsYouGo,El proxy es compatible con .NET 10; versiones anteriores no soportan las nuevas APIs de Anthropic y Gemini,Para despliegue en Kubernetes: se recomienda usar el archivo docker-compose.yml como base, configurar RBAC para permisos de ac
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.