adaptive-llm-gateway
Un gateway de LLM auto-discovery que convierte suscripciones de pago en una API unificada compatible con OpenAI/Anthropic, con defensa contra inyección de prompts, redacción de PII y rutas adaptativas basadas en costo.
Ficha actualizada 23 sept 2026, 9:35 · upstream 23 sept 2026, 9:16 · release sin release detectada
Qué es adaptive-llm-gateway
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
El Adaptive LLM Gateway es un servidor de puerta de enlace para modelos de lenguaje (LLM) autocontenido que transforma suscripciones a tarifas fijas como Claude Code Max, ChatGPT Plus, GitHub Copilot, Microsoft 365 Copilot y Gemini en una API única compatible con OpenAI. Ofrece un sistema de billetera unificada de suscripciones, passthrough OAuth sobre /v1/responses, defensa contra inyección de prompts y protección de datos personales (PII). Además incluye un servidor MCP, caché semántica, historial temporal de llamadas y un sistema de costos adaptativo que aprende automáticamente el mejor modelo para cada tarea.
- Unirse a múltiples planes de IA (Claude Code Max + ChatGPT Plus) desde una sola API con un solo token pool
- Integración segura en entornos regulados donde no se pueden enviar código fuente a terceros
- Desarrollo de IDEs que necesitan acceso a múltiples servicios de IA sin configurar claves por cada uno
- Escalabilidad horizontal mediante passthrough OAuth para múltiples clientes compartiendo un plan único
- Automatización de flujos de trabajo con guardado de trazas de razonamiento y capacidad de re-play temporal
- Reducción de costos mediante rutas adaptativas que elige modelos según rendimiento real vs. costo
- Defensa contra inyección de prompts con detección de OWASP LLM-01 en menos de 5 ms por patrón
- Redacción automática y restauración de PII (email, teléfono, tarjetas de crédito) según GDPR/HIPAA
- Rutas adaptativas que aprenden el modelo más eficiente para cada tarea sin intervención manual
- Servidor MCP nativo compatible con Claude Desktop, Cursor, Zed AI y Cline
- Caché semántica basado en embeddings para reducir llamadas a modelos costosos
- Dashboard gamificada de ahorro de costos basada en rendimiento real vs. costo
- Passthrough OAuth que permite usar planes gratuitos como ChatGPT Plus sin claves API
- El sistema de aprendizaje automático de rutas es un modelo probabilístico y puede fallar en casos extremos o con datos insuficientes
- La redacción de PII requiere configuración manual del tipo de dato detectado, lo que limita la escalabilidad automática
- No incluye capacidades de razonamiento profundo (deep reasoning) ni generación de código completo
- El passthrough OAuth depende de un servidor codex-bridge separado y puede introducir latencia adicional
- La defensa contra inyección es estática y no detecta ataques sofisticados o nuevos sin reentrenamiento
- No incluye capacidades de voz (STT/TTS) ni generación multimodal completa
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalación con Docker Compose en un entorno local. Configurar `CODEX_BRIDGE_URL` para el passthrough OAuth. En producción, usar un contenedorizado separado (Kubernetes) y configurar el gateway como servicio de red externa. El sistema de caché debe ser replicado entre nodos. Monitorear métricas de costo con Prometheus/Grafana. Actualizar la imagen cada vez que se compilen los modelos para evitar drift en la ruta optimizada.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.