mlpal-gateway
Open-source AI gateway — one API for Anthropic, OpenAI, Google, Bedrock and custom models. Routing, per-request cost metering, per-key budgets, admin console. Self-hosted with docker compose.
Ficha actualizada 22 sept 2026, 19:25 · upstream 22 sept 2026, 19:04 · release sin release detectada
Qué es mlpal-gateway
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
MLPal Gateway es un servicio de puerta de enlace para inteligencia artificial que ofrece una única API para múltiples proveedores de modelos como Anthropic, OpenAI, Google y AWS Bedrock. Permite la gestión del tráfico entre diferentes modelos, el control de costos por solicitud y el acceso restringido por clave. Se puede ejecutar localmente con docker compose o en producción a través de un servicio cloud.
- Orquestación de agentes de IA que deben comunicarse con múltiples proveedores
- Gestión de costos por solicitud para modelos costosos como LLMs
- Control de acceso y políticas de uso por clave API
- Observabilidad y métricas en tiempo real sobre rendimiento
- Soporte multi-proveedor sin necesidad de cambiar el código del cliente
- Servicio de chatbots con diferentes modelos según contexto
- Una sola API para todos los proveedores: un solo endpoint POST /v1/messages que sirve a Anthropic, OpenAI, Google y Bedrock
- Sistema de etiquetas (tags) en el router que permite seleccionar el modelo más adecuado sin modificar el código del cliente
- Medición de costos por cada respuesta con métricas detalladas como tokens usados y unidades computacionales
- Control granular por clave API: políticas, presupuestos y límites de uso por identificador único
- Observabilidad completa: trazas de solicitud, latencia p50/p95, tiempo hasta primera token y captura de payloads
- Preservación de semántica del proveedor: caché, herramientas (tools) y formato de respuesta se transmiten intactos
- Diseñado para un solo servidor (no escala horizontalmente), lo que limita la capacidad de manejar múltiples clientes simultáneos
- No incluye integración nativa con MCP servers ni con frameworks como LangChain o LlamaIndex
- Formato de comunicación basado en el wire de Anthropic, limitando la interoperabilidad con otros proveedores
- Gestión manual de claves API: se requiere mantener un registro centralizado para cada proveedor y no hay autenticación automática
- No incluye soporte nativo para modelos que requieran llaves privadas o credenciales sensibles
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Para desplegar localmente, ejecuta `docker compose up` en el proyecto. Para producción, usa un servicio cloud como AWS ECS o Azure Kubernetes Service con la imagen de Docker oficial. Configura las claves API en variables de entorno (`.env`) y activa los adapters según tus proveedores. El admin console está disponible en http://localhost:8080 para gestionar claves, políticas y métricas. Para usar el catálogo de modelos actualizado, activa `MLPAL_CATALOG_FEED=hosted` o usa la API pública de mlpal.ai.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.