olp
OpenLLMProxy es una puerta de entrada auto-alojada para IA que unifica múltiples proveedores (OpenAI, Anthropic, Gemini) bajo APIs compatibles. Construido en Go y SvelteKit, gestiona rutas, claves y políticas de contenido para despliegues locales o edge.
Ficha actualizada 24 sept 2026, 16:13 · upstream 24 sept 2026, 15:47 · release v2.3.0
Qué es olp
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
OpenLLMProxy actúa como un plano de control y gateway para servicios de inteligencia artificial, permitiendo a los desarrolladores interactuar con modelos de proveedores certificados mediante interfaces estandarizadas compatibles con OpenAI, Anthropic y Gemini. El sistema centraliza la gestión de credenciales, enrutamiento de tráfico y políticas de seguridad, facilitando el despliegue sin depender directamente de las APIs públicas de cada proveedor.
Está implementado principalmente en Go para el backend y SvelteKit para la interfaz de administración, utilizando PostgreSQL para persistencia de datos y Valkey (fork de Redis) para estado aislado. La arquitectura soporta modos separados de gateway, control y worker, permitiendo una escalabilidad modular donde los workers gestionan contabilidad y reconciliación de medios.
El proyecto prioriza la seguridad y el cumplimiento mediante licencias AGPL-3.0, incluyendo mecanismos para recuperación de claves maestras, rotación de credenciales y auditoría de telemetría que excluye prompts y contenido sensible por defecto. La documentación cubre exhaustivamente la compatibilidad, enrutamiento de proveedores y procedimientos de despliegue en producción.
- Unificar múltiples modelos de IA bajo una única API compatible con OpenAI.
- Gestionar credenciales y claves de API centralizadas para diferentes proveedores.
- Implementar políticas de contenido y moderación antes de enviar peticiones a proveedores externos.
- Desplegar soluciones de IA en infraestructura privada (self-hosted) sin exponer datos sensibles.
- Crear rutas personalizadas que dirijan tráfico a modelos específicos basados en latencia o precio.
- Compatibilidad multi-proveedor nativa con OpenAI, Anthropic y Gemini bajo una misma infraestructura.
- Arquitectura modular que separa funciones de gateway, control y worker para mayor escalabilidad.
- Gestión robusta de seguridad con soporte para rotación de claves maestras y recuperación de cuentas.
- Interfaz administrativa moderna construida con SvelteKit para gestión de proyectos y rutas.
- Telemetría persistente que protege la privacidad excluyendo prompts y credenciales por defecto.
- Requiere configuración manual de secretos y variables de entorno para producción segura.
- La migración de datos desde versiones anteriores (Rust) a Go no está soportada directamente.
- Dependencia de PostgreSQL y Valkey, requiriendo gestión externa de bases de datos.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Utilizar `docker compose` para despliegue inicial con variables de entorno `.env`. Configurar `OLP_PUBLIC_ORIGIN` y token de bootstrap en `deploy/secrets/olp_bootstrap_token`. Para producción, seguir la guía de configuración y asegurar capacidad de CPU/RAM adecuada (mínimo 2 núcleos/2GB RAM según análisis técnico). Eliminar el overlay de bootstrap tras la inicialización.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.