openllms
openllms es un gateway auto-alojado compatible con la API de OpenAI que centraliza múltiples cuentas de proveedores (OpenAI, Anthropic, etc.). Gestiona automáticamente las cuotas restantes y distribuye el tráfico entre ellas para evitar agotar una cuenta específica. Funciona como middleware gratuito
Ficha actualizada 26 sept 2026, 22:28 · upstream 26 sept 2026, 22:05 · release sin release detectada
Qué es openllms
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
openllms actúa como un gateway compatible con la API de OpenAI que permite centralizar múltiples cuentas de proveedores de modelos de lenguaje (como OpenAI, Anthropic) en una única interfaz API. Esto facilita el uso de herramientas como Cursor, VS Code o scripts personalizados mediante una sola base URL y una clave API (`sk-gt-...`), eliminando la necesidad de gestionar credenciales individuales para cada proveedor.
- Unificar múltiples cuentas gratuitas y pagas en una única API para aplicaciones como Cursor o agentes autónomos.
- Balancear automáticamente la carga entre cuentas para evitar agotar los límites de cuota diarios de un único proveedor.
- Despliegue local sin dependencias de Docker mediante binarios Go nativos (requiere Go 1.24+).
- Gestionar claves API centralizadas y rotación de credenciales para agentes de IA locales.
- Pruebas de integración con herramientas que requieren compatibilidad estricta con la especificación OpenAI.
- Licencia MIT y despliegue auto-alojado completamente gratuito sin costes por uso del gateway.
- Compatibilidad nativa con la especificación oficial de OpenAI para chat completions y embeddings.
- Estrategias de enrutamiento avanzadas basadas en cuotas, tiempos de reinicio o fallos (failover).
- Persistencia de datos local utilizando SQLite y almacenamiento de secretos en archivos.
- Interfaz de línea de comandos (CLI) incluida para gestión de rutas, cuentas y claves sin UI.
- Soporte para múltiples proveedores incluyendo OpenAI, Anthropic y Codex.
- La versión local no incluye panel de administración ni interfaz de facturación; estas funciones están en la instancia alojada.
- Requiere Go 1.24+ para compilación nativa o Docker Engine con Compose para despliegue contenedorizado.
- El bindeo por defecto es a localhost (127.0.0.1), lo que impide acceso directo sin configuración de red adicional.
- No incluye marketplace de tokens; el usuario debe proveer sus propias claves API de los proveedores upstream.
- El token de bootstrap (`local-dev-bootstrap`) debe configurarse manualmente y no es seguro para entornos públicos.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Recomendado Docker Compose para simplicidad o binario Go si hay problemas de TLS corporativo. Asegurar permisos de escritura en el volumen `./data/`. Respaldo obligatorio de `./data/llms.db` y `./data/secrets/`. No exponer la interfaz de bootstrap a redes públicas. Configurar `HTTP_ADDR` para escucha externa si es necesario.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.