lmrelay
Proxy autenticado en Python para Ollama local y proveedores externos. Resuelve la falta de auth nativa de Ollama permitiendo acceso remoto seguro mediante tokens y unificando endpoints con prefijos de ruta.
Ficha actualizada 25 sept 2026, 9:24 · upstream 25 sept 2026, 9:11 · release 0.0.8
Qué es lmrelay
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
lmrelay es una herramienta que actúa como proxy HTTP credenciado junto a una instalación local de Ollama. Su propósito principal es habilitar el acceso remoto al servidor local sin modificar su configuración systemd o añadir proxies inversos complejos, instalándose simplemente vía pip. El software utiliza FastAPI y Python 3.11+ para gestionar la comunicación, escuchando en un puerto distinto (por defecto 11435) mientras deja Ollama en su estado original (11434).
La arquitectura permite redirigir solicitudes a proveedores externos como OpenAI, Anthropic o DeepSeek mediante prefijos de ruta específicos. Incluye gestión nativa de autenticación con tokens Bearer, límites de tasa configurables por cliente y persistencia de estado en archivos JSON. Es compatible con sistemas operativos Linux, macOS y Windows, aunque la ejecución en segundo plano requiere gestores de procesos como systemd o launchd.
- Acceso remoto seguro a Ollama local desde clientes externos sin exponer el puerto nativo
- Unificación de endpoints para modelos locales y proveedores cloud bajo un mismo proxy
- Implementación de límites de tasa (rate limiting) para proteger recursos locales o evitar abusos
- Gestión centralizada de credenciales para múltiples LLMs en una sola configuración
- Redirección transparente de tráfico entre dialectos API (OpenAI vs Anthropic)
- Soporte nativo para FastAPI y Python 3.11 con bajo consumo de recursos
- Autenticación mediante tokens Bearer configurables por proveedor
- Capacidad de redirigir tráfico a múltiples upstreams (Ollama, OpenAI, Anthropic, Grok)
- Gestión de límites de tasa concurrentes y temporales integrada en la configuración
- Persistencia de estado en archivos JSON para supervivencia ante reinicios
- No incluye Dockerfile ni soporte nativo para orquestación con Docker Compose
- Requiere Python 3.11 o superior, lo que limita entornos más antiguos
- En Windows, la ejecución en segundo plano (serve) no soporta os.fork y requiere consola
- Los tokens generados pueden quedar expuestos en el historial del shell si no se usan variables seguras
- La autenticación está desactivada por defecto para evitar bloqueo accidental al instalar
Capturas del proyecto
Imágenes reales detectadas en la documentación del repositorio.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalar vía pip y ejecutar lmrelay enable para gestionar el proceso con systemd o launchd. Configurar autenticación explícitamente tras la instalación inicial. Exportar configuración antes de migrar entornos usando lmrelay export. Evitar exponer el puerto 11435 sin activar credenciales en producción.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.