skirnir
Skirnir es un enrutador inteligente para Ollama que gestiona múltiples nodos GPU, detectando estados de carga y roles en lugar de nombres de modelos.
Ficha actualizada 24 sept 2026, 18:39 · upstream 24 sept 2026, 18:37 · release v0.1.0
Qué es skirnir
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Skirnir actúa como un enrutador inteligente frente a instalaciones de Ollama, presentándose como un único servidor a los clientes. Permite asignar roles (`standard`, `code`) en lugar de nombres de modelos específicos, optimizando el uso de VRAM y contexto según la carga actual del hardware. El sistema detecta cuándo una GPU está ocupada por juegos y redirige las solicitudes o descarga modelos pesados para liberar memoria.
La arquitectura soporta múltiples nodos (Windows/Linux) mediante agentes Go que mantienen túneles seguros, eliminando la necesidad de puertos abiertos en los clientes. Incluye un motor de decisión automático (`auto:latest`) que selecciona roles basándose en el texto del prompt con alta precisión, y permite integrar modelos de proveedores cloud como Anthropic o OpenAI como capas finales de los roles.
Ofrece una interfaz web completa para monitorización, edición de roles y pruebas de carga, además de métricas Prometheus y descubrimiento MQTT para Home Assistant. Todo el tráfico se cifra con TLS y se gestionan identidades de cliente mediante autenticación básica o tokens Bearer, garantizando seguridad en entornos domésticos sin infraestructura compleja.
- Gestión de GPU compartidas entre gaming e IA
- Enrutamiento automático basado en roles y capacidades
- Integración con ecosistema Home Assistant
- Fallback a proveedores cloud con control de presupuesto
- Balanceo de carga entre múltiples nodos locales
- Detección de estado GPU para evitar interferencia con juegos
- Sistema de roles y capas en lugar de nombres de modelos fijos
- Integración nativa con Home Assistant vía MQTT
- Soporte para modelos cloud con control de egress y presupuesto
- Sin base de datos, configuración basada en archivos YAML
- Versión 0.1.0 sin garantías de estabilidad a largo plazo
- No incluye soporte nativo para Docker o Compose
- Requiere conocimientos de Python y systemd para despliegue
- Desarrollado por un solo contribuidor hasta la fecha
Capturas del proyecto
Imágenes reales detectadas en la documentación del repositorio.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Despliega en Debian con Python 3.11 y systemd. No usar Docker. Configurar puertos 11434 y 11435 con TLS. Requiere Ollama instalado en nodos locales. Verificar `config.yaml` y `roles.yaml`. Asegurar que los agentes Go tengan túnel WSS activo hacia el router principal antes de iniciar inferencias críticas.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.