hal0
Plataforma open-source de inferencia de IA auto-alojada para AMD Strix Halo con múltiples backends, gateway compatible OpenAI, frontend Vue 3 y backend FastAPI. Usa Podman + systemd sin Docker.
Ficha actualizada 21 sept 2026, 18:26 · upstream 21 sept 2026, 18:26 · release v1.3.0
Qué es hal0
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
hal0 transforma un servidor Linux en un appliance de inferencia privado compatible con la API de OpenAI. Soporta chat, completions, embeddings, reranking, transcripción, generación de voz e imágenes en una única superficie :8080/v1 sobre hardware propio sin coste por token.
Cada carga de trabajo se ejecuta como contenedor Podman bajo un unit systemd hal0-slot@<name>.service. El API actúa como único plano de control: gestiona máquinas de estado de slots, enruta solicitudes /v1/* al puerto correcto y sirve el dashboard. No hay daemon compartido ni procesos extra.
El instalador es idempotente y completo: configura systemd, Python 3.12–3.14, runtime de contenedores (Podman), detecta GPU/NPU, descarga modelos curados como lfm2.5-2.6b para el slot brain, prepara ComfyUI y habilita servicios como OpenWebUI, Hermes y Hindsight.
- Inferencia local de LLMs en hardware propio sin costes por token
- Servicio compatible con la API de OpenAI para clientes existentes
- Gestión unificada de múltiples modelos y backends (CPU/NPU/GPU)
- Generación de imágenes vía ComfyUI integrado en slots dedicados
- Arquitectura basada en slots con máquinas de estado independientes por servicio
- Instalador idempotente que respeta versiones semver desde v1.0.0
- Soporte nativo para AMD Strix Halo con memoria unificada
- Gateway compatible OpenAI en :8080/v1 sin dependencias externas
- MCP integrado con 180 herramientas administrativas y de telemetría
- Requiere hardware AMD Strix Halo o compatibilidad NPU/GPU específica
- No incluye Docker ni Compose; depende exclusivamente de Podman + systemd
- Cambios breaking en v1.3.0 para rutas ADMIN con claves configuradas
- Dependencia de Python 3.12–3.14 y runtime de contenedores compatible
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalar con curl -fsSL https://hal0.dev/install.sh | sudo bash. Variables clave: HAL0_PORT=9090, HAL0_MODELS_DIR=PATH, HAL0_CHANNEL=preview. Para Proxmox VE usar scripts/proxmox-ve/hal0.sh. Desplegar en x86_64 con 4+ núcleos y 8GB RAM mínimo. Verificar puertos 8080 y 5173 libres.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.