homl
HoML combina la facilidad de Ollama con el rendimiento de vLLM para ejecutar LLMs locales. Proyecto en Beta, ofrece CLI intuitiva, gestión automática de memoria GPU y API OpenAI-compatible. Requiere Python y soporte CUDA actualmente.
Ficha actualizada 18 sept 2026, 21:39 · upstream 23 feb 2026, 4:11 · release v0.3.5
Qué es homl
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
HoML (Home Lab Model) fusiona la simplicidad de uso de Ollama con las capacidades de inferencia de alto rendimiento de vLLM. Diseñado para laboratorios domésticos, permite ejecutar modelos grandes mediante una interfaz de línea de comandos intuitiva que funciona "out of the box". El proyecto se encuentra actualmente en fase Beta, lo que implica que aunque todas las características planificadas están implementadas, pueden existir errores menores y se invita a la comunidad a proporcionar feedback.
La arquitectura consta de un servidor HoML que gestiona el estado y expone una API compatible con OpenAI, ejecutándose en un entorno similar a Docker pero sin necesidad de contenedores obligatorios según el análisis técnico actual. Incluye un CLI separado para interactuar con el servidor. El sistema gestiona automáticamente la carga y descarga de modelos en la memoria GPU, optimizando los recursos al descargar modelos desde Hugging Face Hub y liberando espacio tras periodos de inactividad configurables (por defecto 10 minutos).
Aunque el README sugiere una instalación mediante script único, el análisis técnico indica que no es un despliegue one-click puro sin configuración previa. Actualmente solo soporta oficialmente versiones CUDA, aunque se permite construir desde fuente para otras plataformas como ROCm o Apple Silicon si se sigue la guía de contribución. El proyecto busca mejorar tiempos de arranque y soporte multi-GPU en futuras iteraciones.
- Ejecución local de LLMs con interfaz CLI similar a Ollama
- Servidor API compatible con OpenAI para integración con herramientas externas
- Gestión eficiente de memoria GPU mediante carga dinámica de modelos
- Pruebas y validación de modelos desde Hugging Face Hub en entorno doméstico
- Combina simplicidad de Ollama con velocidad de vLLM
- Gestión automática de ciclo de vida de modelos (carga/descarga)
- API OpenAI-compatible integrada para interoperabilidad
- Soporte nativo para descarga directa desde Hugging Face Hub
- Interfaz CLI intuitiva y minimalista
- Estado Beta con posibles errores no documentados
- Soporte oficial limitado a arquitectura CUDA actualmente
- Sin soporte Dockerfile o Compose nativo según análisis técnico
- Gestión de memoria multi-GPU pendiente de implementación futura
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Requiere Python instalado previamente. El despliegue se realiza mediante script de instalación único, aunque el análisis indica complejidad baja. Se recomienda al menos 4 núcleos CPU y 8GB RAM. Actualmente solo soporta CUDA oficialmente; para otras arquitecturas (ROCm, Apple Silicon) es necesario construir desde fuente siguiendo la documentación de contribución. El servidor corre en modo similar a Docker pero sin contenedores obligatorios.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.