spark-dash
Dashboard para clusters NVIDIA GB10 (DGX Spark/GX10) que monitorea salud GPU, sistema y métricas en tiempo real de inferencia LLM (llama.cpp, vLLM, SGLang). Soporta nodos individuales y clusters con gestión de memoria unificada.
Ficha actualizada 22 sept 2026, 15:38 · upstream 22 sept 2026, 11:23 · release sin release detectada
Qué es spark-dash
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
spark-dash es una herramienta de monitorización especializada para servidores de inferencia basados en hardware NVIDIA GB10 (como ASUS GX10 o DGX Spark). Proporciona métricas detalladas del sistema y la GPU, incluyendo temperatura, consumo energético, estado de reloj y presión de memoria unificada, corrigiendo lecturas erróneas de NVML específicas de este hardware. El dashboard visualiza el estado de los modelos en ejecución (llama.cpp, vLLM, SGLang), desglosando métricas de inferencia como latencia, tokens por segundo y ocupación de KV-cache.
La arquitectura permite operar en modo único o como cluster tensor-paralelo, agregando métricas de red RoCE y estado de la interfaz de fabrica. Incluye alertas configurables con umbrales calibrados para el hardware específico, enviando notificaciones vía ntfy sin necesidad de API keys. El diseño es altamente personalizable en el navegador, permitiendo reordenar, redimensionar y agrupar tarjetas de métricas sin configuración en el servidor.
- Monitorización de salud de GPU y sistema en clusters NVIDIA GB10
- Visualización de métricas de inferencia LLM en tiempo real (llama.cpp, vLLM, SGLang)
- Gestión de alertas térmicas y de rendimiento con umbrales calibrados por hardware
- Análisis de estado de red RoCE y enlaces de interconexión en clusters
- Lectura correcta de memoria unificada en GB10 evitando errores de NVML
- Soporte nativo para métricas de llama.cpp, vLLM y SGLang con desglose por modelo
- Alertas personalizadas vía ntfy con umbrales térmicos específicos del hardware
- Layout completamente personalizable en el navegador sin configuración en servidor
- Requiere Docker y NVIDIA Container Toolkit instalados en cada nodo
- No incluye Dockerfile ni Compose predefinidos para despliegue directo (scripts de construcción)
- Depende de que los agentes estén configurados correctamente en cluster.yml
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Se recomienda usar scripts ./scripts/build-images.sh para construir las imágenes backend y agent. Configurar central/cluster/cluster.yml con hosts y puertos de routers/engines. Asegurar permisos correctos en directorios prometheus/alertmanager (chown 65534). Usar BACKEND_URL correcto en cada nodo.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.