panther-minor
Pila auto-alojada de estación de trabajo AI optimizada para hardware AMD RDNA 4. Incluye inferencia LLM local, generación de imágenes y monitorización completa con Docker Compose.
Ficha actualizada 26 sept 2026, 17:54 · upstream 26 sept 2026, 17:47 · release v12.0.1
Qué es panther-minor
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Panther Minor es una solución auto-alojada diseñada específicamente para sistemas con procesadores AMD Ryzen y tarjetas gráficas RDNA 4. Proporciona un clúster reproducible que combina llama.cpp y stable-diffusion.cpp para inferencia local de modelos de lenguaje y generación de imágenes, respectivamente.
La arquitectura integra una interfaz Open WebUI, bases de datos de métricas como Prometheus y dashboards en Grafana para la visibilidad del host y la GPU. El sistema incluye gestión segura de acceso remoto mediante Tailscale, SSH endurecido con autenticación por clave y protección contra ataques bruteforce con fail2ban.
El despliegue requiere un entorno específico de hardware, incluyendo al menos 96 GB de RAM DDR5 y dos tarjetas gráficas AMD Radeon Pro RDNA 4. El script de instalación automatiza la configuración del sistema operativo Ubuntu Server 26.04 LTS, los controladores ROCm y la red.
- Inferencia local de LLMs compatibles con OpenAI usando llama.cpp en hardware AMD.
- Generación de imágenes text-to-image mediante stable-diffusion.cpp con API compatible.
- Monitorización completa del clúster AI con métricas de GPU, host y modelos.
- Acceso remoto seguro a servicios locales sin exponer puertos al internet público.
- Gestión automática de carga de modelos y descarte de VRAM inactiva.
- Optimización nativa para GPUs AMD RDNA 4 con soporte ROCm 10.
- Monitorización integrada mediante Prometheus, Grafana y exportadores específicos de GPU.
- Seguridad reforzada con SSH en puerto 2222, fail2ban y acceso vía Tailscale.
- Gestión inteligente de modelos con descarga automática y descargo de VRAM al inactividad.
- Instalación reproducible mediante CLI que prepara el SO, drivers y contenedores automáticamente.
- Diseñado como sistema single-tenant; no apto para entornos multiusuario o no de confianza.
- Requiere reinicio obligatorio del sistema tras la instalación para cargar controladores nuevos.
- Dependencia crítica de hardware específico (AMD Ryzen, RDNA 4, Ubuntu 26.04 LTS).
- Acceso a servicios restringido a red local o Tailscale; no expone puertos al internet público.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Requisitos: AMD Ryzen 9+ (12 cores), 96 GB RAM DDR5, 2x RDNA 4 (32GB VRAM), NVMe Gen4/Gen5. SO: Ubuntu Server 26.04 LTS con kernel 7+. Pasos críticos: Habilitar Above 4G decoding, Resize BAR e IOMMU en BIOS. Instalar drivers AMD y ROCm antes de la inferencia. Ejecutar ./bin/cli setup y reiniciar. Configurar Tailscale para acceso seguro. Generar certificados SSL vía Certbot con DNS challenge.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.