zyrabit-SLM
Infraestructura de IA soberana para empresas con RAG local, sanitización PII y ejecución sin salida (air-gap). Optimizado para CPU/GPU/NPU con soporte Docker y FastAPI.
Ficha actualizada 27 sept 2026, 22:10 · upstream 27 sept 2026, 22:06 · release v2.4.4
Qué es zyrabit-SLM
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Zyrabit SLM es una plataforma de infraestructura de IA lista para entornos empresariales que prioriza la soberanía de los datos. Permite ejecutar análisis de documentos privados, generación aumentada por recuperación (RAG) y flujos de agentes autónomos ReAct sin que los datos salgan del entorno local (zero-egress). La arquitectura integra una puerta de entrada FastAPI con sanitización bidireccional de PII para proteger información sensible antes de llegar a los motores de inferencia.
Soporta múltiples backends de hardware, incluyendo Apple Silicon Metal, GPUs NVIDIA CUDA y NPUs Tenstorrent Blackhole, adaptándose automáticamente al entorno. Incluye capacidades de observabilidad mediante Prometheus y Grafana en puertos locales, facilitando el monitoreo del rendimiento y la latencia en tiempo real.
La plataforma ofrece un perfil de aislamiento total (air-gap), operando completamente offline sin dependencias de DNS públicos o internet saliente, ideal para entornos regulados que requieren cumplimiento estricto de privacidad y gobernanza de datos dentro de los límites de confianza definidos por el usuario.
- Análisis de documentos privados con RAG local
- Despliegue de agentes autónomos ReAct sin egress de datos
- Sanitización de PII en tiempo real para prompts sensibles
- Inferencia optimizada en hardware heterogéneo (CPU/GPU/NPU)
- Monitoreo de métricas de inferencia con Grafana local
- Soporte nativo para múltiples backends de inferencia (Ollama, vLLM, llama.cpp)
- Sanitización bidireccional de PII integrada en la pipeline
- Arquitectura lista para air-gap sin dependencias externas
- Optimización automática de hardware (Metal/CUDA/TT-NN)
- Observabilidad completa con Prometheus y Grafana preconfigurados
- Algunas capacidades marcadas como 'Beta' (Inference Engine, RAG)
- No incluye docker-compose.yml nativo en el análisis inicial
- Requiere configuración manual de permisos Docker para usuarios no root
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Despliegue rápido vía Docker o script zyra.sh. Requiere Python 3.12 y gestión de puertos específicos (8080, 8088, etc.). Evitar ejecutar scripts con sudo para mantener permisos correctos.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.