zerg-swarm
Zerg Swarm es un sistema de orquestación local para clusters de LLMs, con controlador, agentes y una capa de contención unificada. Permite ejecutar modelos locales en demanda, exponer un solo endpoint OpenAI-compatible y ofrecer un entorno autónomo con herramientas y memoria.
Ficha actualizada 23 sept 2026, 9:36 · upstream 23 sept 2026, 9:06 · release v2.5.11
Qué es zerg-swarm
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Zerg Swarm es una solución de orquestación local para clusters de LLMs que permite convertir máquinas ordinarias (Mac Apple Silicon o dispositivos NVIDIA) en un único 'swarm' de modelos. El sistema carga los modelos en demanda sobre las máquinas disponibles, elimina el modelo cuando está inactivo y expone un solo endpoint compatible con OpenAI. Además, Zerg Swarm resuelve problemas comunes como múltiples motores locales que no obedecen, modelos que fallan o se desvían del formato esperado, mediante un enfoque de blame al sistema (prompt, capa de parseo, guardrails) en lugar de cambiar el modelo. El proyecto incluye una interfaz gráfica para chat y tareas, un sistema de herramientas con 135 herramientas registradas, memoria con dos escopos (global y por agente), y un panel de trabajo remoto.
- Ejecutar modelos locales en máquinas Apple Silicon o NVIDIA sin necesidad de GPU dedicada
- Unificar múltiples motores de LLM (llama.cpp, ds4-server, vLLM) bajo una sola API
- Procesar documentos y tareas locales con herramientas integradas como OCR, búsqueda web y procesamiento de archivos
- Crear un entorno de trabajo autónomo para desarrolladores que no requiere infraestructura externa
- Ejecutar modelos en tiempo real sin necesidad de servidores remotos o APIs externas
- Modelos se cargan en demanda sobre máquinas con suficiente VRAM, eliminando el problema de la falta de memoria
- Soporta múltiples motores compatibles con OpenAI sin necesidad de cambiar el modelo
- Sistema de feedback por formato que blame al sistema (prompt, parseo) en lugar del modelo
- Memoria compartida entre agentes con límites y recuperación para mantener contexto
- Herramientas integradas como OCR, búsqueda web y procesamiento de archivos sin dependencias externas
- No es un servicio SaaS ni una solución completamente autónoma: requiere configuración manual del controlador y agentes
- Depende de la disponibilidad de hardware adecuado (GPU o suficiente VRAM) para ejecutar modelos pesados
- La interfaz gráfica es opcional y no se ejecuta por defecto en entornos sin macOS
- El sistema de herramientas puede saturar recursos si se usa intensivamente simultáneamente
- No incluye un backend de búsqueda externo (se recomienda usar una instancia propia como searxng)
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instala el controlador con `bash scripts/svc/setup-zerg.sh` y los agentes en cada nodo del cluster. Configura la variable ZERG_AUTH_TOKEN en `.env`. Para añadir un agente nuevo, ejecuta `zerg update --check` para verificar que las herramientas estén instaladas antes de iniciar el servicio. El despliegue es completamente manual: no hay automatización automática ni despliegues con Docker. Se recomienda mantener una copia del repositorio local y actualizarlo periódicamente.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.