SoAI
SoAI es una plataforma de orquestación que unifica motores de inferencia locales (llama.cpp, Ollama, vLLM) y proveedores remotos detrás de una API compatible con OpenAI y Anthropic. Incluye WebUI multiusuario, RAG, gestión de hardware y balanceo de carga.
Ficha actualizada 22 sept 2026, 15:12 · upstream 22 sept 2026, 13:26 · release v1.2.1
Qué es SoAI
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
SoAI actúa como una capa de orquestación resiliente que unifica diversos motores de inferencia locales y proveedores remotos bajo una única interfaz API compatible con OpenAI y Anthropic. Esto permite a los clientes configurar una sola dirección para acceder a múltiples modelos, evitando la necesidad de reconfiguraciones constantes al cambiar de backend o añadir nuevos modelos.
La plataforma incluye una WebUI completa que soporta chat, agentes, automatizaciones, gestión de archivos y una base de conocimientos RAG. El entorno es multiusuario y sincronizado en tiempo real entre dispositivos, con monitorización de hardware y control de GPU integrado. SoAI gestiona el ciclo de vida de los backends locales, iniciándolos bajo demanda y deteniéndolos para optimizar recursos.
El sistema implementa balanceo de carga y failover automático entre proveedores y backends locales mediante modelos virtuales. Si un backend falla o está saturado, las solicitudes se enrutan a otros objetivos disponibles sin interrumpir al cliente. SoAI soporta múltiples plataformas (Linux, Windows, macOS) y ofrece una interfaz en 22 idiomas.
- Unificar múltiples modelos locales y remotos en una única API para clientes existentes como Open WebUI o Cursor.
- Desplegar agentes autónomos con herramientas de ejecución y aprobación humana mediante la WebUI.
- Gestionar bases de conocimientos RAG indexando documentos locales para recuperación contextual.
- Monitorizar el estado de hardware (GPU, CPU) y asignar recursos por plugin de inferencia.
- Automatizar flujos de trabajo con soporte para correo, calendario y mensajería integrada.
- Proveer endpoints compatibles con Anthropic para herramientas como Claude Code sin cambiar la infraestructura.
- API dual compatible con OpenAI y Anthropic para máxima interoperabilidad con clientes existentes.
- Gestión automática de backends locales (llama.cpp, Ollama, vLLM) con inicio bajo demanda.
- WebUI multiusuario en 22 idiomas con sincronización en tiempo real entre dispositivos.
- Balanceo de carga y failover automático entre proveedores y modelos virtuales.
- Soporte nativo para modelos GGUF y ejecución local sin dependencia de APIs externas obligatorias.
- Monitorización de hardware y control de GPU integrado en la interfaz de usuario.
- No incluye Dockerfile ni Compose nativo; requiere instalación manual o scripts proporcionados.
- El plugin vLLM no soporta Windows, limitando su uso a Linux y macOS con hardware compatible.
- Licencia source-available en lugar de open source puro, lo que puede restringir ciertos usos comerciales.
- Requiere gestión manual de dependencias del sistema en algunos casos (ej. `install-deps`).
- La asignación de GPU por plugin puede complicar la configuración en sistemas con recursos limitados.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalar mediante script oficial (`curl -fsSL https://soai.to/install/linux | bash`) o ejecutable nativo. En Debian/Ubuntu, usar `--fast` para instalar dependencias y configurar systemd (requiere root). Verificar requisitos mínimos: 4 núcleos CPU, 8GB RAM, 10GB disco. El puerto por defecto es 5090. Configurar HTTPS si se requiere seguridad adicional. Usar `install-deps` para reparar dependencias faltantes.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.