ainode
Plataforma local de IA para GPUs NVIDIA que permite inferencia y ajuste fino en el navegador. Soporta clústeres automáticos, API compatibles con OpenAI y Anthropic, y despliegue vía systemd o Docker.
Ficha actualizada 24 sept 2026, 1:49 · upstream 24 sept 2026, 1:35 · release v0.5.20
Qué es ainode
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
AINode convierte cualquier servidor NVIDIA GB10 o GPU en una plataforma de IA auto-alojada mediante un único comando de instalación. Utiliza un orquestador ligero basado en Python que gestiona la interfaz web, la API y el descubrimiento automático de nodos vía UDP, sin necesidad de Docker Compose.
La arquitectura separa el motor vLLM en contenedores independientes por modelo, permitiendo versiones específicas sin vincularlas al host. Soporta almacenamiento compartido NFS para modelos y clústeres distribuidos con paralelismo tensorial sobre RoCE/NCCL.
Incluye capacidades de entrenamiento local como LoRA, QLoRA y ajuste completo, además de cuantización AWQ o NVFP4 directamente en el navegador. La interfaz ofrece métricas en tiempo real, consola API estilo LM Studio y gestión de modelos HuggingFace.
- Inferencia local de LLMs sin enviar datos a la nube
- Ajuste fino de modelos con LoRA o QLoRA en GPU propia
- Clústeres distribuidos para modelos que no caben en una sola GPU
- API compatible con OpenAI y Anthropic para integración externa
- Cuantización de modelos (AWQ/NVFP4) para optimizar memoria
- Gestión centralizada de modelos vía catálogo HuggingFace compartido
- API compatible con OpenAI y Anthropic Messages
- Clustering automático mediante descubrimiento UDP
- Motor vLLM en contenedores separados por modelo
- Soporte nativo para NVIDIA GB10 y CUDA 13
- Almacenamiento NFS compartido para modelos distribuidos
- Interfaz web moderna con métricas de rendimiento
- Requiere hardware NVIDIA GPU específico
- Necesita red de alta velocidad (RoCE) para clústeres
- Versión específica de CUDA 13 obligatoria
- No utiliza Docker Compose, usa systemd o script único
- El motor vLLM no reside en el contenedor del orquestador
Capturas del proyecto
Imágenes reales detectadas en la documentación del repositorio.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalar con `curl -fsSL https://ainode.dev/install | bash`. Requiere Docker y toolkit NVIDIA. Puerto 3000 para UI, 8000/8001 para API. Para clústeres, configurar SSH sin contraseña entre nodos y usar token de cluster. El orquestador es `python:3.12-slim` (~364 MB).
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.