eullm
Plataforma open source para inferencia de LLMs con enfoque soberano europeo, cumplimiento AI Act y sin telemetría. Motor en Rust con soporte multiplataforma (Linux/macOS/Windows), arquitecturas x64/ARM64 y aceleración GPU NVIDIA/CUDA, AMD/Vulkan, Apple Metal.
Ficha actualizada 22 sept 2026, 14:53 · upstream 22 sept 2026, 14:40 · release EuLLM-v0.7.6
Qué es eullm
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
EULLM es una plataforma open source diseñada para crear, distribuir y ejecutar modelos de lenguaje grandes (LLMs) con cumplimiento soberano europeo. El motor de inferencia está escrito en Rust y ofrece binarios precompilados para múltiples plataformas: Linux x64/ARM64, macOS Intel/Apple Silicon, Windows 11. Soporta modelos GGUF (Qwen, Mistral, DeepSeek, Phi, Gemma) con API compatible OpenAI/Ollama en puerto 11434 e interfaz web integrada en 11435.
La plataforma está diseñada para cumplir con el AI Act europeo, incluyendo trazabilidad de auditoría y cero telemetría. Ofrece binarios optimizados para hardware específico: CPU-only para ARM (Radxa Orion O6), NVIDIA CUDA (RTX/A100/H100), AMD/Intel Vulkan y Apple Metal. Incluye soporte para KV-cache reuse verificado en contextos largos.
La licencia AGPL-3.0 garantiza transparencia, aunque I3K Technologies Srl ofrece licencias comerciales separadas. Los binarios no requieren Docker ni Python, reduciendo la complejidad de despliegue. La interfaz web integrada permite chat local sin exponer rutas adicionales.
- Despliegue local de LLMs en infraestructura controlada sin telemetría
- Inferencia en hardware soberano europeo (CPU ARM, sin GPU)
- API compatible para integración con herramientas existentes (OpenAI/Ollama)
- Evaluación de modelos en entornos HPC/enterprise con trazabilidad AI Act
- Motor en Rust con binarios precompilados multiplataforma
- Cumplimiento AI Act europeo con trazabilidad de auditoría
- Soporte nativo para hardware soberano (CPU ARM, sin GPU)
- API compatible OpenAI/Ollama sin dependencias externas
- KV-cache reuse verificado en contextos largos (4096/16384 tokens)
- Interfaz web integrada sin puertos adicionales
- Binarios específicos por plataforma/hardware (no universal)
- Requiere drivers CUDA/Vulkan/Metal externos
- Sin Dockerfile (solo compose para orquestación)
- Algunos binarios requieren validación comunitaria
- Licencia AGPL-3.0 obliga a compartir modificaciones
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Usar binario precompilado según hardware: eullm-linux-x64 (CPU), eullm-linux-x64-cuda-13.1 (NVIDIA), eullm-linux-arm64 (ARM CPU genérico). Evitar binarios CIX P1 en hardware sin SVE2/BF16/I8MM/DotProd. Para producción, considerar múltiples réplicas y monitoreo manual. No usar --no-ui en entornos que requieran interfaz web. Verificar compatibilidad glibc 2.28+ para Linux x64.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.