localm
LocalM es una herramienta local para ejecutar LLMs de forma completa sin internet. Permite chat, agentes de programación, generación de imágenes y música, RAG, voz y tareas programadas. Prioriza la privacidad con un enfoque offline-first.
Ficha actualizada 22 sept 2026, 18:49 · upstream 22 sept 2026, 18:47 · release v0.2.0
Qué es localm
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
LocaLM es un framework que carga modelos de lenguaje locales (GGUF y HuggingFace) a través de un servidor compatible con OpenAI. Incluye múltiples plugins como el 'coder' para agentes de programación, generación de medios, RAG, voz y gestión de memoria. Todo se ejecuta localmente sin necesidad de internet, aunque algunos servicios opcionales pueden conectarse al exterior.
- Chat en tiempo real con modelos locales
- Agentes de codificación que ejecutan tareas y verifican resultados
- Generación de imágenes, música y video desde modelos locales
- Bases de conocimiento mediante RAG con citaciones
- Asistentes de voz con síntesis de texto local
- Tareas programadas en cron o intervalos
- Gestión de múltiples modelos sin duplicar VRAM
- Inferencia local completa: GGUF y HuggingFace models cargan sin necesidad de llama-cpp-python, con soporte para cuantización AWQ
- Detección automática del backend GPU (CUDA, ROCm/HIP o Vulkan) según la hardware disponible
- Plugin 'coder' que ejecuta tareas con herramientas de shell, búsqueda y tests, con soporte MCP bidireccional
- Integración con ComfyUI para generación de medios, con opción de usar una versión gestionada por localm
- Soporte para modelos desde CivitAI directamente a través de localm
- Arquitectura offline-first: nada se envía al servidor externo sin autorización explícita
- No soporte nativo de GPU en Windows (solo fallback a Vulkan)
- No opción de aplicación nativa de escritorio aparte del CLI
- Modelos para generación de medios no están disponibles por defecto
- Sin framework de llamadas a herramientas propio, solo MCP externo
- La inferencia CPU es lenta y no optimizada para tareas intensivas
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instala con `localm install` o `pip install localm`. Configura el idioma en `localm config language de`. Para GPU, usa `localm setup-llama --backend cuda` (Windows) o `--backend vulkan` (Linux/macOS). El plugin 'coder' requiere un entorno MCP. La inferencia CPU funciona pero es ineficiente para modelos grandes.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.