LlamaFactory
LlamaFactory es una plataforma open source para afinamiento eficiente de más de 100 LLMs y VLMs con soporte CLI y Web UI. Soporta múltiples métodos de entrenamiento, algoritmos avanzados y despliegue con API OpenAI-style.
Ficha actualizada 11 nov 2026, 3:38 · upstream 11 nov 2026, 2:09 · release v0.9.5
Qué es LlamaFactory
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
LlamaFactory es una herramienta unificada para el afinamiento eficiente de más de 100 modelos de lenguaje grandes (LLMs) y modelos visuales (VLMs), publicada en ACL 2024. Permite realizar pre-entrenamiento continuo, afinamiento supervisado multimodal, modelado de recompensas, PPO, DPO, KTO, ORPO y otras técnicas avanzadas mediante interfaces CLI y Web UI basadas en Gradio.
La plataforma soporta múltiples enfoques de ajuste incluyendo 16-bit full-tuning, freeze-tuning, LoRA y QLoRA (2/3/4/5/6/8-bit) con compresión AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ. Integra algoritmos avanzados como GaLore, BAdam, APOLLO, Adam-mini, Muon, OFT, DoRA, LongLoRA, LLaMA Pro, Mixture-of-Depths, LoRA+, LoftQ y PiSSA.
Ofrece monitoreo de experimentos mediante LlamaBoard, TensorBoard, Wandb, MLflow y SwanLab. Soporta despliegue con workers vLLM o SGLang para inferencia más rápida, API estilo OpenAI y UI Gradio. Compatible con hardware AMD GPU, NPU ASCEND y múltiples backends.
- Afinamiento de LLMs para tareas específicas de dominio (legal, médico, financiero)
- Entrenamiento multimodal con VLMs como Qwen2-VL, InternVL3, GLM-4.1V
- Reinforcement learning con PPO, DPO, KTO y ORPO para alineación de modelos
- Despliegue de API estilo OpenAI con vLLM o SGLang para inferencia en producción
- Soporte nativo para más de 100 modelos incluyendo Qwen3, Llama 3, Mistral, Mixtral-MoE, Gemma, GLM, Phi
- Integración de algoritmos avanzados como GaLore, Muon, OFT y LongLoRA para eficiencia computacional
- Web UI basada en Gradio (LLaMA Board) con interfaz gráfica para afinamiento sin código
- Compatibilidad con múltiples backends de hardware: AMD GPU, NPU ASCEND, CPU multi-core
- Soporte de técnicas de optimización como FlashAttention-2, Unsloth, Liger Kernel y RoPE scaling
- No incluye soporte Docker (sin Dockerfile ni compose)
- Documentación marcada como WIP (Work In Progress) en algunos módulos
- Requiere configuración manual de entornos para despliegue en producción
- Algunos sitios web externos son terceros no autorizados por el proyecto
Capturas del proyecto
Imágenes reales detectadas en la documentación del repositorio.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Pendiente de la cola editorial R11-R6 con investigación verificable.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.