IdleToken
IdleToken es un repositorio open source que proporciona un cliente y motor de inferencia local para modelos de lenguaje grande, permitiendo compartir tokens cuando los dispositivos están inactivos.
Ficha actualizada 23 sept 2026, 9:04 · upstream 23 sept 2026, 8:33 · release v0.1.90
Qué es IdleToken
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
IdleToken permite a los usuarios compartir sus tokens de inferencia en tiempo real con otros dispositivos. El proyecto utiliza una arquitectura basada en Sparks para gestionar el uso de tokens, conectando máquinas que están inactivas (con recursos disponibles) con aquellas que necesitan computación durante picos de demanda. Esto optimiza la utilización del hardware disponible sin necesidad de mantener modelos locales permanentemente.
- Compartir tokens de inferencia entre dispositivos en red cuando un dispositivo está inactivo
- Optimizar el uso de recursos GPU al redistribuir carga computacional entre máquinas disponibles
- Permitir acceso a modelos pre-deployados sin necesidad de instalarlos localmente
- Conectar aplicaciones existentes (como DeepSeek Harness o OpenCode) mediante un proveedor personalizado
- Despliegue en clusters distribuidos donde múltiples dispositivos conectan para ejecutar modelos grandes
- Soporta múltiples plataformas: Windows, macOS y Linux con arquitecturas x86_64 y arm64
- Utiliza Rust como lenguaje de backend y Node.js/Next.js para la interfaz gráfica
- No requiere instalación de modelos locales; los modelos se despliegan en un servidor centralizado
- Soporta conexión con herramientas existentes mediante proveedores personalizados (DeepSeek Harness, OpenCode)
- Permite el uso de APIs REST para acceder a modelos compartidos sin necesidad de autenticación local
- No incluye soporte nativo para GPU NVIDIA en macOS (requiere Apple Silicon con 16 GB de memoria unificada)
- La arquitectura actual no soporta múltiples GPUs por dispositivo
- El despliegue en clusters requiere que todos los dispositivos estén conectados directamente sobre la red local
- No incluye soporte nativo para GPU AMD o Intel (solo NVIDIA)
- Los modelos pre-deployados se ejecutan en un servidor centralizado, no en el cliente
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Para desplegar IdleToken: instala la versión más reciente del cliente desde releases. Para usar modelos compartidos, registra una API key y accede a través de https://api.idletoken.ai/v1. Para conectar herramientas existentes como DeepSeek Harness o OpenCode, configúralos con un proveedor personalizado que muestre el modelo IdleToken. En clusters, instala la misma versión en todos los dispositivos, asegúrate de estar en la misma red y configura el mismo modelo, cuantización y contexto.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.