token-scavenger
TokenScavenger es un router de LLM autocontenido en una sola binaria Rust que busca tokens gratuitos primero (local y free tier) antes de fallar a proveedores pagados, con interfaz web integrada.
Ficha actualizada 22 sept 2026, 21:25 · upstream 22 sept 2026, 21:22 · release v0.6.0
Qué es token-scavenger
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
TokenScavenger es un router de lenguaje de modelos (LLM) ligero y autocontenido que permite escanear y utilizar tokens gratuitos disponibles en entornos locales o servicios de pago. Funciona como un reemplazo directo para la API OpenAI, gestionando credenciales, rutas de redirección inteligente, descubrimiento de modelos, circuit breakers, rastreo de uso y una interfaz web integrada. Su arquitectura basada en Rust con Axum + Tokio + SQLite lo hace altamente escalable, seguro (encriptación de credenciales) y adaptable a arquitecturas agenticas.
- Optimizar costos operativos al priorizar tokens gratuitos locales antes de fallar a proveedores pagados
- Implementar un router de LLM en entornos sin Docker o Python/Node para reducir dependencias
- Gestionar múltiples modelos y proveedores con políticas de fallback escalables
- Monitorizar el uso de API, rutas de redirección y rendimiento del router
- Despliegue rápido mediante un solo binario sin necesidad de contenedores o compilación compleja
- Arquitectura monolítica en Rust con Axum + Tokio + SQLite, reduciendo dependencias externas
- Router inteligente que prioriza tokens gratuitos locales y free tier antes de fallar a proveedores pagados
- Interfaz web integrada (9 vistas) para observabilidad, configuración y dashboards en tiempo real
- Soporte completo de API OpenAI compatible con endpoints de chat completions, embeddings, /v1/models y SSE
- Circuit breakers, health checks, retries y observabilidad completa con Prometheus metrics
- Modelo de subtask routing que permite elegir economías o modelos avanzados por subtask en agentes
- No incluye persistencia de credenciales encriptadas ni gestión de secretos (requiere configuración manual)
- Depende de un backend SQLite para el registro de uso y auditoría
- La priorización gratuita no es garantizada si los tokens gratuitos están agotados sin fallback configurado
- No incluye herramientas de despliegue nativas como Docker Compose, Kubernetes manifests o Homebrew tap automático
- El router no puede resolver problemas de red ni conectividad entre proveedores externos
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Instalación: `cargo build --release` y ejecutar con `./target/release/tokenscavenger -c tokenscavenger.toml`. Para producción, usar un backend seguro (HTTPS + WAF) y monitoreo de Prometheus. En Kubernetes, se puede integrar como Service con RBAC. Se recomienda mantener el binario en `/usr/local/bin` o usar systemd para autostart. Actualizaciones requieren reinicio del servicio.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.