tinyrouter

TinyRouter actúa como una puerta de entrada ligera para APIs de modelos de lenguaje, diseñada para ser transparente y auditables. Exponiendo un único endpoint compatible con OpenAI, permite gestionar claves de proveedores externos (OpenAI, Anthropic, Gemini) y modelos locales en un solo proceso ejecutado con Bun o compilado nativamente. Su arquitectura elimina la necesidad de bases de datos, paneles de administración o infraestructura compleja, priorizando la simplicidad operativa y la comprensión total del flujo de datos.

El sistema implementa una lógica de fallback determinista que reenvía solicitudes a proveedores alternativos solo antes de iniciar el streaming de respuestas, evitando cambios dinámicos durante la generación. Incluye métricas Prometheus integradas para monitorización sin dependencias externas y emite logs estructurados sin exponer prompts ni completaciones. La configuración se define en un archivo YAML estático, resolviendo alias amigables a destinos específicos de proveedor/modelo con prioridad ordenada.

A diferencia de soluciones más complejas como LiteLLM o Portkey, TinyRouter omite deliberadamente capas de producto como guardrails semánticos, caché persistente, gestión de presupuestos o límites de tasa avanzados. Está pensado para escenarios donde la transparencia del código y la ausencia de "caja negra" son prioritarias sobre la funcionalidad extensiva. Es ideal para despliegues minimalistas que requieren control total sobre el enrutamiento sin operar un plano de control externo.