llm_cost_tracker
Librería nativa de Rails para llevar un registro detallado del gasto en LLMs sin actuar como proxy. Se enfoca exclusivamente en la atribución de costes y el cumplimiento normativo, diferenciándose de herramientas de observabilidad completa.
Ficha actualizada 24 sept 2026, 6:05 · upstream 24 sept 2026, 6:00 · release v0.14.0
Qué es llm_cost_tracker
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
LLM Cost Tracker es una solución nativa de Rails diseñada para llevar un registro detallado del gasto en modelos de lenguaje (LLMs) sin actuar como proxy. Su enfoque se centra exclusivamente en la atribución de costes y el cumplimiento normativo, diferenciándose claramente de herramientas de observabilidad completa como Langfuse o Helicone.
La herramienta captura automáticamente tokens, latencia y costes para llamadas realizadas a través de SDKs oficiales (OpenAI, Anthropic) y gateways compatibles. Utiliza un sistema de 'snapshot' de precios para evitar distorsiones históricas ante cambios tarifarios, permitiendo auditorías financieras precisas sin modificar el código existente de la aplicación.
- Auditoría de costes por proveedor y modelo para optimizar presupuestos mensuales.
- Atribución de gastos a usuarios, características o entornos específicos mediante tags.
- Cumplimiento del Reglamento de IA de la UE (EU AI Act) manteniendo registros históricos inmutables.
- Integración transparente con SDKs oficiales y gateways compatibles sin cambiar el código existente.
- Soporte nativo para múltiples proveedores incluyendo Azure OpenAI y Gemini vía Faraday.
- Captura automática de tokens y costes en llamadas asíncronas o streams con `include_usage`.
- Snapshot de precios para evitar distorsiones históricas ante cambios tarifarios.
- Configuración ligera mediante inicializadores Rails sin necesidad de proxies externos.
- No es una herramienta de observabilidad completa (sin traces, evals ni gestión de prompts).
- Requiere integración manual en la aplicación Rails existente (no es un servicio independiente con Docker).
- Depende de que el proveedor emita datos de uso finales para capturar costes precisos en streams.
Capturas del proyecto
Imágenes reales detectadas en la documentación del repositorio.
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Integrar la gem en el Gemfile y ejecutar `bin/rails llm_cost_tracker:setup` para migrar la base de datos. Configurar tags por defecto en `config/initializers/llm_cost_tracker.rb`. Asegurar conexión a PostgreSQL o MySQL. Montar el dashboard detrás de autenticación en `routes.rb`.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.