roger
RogerAI es un marketplace descentralizado para modelos LLM autoalojados que conecta proveedores de GPU con usuarios finales mediante un broker centralizado. Permite monetizar hardware ocioso y acceder a modelos diversos pagando por token, con trazabilidad completa de la respuesta al modelo original.
Ficha actualizada 25 sept 2026, 2:17 · upstream 25 sept 2026, 2:15 · release v6.11.2
Qué es roger
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
RogerAI funciona como una radio bidireccional para GPUs, actuando como intermediario entre nodos locales que ejecutan modelos abiertos y clientes que consumen inferencias. El sistema utiliza un broker centralizado (broker.rogerai.fm) que es contenido-ciego, almacenando únicamente conteos de tokens y recibos firmados, sin procesar los prompts ni las respuestas en sí. Los proveedores pueden compartir sus recursos automáticamente mediante el comando roger share, detectando localmente modelos alojados en Ollama, llama.cpp, vLLM u otros hosts compatibles con la API OpenAI.
La arquitectura soporta múltiples servicios como PostgreSQL y Redis, permitiendo gestión de wallets, facturación vía Stripe y registro de linaje de modelos. Cada token generado lleva un recibo firmado por el proveedor y contrasignado por el broker, garantizando transparencia en la factura y trazabilidad hacia el modelo que produjo la respuesta. Además, ofrece bandas vocales para TTS/STT y niveles de privacidad con soporte para TEE (Trusted Execution Environments) para trabajos sensibles.
- Monetizar hardware GPU ocioso compartiendo capacidad de inferencia LLM local
- Acceder a modelos LLM diversos pagando por token sin necesidad de alojarlos localmente
- Continuar sesiones de agentes IA remotamente mediante estaciones base privadas
- Integrar endpoints compatibles con OpenAI en flujos de trabajo existentes
- Utilizar servicios de voz (TTS/STT) compartiendo servidores de habla dedicados
- Verificar la procedencia y linaje de las respuestas generadas por modelos
- Arquitectura broker contenido-ciego que protege privacidad de prompts y respuestas
- Compatibilidad multi-host con soporte nativo para Ollama, llama.cpp, vLLM y más
- Sistema de linaje firmado dual (proveedor + broker) para auditoría de costes
- Protocolo abierto bajo licencia Apache-2.0 para interoperabilidad de nodos
- Soporte nativo para TEE en modo confidencial para cargas de trabajo sensibles
- Gestión de wallets y facturación integrada vía Stripe con precios bloqueados por 24h
- El broker principal es un servicio externo que no se puede federar completamente sin autoalojarlo bajo restricciones de licencia PolyForm
- Requiere conexión a internet para dial-out hacia el broker, dependiendo de la disponibilidad del servicio central
- La licencia PolyForm Perimeter restringe el uso comercial competitivo del marketplace principal
- Depende de la detección automática de hosts locales, que puede fallar con configuraciones no estándar
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Se recomienda usar make build para compilar localmente o instalar vía Homebrew en macOS/Linux. Para producción, asegurar puertos 8080 y 9099 abiertos según análisis técnico. El despliegue del broker requiere configuración de Stripe para pagos. Los nodos deben tener acceso de salida a internet para contactar al broker sin abrir puertos entrantes.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.