streaming-self-hosting-stack
Stack para auto-alojar servicios de transcripción de AssemblyAI (Streaming y Sync) mediante Docker Compose o Modal. Soporta modelos Universal English/Multilingual y Universal-3.5 Pro con validación de licencia integrada.
Ficha actualizada 25 sept 2026, 15:02 · upstream 25 sept 2026, 14:36 · release sin release detectada
Qué es streaming-self-hosting-stack
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Este repositorio proporciona recursos y ejemplos para desplegar servicios de transcripción de audio de AssemblyAI en infraestructura propia. Organiza los stacks por servicio (Streaming o Sync) y modelo, facilitando la integración de APIs WebSocket en tiempo real o HTTP asíncrono para archivos completos. Incluye soporte para modelos Universal English + Multilingual y Universal-3.5 Pro, con características avanzadas como detección de entidades y puntuación nativa multilingüe.
La arquitectura requiere hardware GPU NVIDIA compatible (T4 o superior para Streaming, L40S/RTX PRO 4500/6000 preferido para modelos Pro) y drivers CUDA 13 o superiores (serie R580+). Las imágenes se distribuyen a través de ECR de AWS, por lo que se necesita acceso a credenciales de la región us-west-2. Cada stack es autocontenido bajo carpetas docker/ con archivos de composición, variables de entorno y ejemplos de clientes.
La gestión de licencias se realiza mediante un componente compartido llamado license-and-usage-proxy, que valida el archivo JWT proporcionado por AssemblyAI. Este proxy soporta facturación plana o basada en uso, reportando métricas al tracker oficial. En entornos de producción, se recomienda desplegar múltiples contenedores detrás de un balanceador de carga y monitorear el estado del proxy mediante el endpoint /v1/status para detectar fallos de validación o ventanas de confianza expiradas.
- Transcripción en tiempo real de flujos de audio en vivo vía WebSocket
- Procesamiento asíncrono de archivos de audio completos (hasta 120s por defecto)
- Soporte para múltiples idiomas con detección automática o códigos explícitos
- Integración en infraestructuras on-premise o nube privada sin dependencia de API pública
- Análisis de audio comprimido (AAC, MP3, FLAC) y subida de archivos streaming
- Stacks Docker Compose modulares por servicio y modelo específicos
- Validación de licencia integrada con proxy de uso y reporte de métricas
- Compatibilidad CUDA 13 y soporte para GPUs NVIDIA T4 hasta L40S/RTX PRO
- Mejoras en robustez bajo carga, salidas limpias y salud de contenedores
- Soporte para despliegue serverless vía Modal con un solo comando deploy
- Requiere licencia AssemblyAI válida montada en el sistema de archivos
- Dependencia de acceso a AWS ECR para descargar imágenes oficiales
- Necesita drivers NVIDIA R580 o superiores para soporte CUDA 13
- El proxy termina si no puede contactar con usage-tracker.assemblyai.com tras múltiples intentos
- Límite de 120 segundos por defecto para transcripción asíncrona sin configuración adicional
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Montar archivo license.jwt en la carpeta del stack o definir LICENSE_FILE_PATH. Instalar NVIDIA Container Toolkit y verificar nvidia-smi. Autenticar con AWS ECR antes de ejecutar docker compose up. Configurar USAGE_TRACKING_API_KEY si se usa facturación por uso. Monitorear /v1/status para alertas de TrustBased o Failed. Preferir múltiples contenedores pequeños sobre pocos grandes para el proxy.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Puede sustituir a
Relaciones detectadas por el análisis del repositorio y su categoría.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.