proxy
Proxy API para LLMs (OpenAI, Anthropic) que redacta PII, bloquea contenido sensible y versiona prompts antes de llegar al proveedor. Incluye logging completo con soporte para almacenamiento en S3/MinIO y detección automática de cambios en reglas.
Ficha actualizada 18 sept 2026, 18:49 · upstream 26 ago 2026, 4:21 · release sin release detectada
Qué es proxy
Descripción editorial construida a partir del repositorio, su documentación y sus señales de mantenimiento.
Grepture Proxy actúa como capa intermedia entre clientes y proveedores de APIs de LLMs (OpenAI, Anthropic, etc.), interceptando tráfico para aplicar políticas de seguridad y auditoría antes del procesamiento real. Su arquitectura permite redacción de datos personales identificables (PII), bloqueo de contenido sensible y tokenización de campos JSON con restauración posterior.
El sistema soporta tanto ejecución nativa vía Bun como contenerización Docker, integrándose con bases de datos Redis para caché y almacenamiento en memoria. El logging de cuerpos de solicitud/respuesta puede almacenarse inline hasta 50KB o offloadearse a S3/MinIO cuando se excede el límite, manteniendo la latencia sin impacto en la respuesta al cliente.
La configuración se gestiona mediante variables de entorno y un archivo JSON de reglas que soporta condiciones complejas (headers, URL, modelo) y acciones como redacción regex, reemplazo literal, bloqueo o tagging para logging. Las reglas se recargan automáticamente al detectar cambios en el sistema de archivos.
- Protección de datos sensibles: Redactar emails, teléfonos, tarjetas de crédito o direcciones IP antes de enviarlos a APIs de LLMs
- Auditoría y cumplimiento: Logging completo de prompts y respuestas para cumplir con regulaciones como GDPR o HIPAA
- Evaluación de modelos (evals): Tokenización y versionado de inputs para comparar rendimiento entre diferentes modelos sin exponer datos reales
- Seguridad perimetral: Bloqueo automático de solicitudes que contengan patrones maliciosos o contenido sensible no autorizado
- Redacción PII integrada con soporte para múltiples patrones (email, teléfono, SSN, tarjetas, IPs)
- Tokenización reversible de campos JSON con restauración automática en respuestas streaming
- Logging asíncrono sin impacto en latencia mediante offload a S3/MinIO cuando se excede el límite de 50KB
- Soporte nativo para respuestas buffering y streaming (SSE) con detección de cambios en reglas en tiempo real
- Dependencia de Bun para ejecución nativa, lo que limita despliegues sin este runtime específico
- Configuración manual de reglas JSON sin interfaz gráfica o panel de administración integrado
- Almacenamiento inline limitado a 50KB; cuerpos más grandes requieren configuración adicional de S3/MinIO
- No soporta composición Docker nativa (solo Dockerfile manual)
- Encriptación en reposo depende del backend de almacenamiento externo (S3/MinIO), no del proxy
Perfil de infraestructura
Estimación inicial derivada del repositorio y de los servicios detectados.
Despliegue detectado
Qué señales reales de instalación hemos encontrado.
Desplegar con Docker usando el Dockerfile proporcionado, mapeando el puerto 4001 y montando el archivo rules.json. Para producción, configurar GREPTURE_API_KEY para autenticación y R2_* variables si se usa offload a S3/MinIO. Asegurar HTTPS en la capa de transporte y verificar permisos de escritura en el bucket de almacenamiento externo.
Stack y dependencias
Componentes inferidos a partir de manifests, configuración y documentación.
Experiencia real de la comunidad
Ayuda a contrastar la estimación automática con instalaciones reales.
Todavía no hay datos comunitarios para este proyecto.