Recientemente, el análisis de vulnerabilidades en endpoints de IA (como se detalla en el artículo “Attackers are hijacking exposed AI endpoints to run offensive operations – no exploit needed”) ha puesto de manifiesto un riesgo crítico: la exposición de APIs de inferencia (Ollama, LiteLLM) sin capas de seguridad, permitiendo el acceso anónimo y el abuso de recursos.
Como respuesta técnica a este escenario, he desarrollado AI Guard Gateway, un proxy inverso de seguridad diseñado para implementarse delante de cualquier modelo de lenguaje.
🛠️ Implementación Técnica y Mitigaciones
El sistema ha sido construido bajo la metodología SDD (Spec-Driven Development), asegurando que cada funcionalidad responda a un criterio de aceptación verificado.
Vulnerabilidad Mitigación en AI Guard Gateway Componente Técnico Endpoint Hijacking Autenticación obligatoria (API Keys / JWT)auth.py
Resource Exhaustion
Rate Limiting mediante Ventana Deslizante
rate_limiter.py
Prompt Injection
Detección nativa de patrones de inyección
main.py (detect_prompt_injection)
PII Leakage
Redacción automática de emails y tarjetas
pii_redactor.py
Static Policies
Integración con OPA (Open Policy Agent)
policy.rego
🔍 Verificación y Calidad
El proyecto no se ha limitado a la implementación, sino que ha pasado por un proceso de validación riguroso:
-
Test Suite: Cobertura de rutas críticas (Auth, RateLimit, PII) mediante
pytest. -
Auditoría de Seguridad: Escaneo con
banditresultando en 0 vulnerabilidades de severidad Alta o Media. - CI/CD: Pipeline configurado para análisis continuo vía SonarCloud.
🔗 Recursos
- Repositorio: GitHub – ai-guard-gateway
- Licencia: AGPL-3.0
- Inspiración: Artículo de cyclopt_dimitrisk en Dev.to
답글 남기기