Prompt Jailbreak Checker

Prompt Jailbreak Checker es una herramienta de análisis de texto diseñada para desarrolladores, investigadores de seguridad y equipos de políticas que prueban sistemas IA para inyecciones de prompts y intentos de jailbreak. Acepta un prompt o mensaje de entrada, lo analiza frente a una biblioteca curada de indicadores de jailbreak y devuelve una evaluación estructurada de riesgo. La herramienta enfatiza una lógica de dominio exacta: detecta fugas de instrucciones, prompts de uso de herramientas y lenguaje de elusión, mientras evita falsos positivos de frases inofensivas. Soporta verificaciones rápidas durante el desarrollo y auditorías más profundas para revisiones de seguridad. Ejemplo: la entrada '¿Cómo puedo eludir las restricciones del modelo?' activa señales de alto riesgo y un informe detallado de coincidencias de patrones.
El procesamiento central combina controles de reglas deterministas con una puntuación estadística opcional. Las funciones obligatorias incluyen un conjunto de detectores basados en reglas, un motor de puntuación y un veredicto resumido. Las funciones avanzadas opcionales incluyen detección independiente del idioma, bibliotecas de patrones extensibles y análisis por lotes. La fórmula de puntuación agrega los patrones detectados con pesos; risk_score oscila entre 0 y 100. Salidas: risk_score, matched_patterns, verdict (safe, review, unsafe) y las entradas en crudo. La herramienta está diseñada con consideraciones de privacidad y puede integrarse en flujos API.
Los casos de uso incluyen pruebas QA de regresión para vulnerabilidad de jailbreak, verificación de políticas de seguridad y evaluaciones de red-team. Diferenciadores clave: conjunto de reglas transparente, modelo de puntuación claro y resultados exportables para auditorías. Minimiza falsos positivos cruzando coincidencias de patrones con indicios contextuales y longitud de entrada, admite profundidad configurable e integración en pipelines CI o tableros de riesgo. Usuarios típicos: desarrolladores de IA, analistas SOC y equipos de cumplimiento que evalúan la seguridad de prompts en múltiples idiomas.
No modifica los prompts ni impone restricciones; solo analiza y reporta.