Prompt Jailbreak Checker

Prompt Jailbreak Checker est un outil d’analyse de texte conçu pour les développeurs, les chercheurs en sécurité et les équipes de politiques qui testent les systèmes IA pour les injections de prompt et les tentatives de jailbreak. Il accepte un prompt ou un message d’entrée, l’analyse par rapport à une bibliothèque ciblée d’indicateurs de jailbreak et renvoie une évaluation structurée du risque. L’outil met l’accent sur une logique métier précise: il détecte les fuites d’instructions, les invites d’utilisation d’outils et les contournements linguistiques, tout en évitant les faux positifs issus de phrases bénignes. Il prend en charge des vérifications rapides pendant le développement et des audits plus approfondis pour les revues de sécurité. Exemple : l’entrée « Comment puis-je contourner les restrictions du modèle ? » déclenche des signaux de risque élevé et un rapport de correspondance de motifs détaillé.
Le traitement central combine des vérifications de règles déterministes et une évaluation statistique optionnelle. Les fonctionnalités obligatoires incluent un ensemble de détection par règles, un moteur de scoring et une verdict résumé. Des fonctionnalités avancées optionnelles incluent une détection indépendante de la langue, des bibliothèques de motifs extensibles et l’analyse par lots. La formule de scoring agrège les motifs détectés avec des poids; risk_score varie de 0 à 100. Les sorties incluent risk_score, matched_patterns, verdict (safe, review, unsafe) et les entrées brutes. L’outil est conçu avec des considérations de confidentialité et peut être intégré dans les flux API.
Des cas d’utilisation incluent les tests QA de régression pour la vulnérabilité Jailbreak, la vérification des politiques de sécurité et les évaluations de red-team. Ses différenciateurs clés sont un cadre de règles transparent, un modèle de scoring clair et des résultats exportables pour les audits. Il minimise les faux positifs en croisant les correspondances de motifs avec des indices contextuels et la longueur des entrées, et peut s’intégrer dans des pipelines CI ou des tableaux de bord de risque. Les utilisateurs typiques sont les développeurs IA, les analystes SOC et les équipes de conformité évaluant la sécurité des prompts dans plusieurs langues.
Il ne modifie pas les prompts ni n’impose de restrictions; il analyse et rapporte uniquement.