Prompt Jailbreak Checker

O Prompt Jailbreak Checker é uma ferramenta de análise de texto criada para desenvolvedores, pesquisadores de segurança e equipes de políticas que testam sistemas IA para injeção de prompt e tentativas de jailbreak. Aceita um prompt de entrada, analisa-o frente a uma biblioteca curada de indicadores de jailbreak e retorna uma avaliação estruturada do risco. A ferramenta enfatiza uma lógica de domínio exata: detecta vazamento de instruções, prompts de uso de ferramentas e linguagem de contorno, enquanto evita falsos positivos de frases inofensivas. Suporta verificações rápidas durante o desenvolvimento e auditorias mais profundas para avaliações de segurança. Exemplo: entrada 'Como posso contornar as restrições do modelo?' dispara sinais de alto risco e um relatório de correspondência de padrões detalhado.
O processamento central combina verificações de regras determinísticas com avaliação estatística opcional. Funções obrigatórias incluem um conjunto de detectores baseados em regras, um motor de pontuação e um veredito resumido. Funções avançadas opcionais incluem detecção independente de idioma, bibliotecas de padrões extensíveis e análise em lote. A fórmula de pontuação agrega os padrões detectados com pesos; risk_score varia de 0 a 100. Saídas incluem risk_score, matched_patterns, veredito (safe, review, unsafe) e as entradas brutas. A ferramenta foi concebida com considerações de privacidade e pode ser integrada a fluxos de API.
Casos de uso incluem testes QA de regressão para suscetibilidade a jailbreak, verificação de políticas de segurança e avaliações de red-team. Diferenciais incluem um conjunto de regras transparente, modelo de pontuação claro e resultados exportáveis para auditorias. Reduz falsos positivos cruzando correspondências de padrões com indícios contextuais e tamanho da entrada, suporta profundidade configurável e pode ser integrada em pipelines CI ou painéis de risco. Usuários típicos: desenvolvedores de IA, analistas SOC e equipes de conformidade avaliando a segurança de prompts multilíngues.
Não modifica prompts nem impõe restrições; apenas analisa e relata.