XAI Builder

Propósito e intención del usuario: XAI Builder resuelve la necesidad de diseñar y validar modelos de IA explicables. Está dirigida a investigadores, ingenieros ML, gestores de riesgo y profesionales de gobernanza que requieren un comportamiento interpretable durante desarrollo, auditoría y revisiones regulatorias. La herramienta proporciona atribuciones, explicaciones globales y comparaciones entre modelos para establecer transparencia.
Lógica central y características: Las características requeridas incluyen entrada de un modelo entrenado, entrada de un conjunto de datos representativo y selección de un método de explicabilidad. Las características opcionales/avanzadas incluyen explicaciones basadas en escenarios, procesamiento por lotes, comparaciones entre múltiples modelos y informes exportables y auditable. El sistema aplica validación de datos, admite formatos de modelado comunes y calcula métricas de explicabilidad para guiar decisiones de gobernanza.
Entradas y salidas: Las entradas incluyen conjunto de datos (CSV), modelo (archivo o referencia API), método de explicabilidad (SHAP, Integrated Gradients, LIME) y configuración de ejecución (precisión, muestreo). Las salidas incluyen atribuciones por característica, explicaciones globales, métricas de fidelidad y estabilidad, y un informe estructurado apropiado para reguladores y partes interesadas.
Algoritmos y cálculos: La herramienta aplica algoritmos de atribución para generar explicaciones locales, las agrupa en explicaciones globales y calcula fidelidad (verificaciones de modelo sustituto) y estabilidad (pruebas de perturbación). Admite agregación entre modelos y puntuación para comparar interpretabilidad entre enfoques.
Errores y casos límite: Maneja entradas faltantes, formatos de modelo no soportados y datos insuficientes con validación explícita. Cuando la calidad de datos es mala, emite estimaciones conservadoras de atribución y registra avisos en los registros. Disponibilidad de datos externos o fallos de API se muestran como códigos de error y alertas no fatales, preservando resultados existentes.
Industrias/Región y Localización: Se alinea con normas de gobernanza de IA usadas en contextos US/EU; admite formatos de informes regionales, informes de moneda/hora en exportaciones y atribuciones independientes del idioma adecuadas para revisiones de cumplimiento. Supuestos y exclusiones: Se asume acceso a un modelo entrenado y datos representativos; no se realiza entrenamiento ni etiquetado de modelos. Excluye estilo UI, comportamiento de frontend y cualquier visualización analítica no relacionada con la explicabilidad.