XAI Builder

Formål og brugeridé: XAI Builder adresserer behovet for at designe og validere forklarlige AI-modeller. Den henvender sig til forskere, ML-ingeniører, risikostyringsfolk og governance-professionelle, der kræver fortolkende modeladfærd under udvikling, revision og overholdelse. Værktøjet leverer attributioner, globale forklaringer og tværmodel-sammenligninger for at opnå gennemsigtighed.
Kerne-logik og funktioner: Påkrævede funktioner inkluderer input af en trænet model, input af et repræsentativt datasæt og valg af forklaringsmetode. Valgfrie/avancefunktioner inkluderer scenarie-baserede forklaringer, batch-behandling, multi-model sammenligninger og eksportérbare, revisionsklare rapporter. Systemet udfører data-validering, understøtter gængse model-formater og beregner forklarings-målinger til at styre governance-beslutninger.
Input og Output: Input omfatter datasæt (CSV), model (fil eller API-reference), forklaringsmetode (SHAP, Integrated Gradients, LIME) og køringskonfiguration (nøjagtighed, sampling). Output omfatter attributioner per feature, globale forklaringer, fidelity- og stabilitetsmålinger og en struktureret rapport egnet til tilsyn og interessenter.
Algoritmer & beregninger: Værktøjet anvender attributions-algoritmer til at generere lokale forklaringer, sammenfatter dem til globale forklaringer og beregner fidelity (surrogatmodel-kontroller) og stabilitet (perturbationstests). Det understøtter tvær-model-aggregation og scoring for at sammenligne fortolkningsevnen på tværs af tilgange.
Fejl & kanttilfælde: Håndterer manglende input, ikke-understøttede model-formater og utilstrækkelige data med eksplicit validering. Ved dårlig data gives konservative attribution-estimater og advarsler logges. Ekstern data tilgængelighed eller API-fejl vises som fejl-koder og ikke-fatale varsler, der bevarer eksisterende resultater.
Industri/Region & lokalisering: Tilpasset AI-styringsnormer i US/EU-sammenhæng; understøtter regionale rapporteringsformater, valuta-/tidszone-rapportering i eksport og sprog-uafhængige attributioner til overholdelsesgennemgang. Antagelser & undtagelser: Forudsætter adgang til en trænet model og repræsentative data; træning eller mærkning af modellen udføres ikke. Inkluderer ikke UI-styling, frontend-beténd og visuelle forklaringer uden for analyser.