Explainability
Samenvatting
Een validatie krijgt pas waarde wanneer de gebruiker begrijpt waarom een bepaald resultaat is ontstaan.
Daarom produceert DAQS niet alleen een conclusie, maar ook de onderbouwing die tot die conclusie heeft geleid.
Iedere validatie moet controleerbaar, reproduceerbaar en uitlegbaar zijn. Alleen dan ontstaat vertrouwen in geautomatiseerde kwaliteitsbeoordelingen.
Kernvraag
Waarom is een validatieresultaat pas bruikbaar wanneer het ook uitlegbaar is?
Waarom dit belangrijk is
Een systeem dat uitsluitend meldt dat een object niet voldoet, lost het onderliggende probleem niet op.
De gebruiker wil weten:
- Welke regel is uitgevoerd?
- Welke informatie is beoordeeld?
- Waarom voldoet het object niet?
- Hoe kan de afwijking worden opgelost?
Zonder deze informatie ontstaat onzekerheid. Gebruikers moeten de uitkomst accepteren zonder te kunnen controleren waarop deze is gebaseerd.
Binnen DAQS is dat onacceptabel.
Wat is explainability?
Explainability betekent dat iedere validatie volledig navolgbaar is.
Van iedere conclusie moet duidelijk zijn:
- welke regel is uitgevoerd;
- welke bouwdata is beoordeeld;
- welke voorwaarden zijn gecontroleerd;
- waarom de regel tot deze conclusie is gekomen.
Explainability maakt van een uitkomst een onderbouwde beoordeling in plaats van een losse melding.
Vertrouwen vraagt om transparantie
Geautomatiseerde validatie heeft alleen waarde wanneer gebruikers de uitkomsten kunnen vertrouwen.
Dat vertrouwen ontstaat niet doordat een computer een beoordeling geeft.
Vertrouwen ontstaat doordat gebruikers kunnen controleren hoe die beoordeling tot stand is gekomen.
Een validatie moet daarom niet alleen reproduceerbaar zijn, maar ook begrijpelijk.
De gebruiker hoeft de interne werking van de Rule Engine niet te kennen, maar moet wel kunnen begrijpen waarom een object als voldoende of onvoldoende betrouwbaar is beoordeeld.
Objectieve besluitvorming
Explainability ondersteunt meer dan alleen het oplossen van fouten.
Wanneer organisaties kwaliteitsbeslissingen nemen op basis van digitale bouwdata, moeten zij kunnen aantonen waarop die beslissingen zijn gebaseerd.
De onderbouwing van iedere validatie maakt deze besluitvorming objectief, controleerbaar en herhaalbaar.
Hierdoor verschuift de discussie van:
"Waarom zegt DAQS dat dit fout is?"
naar:
"Klopt de onderliggende kwaliteitsregel en voldoet de beschikbare informatie aan die regel?"
Dat maakt kwaliteitsdiscussies transparanter en minder afhankelijk van persoonlijke interpretatie.
Praktijkvoorbeeld
Een validatie meldt dat een deur niet voldoet aan de projecteisen.
Zonder explainability blijft onduidelijk waarom.
Met explainability kan de gebruiker zien welke regel is uitgevoerd, welke eigenschappen zijn gecontroleerd en welke voorwaarde niet is gehaald.
Daardoor hoeft de gebruiker de software niet op haar woord te geloven. De conclusie kan zelfstandig worden gecontroleerd en, indien nodig, worden besproken of aangepast.
Belangrijkste inzichten
- Iedere validatie moet uitlegbaar zijn.
- Transparantie is een voorwaarde voor vertrouwen.
- Explainability maakt resultaten controleerbaar.
- Objectieve validatie ondersteunt objectieve besluitvorming.
- Een conclusie zonder onderbouwing creëert geen vertrouwen.
Relatie met DAQS en Elements
De Rule Engine bepaalt de uitkomst van een validatie.
Explainability maakt inzichtelijk hoe deze uitkomst tot stand is gekomen.
Pas daarna kunnen de resultaten worden samengebracht in dashboards, analyses en rapportages voor verschillende gebruikersgroepen.
Belangrijk om te onthouden
Een validatie zonder onderbouwing creëert geen vertrouwen. Explainability maakt van een geautomatiseerde conclusie een controleerbare en objectieve beoordeling.