Uitleg
Uitlegbaarheid (explainability) is het vermogen om aan mensen te vertellen waarom een AI-systeem een bepaalde beslissing heeft genomen. Dit is cruciaal in kritieke toepassingen zoals medische diagnose of rechtelijke beslissingen. Methodes omvatten feature importance, LIME, SHAP en andere interpretabiliteitstechnieken.
Een goed uitlegbaar systeem verlaagt risico's en helpt gebruikers vertrouwen op de AI.
⚡ Voorbeelden
- •Medische AI die uitlegt welke symptomen voor een bepaalde diagnose zorgden
- •Creditcard-fraud detectie die aangeeft waarom een transactie als verdacht is gemarkeerd
- •Werkgever-AI die specificeert welke vaardigheden in sollicitanten prioriteit hebben
Trefwoorden
interpretabiliteitbegrijpelijkheidverklaringenLIMESHAP