S-LIME : reconcilier localité et fidélité des explications linéaires

International audience; L’avantage de la localité est l’une des principales prémisses de LIME, l’une des méthodes les plus importantes pour expliquer les modèles d’apprentissage automatique de type boîte noire. Cet angle d’attaque repose sur le postulat que plus nous exa- minons localement le voisinage d’une instance, plus le modèle de boîte noire devient simple et plus nous pouvons l’imiter avec précision à l’aide d’un substitut linéaire. Aussi logique que cela puisse paraître, nos résultats suggèrent que, avec la conception actuelle de LIME, le modèle de substitution peut dégénérer lorsque l’explication est trop locale, c’est-à-dire lorsque le paramètre de largeur de bande σ tend vers zéro. Sur la base de cette observation, la contribution de cet article est double. Premièrement, nous étudions l’impact de la bande passante et du voisinage d’apprentissage sur la fidélité et la sémantique des explications LIME. Deuxièmement, et sur la base de nos résultats, nous proposons S-LIME, une extension de LIME qui réconcilie fidélité et localité.