2. Pourquoi avoir de l’explicabilité ?

Afin montrer l’importance de l’explicabilité, nous allons voir différentes situations susceptibles d’illustrer ces besoins.

2.1. Les Yeux de la Tempête

2.2. Explications de texte

2.2.1. Situation Initiale

Cette situation permet de présenter le scénario. Une mutuelle est submergée d’appels suite à une tempête. Ces conseillers n’ont pas la capacité de répondre à tous les appels. Sur les réseaux sociaux, les sociétaires sont mécontents. Les responsables décident de réagir en proposant d’avoir une solution qui permet d’anticiper le nombre d’appels pour adapter le nombre de conseillers. Notre data scientist est mise à contribution.

2.2.2. Situation 1

Un usage essentiel de l’explicabilité est lors des étapes d’itérations de l’apprentissage d’un modèle. Grâce à l’explicabilité et la compréhension du fonctionnement du modèle, nous allons pouvoir itérer sur les différentes étapes : récolte des données, préparation des données, création, suppression de variables, choix de la variable cible, qualité des données,… C’est bien de pouvoir collaborer avec d’autres data scientists lors de l’apprentissage. Mais si les seuls éléments qu’on présente sont les performances du modèle, nos camarades data scientists vont difficilement pouvoir aider et échanger sur le modèle.

2.2.3. Situation 2

Dans cette situation, notre data scientist présente son modèle à des non expert de la data. Dans ce type de présentation, il vaut faire preuve de pédagogie pour expliquer comment fonctionne le modèle. De plus, les experts métiers apportent des connaissances qui peuvent nourrir le modèle.

2.2.4. Situation 3

Si le modèle restitue seulement un nombre (ou une probabilité), son usage est limité. L’explicabilité permet de valider la prédiction en détaillant l’influence de chaque variable. Elle peut aussi être restituée à des interlocuteurs non techniques pour accompagner la prédiction et donner confiance dans les résultats.

2.2.5. Situation 4

L’explicabilité permet de rendre le fonctionnement des modèles de machine learning transparent pour le grand public, renforçant ainsi la confiance et l’acceptation sociale. En rendant ces systèmes plus compréhensibles, on facilite leur adoption et on encourage une utilisation éthique et responsable.