L’explicabilité des Intelligences Artificielles ( XAI ) pour quoi faire ?

Des algorithmes souvent perçus comme des « boîtes noires » difficiles à comprendre

Les intelligences artificielles ou plus largement les modèles de Data Science quels qu’ils soient représentent de formidables opportunités business pour les entreprises. Aussi bien pour créer que pour améliorer des process, services ou produits. 

Pourtant force est de constater que près de 80 % des projets lancés sur ces sujets ne voient jamais le jour d’après Gartner. Le côté “boîte noire” des algorithmes utilisés est souvent pointé du doigt. 

En effet, beaucoup des utilisateurs finaux de ses nouvelles “technologies” montrent souvent envers leurs résultats de la réserve voire de la méfiance. Il faut avouer qu’il est difficile de faire confiance à quelque chose de nouveau qui n’est pas 100% fiable, que l’on ne comprend pas et qui vient bouleverser notre quotidien (vous accepteriez d’être juger par une IA au tribunal sans que l’on vous explique la sentence ?) . 

Dans ce contexte d’adoption de ces algorithmes un sujet est de plus en plus au coeur des attentions, il s’agit de “l’explicabilité”.

Que ce soit les politiciens représentés notamment par Cédric Villani ou les chefs d’entreprises tels que Patrice Caine (CEO Thales), tous s’accordent sur l’importance de l’explicabilité des intelligences artificielles ( XAI ). Ce fut d’ailleurs un des gros sujets abordés par les speakers du dernier Vivatech.

Qu’entend-on par “ l’explicabilité des intelligences artificielles ” ?

L’XAI ou “eXplainable Artificial Intelligence” fait référence aux méthodes et outils qui permettent d’expliquer chaque résultat calculé par une intelligence artificielle de manière simple et intelligible pour un être humain. 

Grâce à l’XAI, nous devons être en mesure de comprendre pourquoi un algorithme a donné tel ou tel résultat.

Concrètement cela donne quoi ?

Aujourd’hui par exemple, de nombreuses sociétés proposant des services d’abonnement (téléphone, assurance, banque, éléctricité etc..) calculent pour chacun de leurs clients ce que l’on appelle un “score de churn ou d’attrition” via des algorithmes de Data Science.

Ces scores de churn donnent la probabilité qu’un client a de résilier son contrat.

Actuellement dans la majorité des cas, les équipes de fidélisation de ces entreprises ne voient que ce score et doivent contacter les clients en fonction (beaucoup refusent…). L’objectif de l’XAI est d’expliquer  “pourquoi” l’algorithme a identifié le client comme souhaitant résilier son contrat.

Pourquoi faire ?

3 bonne raisons de s’intéresser à l’XAI (et de s’y mettre !) 

• Tendre vers l’AI-driven : Comprendre le raisonnement des algorithmes va permettre aux utilisateurs finaux de se rendre compte qu’ils sont basés sur des principes logiques. Ils vont ainsi leur faire confiance et les utiliser pour exploiter leur valeur. Comprendre va également leur permettre d’être force de proposition pour améliorer ces algorithmes.
• Augmenter la valeur de l’algorithme : Les critères de décision d’un algorithme quels qu’ils soient, peuvent vraiment permettre une meilleure utilisation des résultats. Par exemple dans le cas du churn, un conseiller va devoir adresser différemment une personne qui risque de résilier parce qu’elle cherche une offre moins chère d’une autre qui va déménager ou qui a eu de nombreux problèmes durant son abonnement. Comprendre le “pourquoi” va ici permettre de préparer et d’adapter son discours afin d’être plus performant.
• Être en conformité avec la loi : Depuis la mise en place de la RGPD il est obligatoire d’être en mesure d’expliquer tous les résultats (scores segmentation etc…) qui portent sur des individus.

Qui s’y est déjà mis ?

Encourager par les gains et par la législation, de nombreuses sociétés ont commencé en interne à effectuer des projets dans ce sens. Ceci dit, la transversalité de cette thématique et les compétences spécifiques qu’elle requiert rendent souvent la mise en oeuvre très complexe.C’est notamment pourquoi aux Etats-Unis de plus en plus de solutions commerciale spécialisées sur ce sujet voient le jour… mais c’est aussi le cas en France avec notamment ( https://www.xplik.io/ ) ;). 

Le binôme IA et humain peut être une formidable combinaison gagnante.  Encore faut-il créer le lien. 

Nous vous donnerons plus de détails sur les méthodes et les cas d’application dans un prochain article !

Article écrit par Anne-Sophie LAUGIER et Louis-Baptiste FRANCE