Qu’est-ce que l’explainable AI (XAI) ?

L’eXplainable Artificial Intelligence (XAI), en français l’IA explicable, regroupe les approches permettant de rendre les décisions des intelligences artificielles (IA) transparentes et accessibles.

Avec la complexité croissante de l’IA et les avancées en Machine Learning, il devient de plus en plus difficile pour les utilisateurs de comprendre les processus derrière les résultats générés par une IA. Il est donc essentiel de maximiser la compréhension des décisions et des résultats des intelligences artificielles.

La recherche en IA vise à rendre ces systèmes de plus en plus autonomes et performants, ce qui rend d’autant plus cruciale la nécessité d’expliquer leurs décisions. C’est précisément là qu’intervient l’explainable AI (XAI) : elle offre une transparence en ouvrant la « boîte noire » de l’IA et en fournissant des aperçus sur le fonctionnement des algorithmes.

Sans cela, il n’est pas possible d’établir une relation de confiance avec les calculs numériques concernés. La transparence créée par l’explainable AI est donc d’une importance capitale pour l’acceptation de l’intelligence artificielle.

L’objectif est de développer des modèles explicables, sans compromettre la précision et l’efficacité des algorithmes d’IA. La transparence qu’apporte l’XAI est essentielle pour instaurer la confiance dans les systèmes d’IA. Cela permet aux utilisateurs de mieux comprendre le fonctionnement de l’IA et d’évaluer les résultats obtenus. Il est également nécessaire que les générations futures d’utilisateurs puissent comprendre les partenaires artificiellement intelligents, leur faire confiance de manière appropriée et interagir efficacement avec eux. Sans cette compréhension, une utilisation fiable et une acceptation de l’IA restent difficiles.

Les principaux domaines d’application de l’XAI

L’intelligence artificielle n’est plus réservée aux chercheurs depuis un certain temps déjà. De nos jours, elle fait partie intégrante de la vie quotidienne. C’est la raison pour laquelle il est essentiel que la modularité de l’intelligence artificielle ne soit pas uniquement accessible aux utilisateurs directs : les décisionnaires en particulier doivent pouvoir comprendre autant que possible le fonctionnement des IA pour avoir un minimum de confiance dans cette technologie. C’est pourquoi la reddition de comptes (en anglais accountability) est particulièrement importante. Les principaux domaines d’application de l’IA explicable sont listés dans la suite de cet article.

La conduite autonome

Le projet SAM mène des expérimentations à grande échelle sur les véhicules autonomes en conditions réelles. Le projet s’efforce de garantir que les décisions des algorithmes en matière de conduite soient compréhensibles et traçables, et inclut des approches pour rendre les systèmes plus transparents en expliquant les comportements du véhicule dans différentes situations.

Le diagnostic médical

Dans le domaine de la santé, l’IA est de plus en plus utilisée pour les diagnostics et les recommandations thérapeutiques, comme dans le projet SPCCT. Ce scanner innovant produit des données spectrales détaillées, analysées par des algorithmes intégrant les principes de l’explainable AI. Ces algorithmes permettent d’expliciter les étapes du diagnostic et d’en améliorer la compréhension. En améliorant la clarté des décisions, SPCCT renforce la confiance des professionnels de santé et facilite l’adoption de ces technologies en milieu médical.

Le secteur financier

Dans le domaine financier, l’IA est utilisée pour les décisions de crédit, la détection de fraudes et l’évaluation des risques. L’XAI permet de mieux comprendre les bases de ces décisions et de s’assurer qu’elles respectent les critères éthiques et réglementaires. Ainsi, les parties concernées et les autorités de régulation peuvent comprendre comment et pourquoi un crédit a été accordé ou refusé.

La gestion et direction d’entreprise

Pour les dirigeants, il est crucial de comprendre le fonctionnement des systèmes d’IA, utilisés par exemple pour les décisions stratégiques ou les prévisions. L’XAI permet aux dirigeants de comprendre les décisions des algorithmes et d’en évaluer l’impact sur la stratégie d’entreprise.

L’imagerie par réseaux neuronaux

L’XAI est également utilisée dans l’imagerie basée sur les réseaux neuronaux, notamment pour l’analyse des données visuelles par IA. Cette approche vise à comprendre comment les réseaux neuronaux traitent et interprètent les informations visuelles. Les applications vont de l’imagerie médicale, comme l’analyse des radiographies ou des IRM, à l’optimisation des technologies de surveillance. Grâce à l’XAI, il est possible de déchiffrer le fonctionnement de l’IA et d’identifier les éléments d’une image utilisés pour la prise de décision. Cela revêt une importance particulière dans les applications critiques pour la sécurité ou sensibles sur le plan éthique, où de mauvaises interprétations pourraient entraîner des conséquences graves.

La formation aux stratégies militaires

Dans le domaine militaire, l’IA est utilisée pour développer des stratégies pour les décisions tactiques ou les simulations. L’explainable AI y joue un rôle clé en fournissant des explications sur les recommandations tactiques faites par l’IA et la priorisation des différents scénarios.

Dans ces domaines, comme dans bien d’autres, l’XAI garantit que les systèmes d’IA soient perçus comme des outils fiables, transparents et éthiquement acceptables.

Comment fonctionne l’explainable AI ?

Il existe différentes méthodes ou approches permettant d’apporter de la transparence et de la compréhension dans les intelligences artificielles. Voici les principales :

• La Layer-wise Relevance Propagation (LRP ; que l’on peut traduire approximativement par « propagation de la pertinence couche par couche ») a été décrite pour la toute première fois en 2015. Il s’agit d’une technologie permettant de déterminer les caractéristiques des vecteurs d’entrée contribuant le plus au résultat de sortie d’un réseau neuronal.
• La Counterfactual Method (« méthode contrefactuelle ») décrit la façon dont des entrées de données (textes, images, diagrammes, etc.) sont modifiées de façon entièrement ciblée après l’obtention d’un résultat. On observe ensuite dans quelle mesure le résultat a été modifié.
• Les Local Interpretable Model-Agnostic Explanations (LIME) consistent en un modèle d’explication avec une approche holistique qui vise à expliquer n’importe quel classificateur mécanique et les pronostics qui en résultent. Cette approche doit rendre accessible les données et les méthodes à des utilisateurs non spécialisés.
• La rationalisation est une méthode utilisée spécialement pour les robots basés sur une IA. Dans ce cadre, la machine est conçue de façon à pouvoir expliquer ses actions de façon autonome.

Explainable AI vs. Generative AI : quelle différence ?

L’IA explicable (XAI) et l’IA générative (GenAI) se distinguent fondamentalement par leurs objectifs et leurs applications :

L’IA explicable vise à rendre les processus décisionnels des modèles d’IA compréhensibles et transparents. Pour cela, elle utilise des méthodes telles que les visualisations, les systèmes basés sur des règles ou des outils comme LIME et SHAP. Cette approche met l’accent sur la transparence, essentielle dans des domaines critiques où la confiance et l’explicabilité sont primordiales.

L’IA générative, quant à elle, se concentre sur la création de nouveaux contenus : textes, images, musique ou vidéos. Elle repose sur des réseaux neuronaux comme les Generative Adversarial Networks (GAN) ou des modèles transformeurs, pour produire des résultats créatifs simulant des processus humains ou artistiques. Des outils comme GPT pour les textes ou DALL-E pour les images illustrent ces capacités, largement exploitées dans les domaines de l’art, du divertissement et de la production de contenu.

L’XAI vise à expliquer le fonctionnement des modèles existants, tandis que l’IA générative se concentre sur la production de nouveaux contenus, avec des applications complémentaires. Ces deux approches peuvent néanmoins être combinées : par exemple, des modèles génératifs peuvent être analysés par l’XAI pour garantir que leurs résultats soient éthiques, transparents et fiables. Ensemble, IA explicable et IA générative contribuent à faire progresser la transparence et l’innovation dans le domaine de l’intelligence artificielle.