Regardez les vidéos complètes avec un exemple concret !
Les puissants modèles d’intelligence artificielle comme DALLE ou ChatGPT sont super utiles et amusants à utiliser. Mais qu’arrive-t-il lorsqu’ils se trompent ?
Et s’ils vous mentaient sans même savoir qu’ils mentent ? Souvent appelés hallucinations, ces problèmes peuvent être nuisibles, surtout si nous faisons aveuglément confiance à l’IA. Nous devrions pouvoir retracer et expliquer la façon dont ces modèles prennent leurs décisions et génèrent leurs résultats.
Pour illustrer cette idée, examinons un exemple très simple. Vous êtes un chercheur qui souhaite créer un modèle capable de classer des images, c’est-à-dire de reconnaître l’objet principal dans chacune d’elles. Vous rassemblez quelques images de différents objets et entraînez un algorithme à comprendre ce qui fait qu’un chat est un chat, qu’un chien est un chien, et ainsi de suite… Vous vous attendez maintenant à ce que votre modèle reconnaisse ces objets dans n’importe quelle photo, puis le publiez sur votre site Web pour que tout le monde puisse l’utiliser.
Avant de le faire, vous le testez pour vous assurer qu’il fonctionne bien. Ici, nous voyons que le modèle est assez précis. Il a correctement déterminé qu’il s’agissait d’images d’animaux et, plus précisément, il a même reconnu un chat, un chien et un requin. Cool ! Il est temps de le mettre en ligne, et votre travail est terminé !
Eh bien, nous sommes loin d’avoir terminé. Et si votre modèle avait simplement eu de la chance ? Ou pire, s’il prenait ses décisions à partir de parties de l’image qui n’ont absolument aucun lien avec l’objet ? C’est le moment d’aborder un sujet très important : l’explicabilité. Par exemple, regardons ce sur quoi le modèle s’est concentré à l’aide d’une méthode appelée carte de saillance. Cette carte montre la partie de l’image à laquelle le modèle porte attention en lui attribuant un poids plus important.
En regardant cette carte, vous voyez que le modèle ne se concentre pas sur les bonnes caractéristiques, mais qu’il se trompe avec beaucoup d’assurance. Ici, nous voyons les pixels qui ont le plus influencé sa décision, et ils ne se trouvent même pas sur le requin. Le coin supérieur droit contenant de l’eau lui a fait reconnaître avec confiance un requin-tueur.
Si nous cachons ce coin de l’image et exécutons le modèle de nouveau, il reconnaît maintenant correctement le grand requin blanc. Je ne connais pas assez bien ces deux espèces pour savoir s’il s’agit d’une erreur grave ou non, mais vous pouvez voir comment un modèle peut se tromper avec beaucoup d’assurance à cause de caractéristiques de l’image qui ne sont absolument pas pertinentes. Ici, nous pouvions corriger le problème en cachant ces parties, mais c’est la carte de saillance qui nous a permis de comprendre le processus de décision du modèle et son biais envers l’eau.
Imaginez maintenant une IA qui contrôle votre future voiture autonome et prend des décisions en fonction d’objets sans aucun lien sur la route ou dans le ciel. Je ne serais pas à l’aise dans une voiture incapable de m’expliquer pourquoi elle a décidé d’accélérer ou de freiner. Heureusement, certaines techniques et entreprises se concentrent sur cet enjeu important et offrent une interface facile à utiliser pour interpréter les résultats et les décisions de votre modèle à l’aide de techniques d’explicabilité appliquée.
L’IA explicable, aussi appelée XAI ou interprétabilité en intelligence artificielle, vise à démystifier la boîte noire qui se cache derrière le processus de décision des modèles d’IA grâce à différentes techniques.
Elle vaut la peine même s’il faut faire un compromis sur l’exactitude. Il est très important de pouvoir justifier et expliquer une décision. Pensez à un chercheur incapable d’expliquer sa conclusion. Lui feriez-vous confiance ? C’est pourquoi nous utilisons des théorèmes et des expériences : pour disposer de preuves et d’une base solide pour nos convictions. C’est la même chose pour l’IA. Comprendre d’où viennent les résultats rend le modèle beaucoup plus précieux. L’explicabilité réduit aussi le nombre d’expériences et de tâches manuelles nécessaires pour repérer et résoudre les problèmes afin d’obtenir de meilleurs résultats.
En bref, l’objectif est de démystifier la boîte noire derrière les modèles d’IA, ce qui est aussi le but de ce blogue. Ça tombe bien !
[
L’infolettre hebdomadaire What’s AI de Louis-François Bouchard | Substack
Nous avons déjà vu l’une de ces approches appliquée aux modèles qui traitent des images : les cartes de saillance. Il existe toutefois de nombreuses autres méthodes pour mieux comprendre les décisions de votre modèle, même lorsqu’il traite des données complexes qui ne sont pas de simples images de chiens et de chats. Dans ma vidéo, nous avons examiné un exemple précis et appliqué avec Tensorleap, que vous pouvez réellement utiliser pour créer de meilleurs modèles dans le monde réel…
J’espère que cette courte introduction à la XAI a bien illustré l’importance de prendre le temps d’expliquer les prédictions de votre modèle, non seulement de façon quantitative, mais aussi qualitative. Classer des chats comme des chiens n’est peut-être pas très problématique, surtout parce que nous voyons rarement les deux au même endroit au même moment. Mais dans d’autres tâches, des prédictions fondées sur les mauvaises caractéristiques d’une image peuvent avoir d’énormes conséquences.
Il s’agit d’un domaine très passionnant dans lequel j’espère voir davantage de chercheurs se lancer. Cela nous permettra de créer des modèles plus fiables que nous comprenons vraiment et auxquels nous pouvons faire confiance. J’espère que cet article motivera une personne de plus à examiner un peu mieux le processus de décision de son modèle et à intégrer des techniques de XAI à son pipeline de test et de validation, tout comme les développeurs de logiciels disposent de nombreux outils qui vérifient si leur code peut être déployé de façon sécuritaire.
Dites-moi aussi si vous aimeriez voir plus d’articles sur le sujet, par exemple une explication approfondie d’une approche précise ou une entrevue avec un expert du domaine. Je crois qu’il s’agit d’un domaine très important que j’ai moi-même beaucoup utilisé pendant ma maîtrise et que j’utilise encore dans mon doctorat.
FAQ
Qu’est-ce que l’IA explicable ?
L’IA explicable utilise des méthodes qui aident les gens à examiner quels inputs ou quels facteurs internes ont influencé la prédiction d’un modèle.
Comment une carte d’attention ou de saillance peut-elle révéler un échec ?
Elle peut montrer qu’un classificateur s’est appuyé sur des artéfacts de l’arrière-plan plutôt que sur des caractéristiques appartenant à l’objet ciblé.
Pourquoi une bonne exactitude affichée avec confiance ne suffit-elle pas ?
Un modèle peut obtenir un bon résultat grâce à des raccourcis qui cessent de fonctionner lorsque l’environnement de déploiement change.
Comment l’explicabilité peut-elle améliorer la création d’un modèle ?
Elle aide les équipes à repérer les caractéristiques biaisées, les données manquantes, les exemples mal étiquetés et les cas qui exigent un réentraînement ciblé.
Une explication prouve-t-elle qu’un modèle a raison ?
Non. Les méthodes d’explication sont des approximations qui doivent être validées en même temps que les performances, la robustesse et l’expertise du domaine.