À retenir
- Le cadre des systèmes rapide et lent est utile, car les systèmes d'IA ont besoin à la fois de reconnaissance de motifs et d'un raisonnement ou d'une vérification plus réfléchis.
- Les prédictions rapides sont puissantes, mais elles peuvent être fragiles lorsqu'une tâche exige de la planification, de l'incertitude, de la mémoire ou des contraintes explicites.
- La direction pratique ne repose pas sur un modèle magique, mais sur des systèmes qui combinent modèles, outils, structure, rétroaction et évaluation.
Vers une IA plus générale et digne de confiance
Je vais laisser Francesca Rossi présenter cet article avec son excellente remarque faite pendant le AI Debate 2, organisé par Montreal AI:
Ce sont les raisons pour lesquelles Francesca Rossi et son équipe chez IBM ont publié cet article scientifique qui propose une direction de recherche pour faire progresser l’IA. Ils s’inspirent des théories cognitives de la prise de décision humaine. Leur prémisse est la suivante: si nous comprenons mieux les capacités humaines qui manquent encore à l’IA, comme l’adaptabilité, la robustesse, l’abstraction, la généralisation, le sens commun et le raisonnement causal, nous pourrions obtenir des capacités semblables dans un système d’IA.
L’IA neurosymbolique: la troisième vague
Personne ne sait encore à quoi ressemblera l’avenir de l’IA. Reposera-t-il sur les réseaux de neurones, ou devons-nous intégrer l’apprentissage automatique à des techniques d’IA symbolique et logique? Cette deuxième possibilité ressemble aux systèmes d’apprentissage neurosymboliques, qui intègrent deux phénomènes fondamentaux du comportement intelligent: le raisonnement et la capacité d’apprendre de l’expérience. Selon les auteurs, « une meilleure compréhension de la façon dont les humains possèdent et ont développé ces capacités avancées peut inspirer des approches novatrices pour doter les systèmes d’IA de ces compétences ». Mais personne n’est mieux placé que Luis Lamb pour expliquer ce système d’apprentissage présenté dans son récent article « Neurosymbolic AI: The 3rd Wave ».
Un système neurosymbolique est essentiellement un autre type de système d’IA qui cherche à utiliser une représentation des connaissances et un raisonnement bien fondés. Il combine l’apprentissage par réseaux de neurones, la représentation symbolique des connaissances et le raisonnement logique afin de créer un système d’IA à la fois interprétable et digne de confiance. C’est ici qu’intervient le travail de Francesca Rossi, avec leur article intitulé « Thinking Fast and Slow in AI ». Comme son nom l’indique, les auteurs s’appuient sur la théorie de Daniel Kahneman concernant les deux systèmes expliqués dans son livre Système 1 / Système 2: Les deux vitesses de la pensée. Ils tentent de les relier dans une théorie unifiée afin de déterminer certaines des origines des capacités humaines recherchées.
Système 1 et système 2
Voici un court extrait du AI Debate 2, organisé par Montreal AI, dans lequel Daniel Kahneman lui-même explique clairement ces deux systèmes et leur lien avec l’intelligence artificielle…
En bref, Kahneman explique que les décisions humaines sont guidées par deux principaux types de capacités, ou « systèmes », qu’il appelle le système 1 et le système 2. Le premier nous donne les outils nécessaires pour prendre des décisions intuitives, rapides et inconscientes. Nous pouvons le voir comme le système de la pensée rapide. Le deuxième gère les situations complexes dans lesquelles nous avons besoin d’une pensée rationnelle et de logique pour décider. Il représente ici la pensée lente.
Système 1 et système 2 en IA
Si nous revenons à l’article « Thinking Fast and Slow in AI », Francesca Rossi et son équipe soutiennent que nous pouvons faire une comparaison très approximative entre ces deux systèmes et les deux principales approches de l’IA: l’apprentissage automatique et le raisonnement logique symbolique. Autrement dit, les systèmes d’IA guidés par les données et ceux guidés par les connaissances. Le système 1 de Kahneman et l’apprentissage automatique semblent tous les deux capables de construire des modèles à partir de données sensorielles, comme la vue et la lecture. Le système 1 et l’apprentissage automatique peuvent aussi tous les deux produire des résultats imprécis et biaisés. En effet, ce que nous appelons l’apprentissage profond n’est pas assez « profond » pour être explicable, tout comme le système 1. La principale différence reste toutefois que les algorithmes actuels d’apprentissage automatique ne possèdent pas les notions de base de causalité et de raisonnement de sens commun de notre système 1.
Nous pouvons aussi comparer le système 2 aux techniques d’IA basées sur la logique, la recherche, l’optimisation et la planification. Ces techniques n’utilisent pas l’apprentissage profond. Elles s’appuient plutôt sur des connaissances explicites, des symboles et des concepts de haut niveau pour prendre des décisions. C’est la similarité que les auteurs soulignent entre le système humain de prise de décision et les systèmes actuels d’intelligence artificielle. Je tiens à vous rappeler que, comme ils l’indiquent, l’objectif principal de cet article est de « stimuler la communauté de recherche en IA pour qu’elle définisse, essaie et évalue de nouvelles méthodologies, de nouveaux cadres et de nouvelles mesures d’évaluation, dans le but de mieux comprendre l’intelligence humaine et l’intelligence artificielle ». Ils souhaitent y arriver en demandant à la communauté de l’IA d’étudier 10 questions importantes et d’essayer d’y trouver des réponses pertinentes, ou au moins d’y réfléchir.
10 questions pour la communauté de recherche en IA
Je vais simplement énumérer ici ces 10 questions importantes et leur contexte, tirés de l’article d’IBM « Thinking Fast and Slow in AI ». Ces questions devront être prises en compte dans les futurs travaux de recherche visant à créer une nouvelle génération d’IA plus générale et digne de confiance. N’hésitez pas à lire leur article pour en savoir beaucoup plus sur ces questions et à en discuter dans les commentaires.
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
1 Devrions-nous définir clairement les capacités du système 1 et du système 2 d’une IA?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
2 Le caractère séquentiel du système 2 est-il un défaut ou une caractéristique? Devrions-nous le transposer aux machines, ou exploiter des fils d’exécution parallèles qui effectuent le raisonnement du système 2? Est-ce que cela, combiné à la plus grande puissance de calcul des machines par rapport aux humains, compenserait l’absence d’autres capacités en IA?
3 Quelles mesures permettraient d’évaluer la qualité d’un système d’IA hybride combinant système 1 et système 2, ou apprentissage automatique et approche symbolique? Ces mesures devraient-elles changer selon les tâches et les méthodes de combinaison?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
4 Comment pouvons-nous définir l’introspection de l’IA en fonction de l’I-consciousness et de la M-consciousness?
5 Comment pouvons-nous modéliser la gouvernance des systèmes 1 et 2 dans une IA? Quand devons-nous passer de l’un à l’autre ou les combiner? Quels facteurs déclenchent cette transition?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
6 Comment pouvons-nous exploiter un modèle basé sur les systèmes 1 et 2 en IA pour comprendre des environnements complexes et y raisonner lorsque les priorités sont en concurrence?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
7 Quelles capacités sont nécessaires pour poser différentes formes de jugement moral et prendre des décisions morales? Comment pouvons-nous modéliser et déployer dans une IA des théories éthiques normatives qui pourraient être contradictoires? Les différentes théories éthiques sont-elles liées au système 1 ou au système 2?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
8 Comment savons-nous quelles données d’entrée oublier pendant l’étape d’abstraction? Devrions-nous conserver les connaissances à différents niveaux d’abstraction, ou seulement les données brutes et des connaissances explicites de haut niveau?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
9 Dans une perspective multiagent où plusieurs systèmes d’IA communiquent et apprennent les uns des autres, comment pouvons-nous exploiter ou adapter les résultats actuels du raisonnement et de la planification épistémiques pour construire ou apprendre des modèles du monde et des autres?
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
10 Enfin, quels choix d’architecture soutiennent le mieux la vision de l’avenir de l’IA décrite ci-dessus?
Conclusion
N’hésitez pas à discuter de ces questions dans les commentaires ou à m’écrire directement! J’aimerais beaucoup connaître votre point de vue et en débattre avec vous. Je vous invite vraiment à lire l’article « Thinking Fast and Slow in AI » ainsi que le livre de Daniel Kahneman, Système 1 / Système 2: Les deux vitesses de la pensée, si vous souhaitez en savoir davantage sur cette théorie. Si le sujet vous intéresse, je vous recommande aussi fortement de suivre les recherches de Yoshua Bengio sur les a priori de la conscience. Un immense merci à Montreal AI d’avoir organisé ce AI Debate 2, qui a fourni énormément d’information précieuse à la communauté de l’IA! Tous les documents abordés dans cette vidéo se trouvent dans les références ci-dessous.
Regardez la vidéo complète:
Si vous aimez mon travail et souhaitez rester à jour avec les technologies d’IA, vous devriez absolument me suivre sur mes réseaux sociaux.
- Abonnez-vous à ma chaîne YouTube.
- Suivez mes projets sur LinkedIn et ici, sur Medium.
- Apprenons l’IA ensemble: rejoignez notre communauté Discord, partagez vos projets, vos articles scientifiques et vos meilleurs cours, trouvez des coéquipiers pour des compétitions Kaggle, et bien plus encore!
Références
Thinking Fast and Slow, Daniel Kahneman (livre), (2013), https://amzn.to/2XHehG1.
Neurosymbolic AI: The 3rd Wave, Garcez et coll. (2020), https://arxiv.org/pdf/2012.05876.pdf.
Thinking Fast And Slow in AI, Booch et coll. (2020), https://arxiv.org/abs/2010.06002.
AI Debate 2 par Montreal AI, (2020), https://youtu.be/VOI3Bb3p4GM.
FAQ
Que signifient la pensée rapide et la pensée lente pour l'IA?
C'est une façon de distinguer la reconnaissance rapide de motifs d'un raisonnement, d'une vérification, d'une planification ou d'une prise de décision structurée plus réfléchis.
Pourquoi ce cadre est-il utile aux personnes qui développent des systèmes d'IA?
Il rappelle que des prédictions fluides ne suffisent pas pour toutes les tâches. Certains processus ont besoin de vérifications, d'outils, de mémoire et de contraintes.
Où se situent les réseaux de neurones dans cette idée?
Les réseaux de neurones excellent dans la reconnaissance de motifs appris, mais ils ont souvent besoin de systèmes complémentaires pour gérer le raisonnement, les règles ou les actions fiables.
Quelle erreur faut-il éviter avec les systèmes d'IA rapides?
Il ne faut pas faire confiance à une réponse rapide simplement parce qu'elle semble assurée, surtout si la tâche exige des preuves, un ancrage dans les faits ou une vérification plus lente.
Quel est le lien avec les agents d'IA modernes?
Les agents ajoutent souvent de la planification, des outils, de la mémoire et de la rétroaction autour d'un modèle, ce qui permet d'aller au-delà d'une seule réponse rapide.