À retenir
- Vous savez, un enfant n’a pas besoin d’autant de données pour apprendre la différence entre un chat et un chien, n’est-ce pas ?
- Nous expliquons à quoi servent les données, comment construire ces grands datasets, la différence entre l’IA et les humains, le nombre de personnes nécessaires et bien plus encore.
- Vous savez, un enfant n’a pas besoin d’autant de données pour apprendre la différence entre un chat et un chien.
Bonjour, chers passionnés d’IA ! Aujourd’hui, je suis heureux de partager les observations tirées d’une récente conversation avec Jerome Pasquero, un directeur chevronné en apprentissage automatique qui possède une riche expérience en IA et, surtout, en données. L’expertise de Jerome sur les données et leur intersection avec l’IA est extrêmement pertinente dans le paysage technologique actuel.
Voici quelques observations clés de notre discussion :
- La qualité des données avant la quantité : Jerome a souligné qu’en IA, la qualité des données l’emporte sur la quantité. L’objectif n’est pas de recueillir une quantité massive de données, mais de rassembler des données pertinentes et obtenues de façon éthique. Cette approche permet d’entraîner les modèles d’IA avec des données exactes et moins biaisées, pour créer des solutions d’IA plus efficaces et plus éthiques.
- Dans les coulisses de l’annotation des données : L’annotation des données est l’un des processus moins connus, mais essentiels, du développement de l’IA. Jerome nous a permis d’en découvrir le fonctionnement et a expliqué pourquoi des données étiquetées avec soin sont indispensables pour entraîner correctement les modèles d’IA. Cette étape, souvent réalisée par des humains, est essentielle pour que les modèles comprennent et interprètent correctement les données.
- Trouver l’équilibre entre l’IA et l’éthique : Notre conversation a pris une tournure intéressante lorsque nous avons abordé les dilemmes éthiques liés à l’IA et aux données. Comment équilibrer l’innovation et la responsabilité éthique ? Les observations de Jerome étaient particulièrement éclairantes et ont souligné le besoin d’un dialogue et d’une réglementation continus dans le domaine.
- L’IA au quotidien : Il est fascinant de voir à quel point l’IA s’est intégrée naturellement à notre quotidien, souvent sans que nous nous en rendions compte. Jerome l’a illustré avec des exemples qui vont des applications de tous les jours à de futurs scénarios possibles, comme les véhicules autonomes, et qui montrent le caractère omniprésent et transformateur de l’IA.
Cet épisode regorge de connaissances pour toute personne qui travaille en IA ou en science des données, ou qui s’y intéresse. Il convient aussi bien aux passionnés de technologie qu’aux personnes qui découvrent le domaine, puisque nous gardons la discussion accessible. Découvrez comment l’IA transforme notre monde en exploitant les données dans l’épisode de cette semaine du podcast What’s AI, disponible sur YouTube, Spotify ou Apple Podcasts :
Transcription du podcast : Jerome Pasquero
Jerome Pasquero : [00:00:00] Nous avons probablement investi collectivement plus de cent milliards de dollars. Pourtant, combien de véhicules autonomes voyez-vous circuler ? Vous et moi vivons à Montréal. Nous avons reçu environ 12 pouces de neige hier. Je ne vois vraiment pas les voitures sophistiquées de style californien qui circulent à San Francisco être capables de conduire aujourd’hui. Il nous reste donc un très, très long chemin à parcourir.
Vous savez, un enfant n’a pas besoin d’autant de données pour apprendre la différence entre un chat et un chien, n’est-ce pas ? Pourquoi un algorithme d’apprentissage automatique a-t-il encore besoin de centaines de milliers d’images pour apprendre ? Je pense donc que nous verrons de plus en plus d’initiatives différentes pour réduire notre dépendance à une quantité énorme de données et au compute nécessaire, et même pour modifier un peu l’architecture.
Les transformers ne dureront pas éternellement.
Louis-François Bouchard : Voici une entrevue avec Jerome Pasquero. [00:01:00] Jerome est actuellement directeur de l’apprentissage automatique chez Sama, une entreprise qui participe au processus d’annotation des données. Dans cette entrevue, nous plongeons dans les données. Nous expliquons à quoi elles servent, comment construire ces grands datasets, la différence entre l’utilisation de l’IA et des humains, le nombre de personnes nécessaires et bien plus encore.
C’est une discussion très instructive et accessible sur la construction des systèmes d’intelligence artificielle actuels. Je suis certain que vous allez l’aimer. Si c’est le cas, n’oubliez pas de laisser un J’aime ou une évaluation de cinq étoiles, selon la plateforme où vous écoutez. Ça aide énormément la chaîne. Commençons sans plus attendre.
Jerome Pasquero : Bonjour. Je suis Jerome Pasquero.
Je dirige l’équipe d’apprentissage automatique chez Sama, ici à Montréal. Sama est une entreprise qui réalise l’étiquetage des données pour certains des plus grands acteurs de l’IA dans le monde. Mais nous sommes aussi une entreprise à mission sociale, une entreprise d’impact. Notre objectif est de sortir [00:02:00] des gens de la pauvreté en Afrique de l’Est ou de leur donner accès à des emplois auxquels ils n’auraient pas accès autrement. Nous aspirons à servir d’employeur passerelle lorsque c’est possible, parce que les emplois sont très difficiles à obtenir en Afrique de l’Est. Je parle plus précisément des deux pays où nous sommes présents : le Kenya, à Nairobi, et l’Ouganda. Nous croyons que les travailleurs qui enrichissent les données, ceux que j’appelle par exemple les annotateurs, ont un rôle à jouer. Ils auront probablement un rôle très important dans cette révolution de l’IA et nous ne voulons pas les laisser derrière. Aujourd’hui, comme je l’ai dit, nous pouvons leur confier du travail plus…
Fastidieux et de plus petites tâches pendant que les modèles apprennent à les réaliser. Mais j’aimerais les voir évoluer avec les modèles et finir par devenir ce dont [00:03:00] nous parlions : des superviseurs, voire des enseignants de modèles. Rien ne garantit que ce processus aboutira, mais nous avons une occasion unique de voir une nouvelle catégorie d’emplois apparaître dans des régions du monde qui n’ont pas l’habitude de voir émerger ce type de postes. Pour une fois, cela peut peut-être arriver dans ces régions et une partie de l’expertise en IA pourrait provenir, par exemple, de l’Afrique de l’Est. J’aurais encore beaucoup à dire, mais je voulais le mentionner à vos auditeurs. S’ils sont intéressés, ils peuvent consulter notre site, sama.com, pour découvrir comment nous essayons de créer du changement dans une industrie assez étrange : l’immense industrie méconnue de l’étiquetage des données, qui [00:04:00] alimente les modèles d’IA. Merci, et je suis vraiment heureux de participer à ce podcast avec vous.
Louis-François Bouchard : Je suis heureux de vous recevoir. Comment êtes-vous entré dans le domaine ? Comment avez-vous commencé à travailler avec les données ?
Jerome Pasquero : Ouf. Il faut remonter assez loin. L’IA m’intéresse depuis mes premières années en génie électrique. À l’époque, il n’existait pas encore de réseaux d’apprentissage profond, donc de réseaux neuronaux profonds. Les réseaux neuronaux existaient évidemment, mais ils n’étaient pas vraiment profonds. L’importance des données pour entraîner les modèles était toutefois déjà assez claire. Mon parcours professionnel m’a ensuite mené dans des directions très différentes.
J’ai joué un petit rôle dans le développement des téléphones mobiles pendant les années 2000. Puis l’IA a commencé à exploser vers le milieu de la décennie suivante [00:05:00], surtout à Montréal. Une entreprise appelée Element AI démarrait à l’époque, alors j’ai fait tout ce que je pouvais pour y trouver un poste. C’est là que j’ai vraiment découvert l’IA dans un contexte commercial.
Louis-François Bouchard : Vous avez mentionné avoir découvert l’IA à l’école et vous y être intéressé. Mais à quoi ressemblait le domaine à l’époque, et quand était-ce exactement ?
Jerome Pasquero : C’était probablement autour de 2000, pendant ma maîtrise. Il existait quelques cours avancés en IA pour les étudiants à la maîtrise et au doctorat. Ils utilisaient certains livres qui sont probablement encore employés aujourd’hui, dans des éditions mises à jour. Je me souviens notamment d’Artificial Intelligence: A Modern Approach, de Russell et Norvig. Ces ouvrages [00:06:00] présentaient l’apprentissage par renforcement, les réseaux neuronaux et plusieurs autres algorithmes et techniques que nous appellerions aujourd’hui classiques en apprentissage automatique.
Louis-François Bouchard : Pensiez-vous que la technologie était prometteuse ? Comment pouviez-vous savoir qu’elle mènerait quelque part, puisqu’on ne pouvait pas vraiment l’utiliser ou l’entraîner efficacement ?
Jerome Pasquero : Je ne sais pas si je la trouvais vraiment prometteuse. Je n’essayais pas de prédire l’avenir et je n’en aurais probablement pas été capable de toute façon.
Mais je trouvais certainement le domaine extrêmement intéressant. Nous utilisions certaines de ces techniques dans des compétitions. Il existait à l’époque une compétition appelée RoboCup, je crois, qu’on pouvait réaliser en logiciel ou avec de vrais petits robots. Nous avons utilisé la version logicielle et essayé d’implémenter un réseau neuronal ou de l’apprentissage par renforcement.
Ça ne fonctionnait pas très bien. En fait, ça ne fonctionnait pas du tout, mais c’était très amusant [00:07:00] d’implémenter certains de ces algorithmes. À l’époque, il n’était absolument pas évident que cette approche finirait par devenir l’avenir de l’IA moderne, mais elle était clairement différente et stimulante.
Louis-François Bouchard : Qu’est-ce qui vous enthousiasmait le plus dans le domaine ? Dans mon cas, lorsque j’ai découvert l’intelligence artificielle vers la fin de mon diplôme en génie, j’ai enfin compris que les mathématiques pouvaient servir à quelque chose d’utile. J’aimais tout ce qui touchait à la logique et aux mathématiques.
J’ai donc trouvé que l’IA formait le mélange parfait entre une application concrète et la science, ce qui m’a énormément enthousiasmé. Mais quel aspect de l’intelligence artificielle vous enthousiasmait autant ?
Jerome Pasquero : Je ne dirais pas que mon expérience ressemblait à la vôtre, parce que j’ai toujours pensé que les mathématiques pouvaient servir à des choses vraiment utiles.
À l’époque [00:08:00], je travaillais en vision par ordinateur chez Matrox, une entreprise qui existe encore aujourd’hui. Elle fabriquait des cartes graphiques avant que NVIDIA domine le marché dans les années quatre-vingt-dix. Les mathématiques et la vision par ordinateur étaient déjà extrêmement utiles. Ce que je trouvais si intéressant dans l’IA, c’est que nous essayions de reproduire ce que les humains peuvent faire.
C’est ce qui me passionne énormément du point de vue sensoriel : l’input reçu par l’humain, son traitement dans le cerveau, puis l’output qui prend la forme de nos actions. Essayer de reproduire ce que nous sommes me fascine.
Louis-François Bouchard : Pensez-vous que nous suivons encore cette voie ? Avec les systèmes actuels, l’objectif semble être de faire du scaling avec les transformers, la taille des architectures et celle des datasets. Essayons-nous toujours de reproduire la compréhension humaine ou nous en éloignons-nous pour nous concentrer [00:09:00] seulement sur…
La récompense immédiate ? Quelle est votre opinion ?
Jerome Pasquero : C’est une bonne question. Je dirais un peu des deux. Tout chercheur sérieux dans le domaine vous dira qu’il essaie de reproduire les capacités humaines, tout en reconnaissant que les architectures et les tendances actuelles ne correspondent probablement pas exactement au fonctionnement humain. Mais c’est ce qui fonctionne en ce moment.
Alors pourquoi ne pas pousser cette approche jusqu’à ce qu’elle cesse de fonctionner ? Nous réussissons à reproduire certaines capacités humaines sans nécessairement reproduire les véritables mécanismes sous-jacents du cerveau. Les chercheurs les plus reconnus vous diront qu’il est insensé de fournir autant de données et de compute aux modèles actuels, avec autant de répétitions. Dans l’apprentissage supervisé, il faut répéter la même chose, ou quelque chose de très semblable, un nombre incroyable de fois pour que le modèle apprenne.
Un enfant [00:10:00] peut pourtant apprendre des concepts très complexes avec seulement quelques exemples. Nous faisons donc clairement quelque chose de travers. Cela dit, après les succès récents des dix dernières années, il reste extrêmement intéressant de voir au moins les outputs commencer à atteindre les capacités humaines.
Louis-François Bouchard : Je suis d’accord. Nous avons probablement vu la plupart des progrès avec les LLMs, ChatGPT et tout le reste. Lorsque les gens qui ne travaillent pas dans le domaine entendent parler de vision par ordinateur ou d’images, ils pensent à DALL·E, Midjourney ou à l’IA générative.
On leur donne du texte et les modèles créent des images. Nous avons vu leurs progrès récents, mais puisque vous travaillez en vision par ordinateur depuis peut-être 20 ans, qu’est-ce qui a changé pour les autres tâches liées aux images, au-delà des nouvelles tâches génératives ?
Jerome Pasquero : Beaucoup de choses, je pense. Nous faisions autrefois de la vision par ordinateur [00:11:00] en créant ce que nous appelions des noyaux ou des filtres, qui réalisaient d’abord des tâches extrêmement simples.
Ils détectaient par exemple les contours d’une image. Une fois un contour détecté, on pouvait en trouver deux qui se suivaient selon un certain angle. Puis, à partir de deux contours placés selon cet angle, on pouvait peut-être détecter une forme fermée. À chaque étape, on appliquait un autre noyau ou filtre par-dessus l’image.
Il fallait toutefois construire tout cela manuellement, généralement par essais et erreurs, bien sûr en s’appuyant sur les mathématiques. À un certain point, le système pouvait reconnaître un visage, mais il fallait ensuite déterminer à qui il appartenait. Nous construisions donc manuellement ces niveaux d’abstraction les uns sur les autres, chaque fois sur une base un peu fragile puisque les noyaux n’étaient jamais parfaits.
C’est ainsi que nous travaillions. Aujourd’hui, l’approche est complètement différente. Du moins dans [00:12:00] l’apprentissage supervisé, nous trouvons de nombreux exemples de visages accompagnés de leurs étiquettes, donc de la réponse que nous voulons obtenir du modèle : s’agit-il d’un visage, à qui appartient-il, ou ce visage est-il dans la moyenne ou différent de la moyenne ?
Nous possédons toutes ces données étiquetées et ces exemples, puis nous les fournissons encore et encore au modèle jusqu’à ce qu’il apprenne en quelque sorte par lui-même à traiter ces images et à produire l’output souhaité. Il s’agit d’une approche complètement différente qui s’avère plus efficace que nos premières tentatives en vision par ordinateur. Elle vient toutefois avec ses propres problèmes et défis, parce qu’en génie, rien n’est parfait, n’est-ce pas ?
Louis-François Bouchard : Pour la suite, le principal problème concerne-t-il davantage la qualité des données, l’intelligence de l’architecture et sa capacité [00:13:00] à extraire l’information, ou avons-nous simplement besoin d’encore plus de compute ? Quelle est la prochaine étape et dans quelle direction la vision par ordinateur semble-t-elle évoluer ?
Jerome Pasquero : Je pense que plusieurs voies différentes avanceront en parallèle. La voie actuelle, qui consiste à ajouter davantage de ressources de calcul, de données et de nouvelles architectures, ne changera probablement pas beaucoup pour le moment, puisqu’elle fonctionne encore. Elle continue de produire des résultats.
Nous continuons d’améliorer les benchmarks. Mais les gens commencent aussi à se demander sérieusement si cette approche est viable. Elle consomme énormément d’énergie et de compute. Nous sommes maintenant rendus à un niveau où les ressources de calcul dépassent celles d’un cerveau humain.
Les architectures actuelles ne sont donc clairement pas optimales. Il reste de la place pour d’autres architectures. C’est une deuxième voie que je vois avancer en parallèle [00:14:00]. Chacune alimentera l’autre, parce que des composants de l’approche par force brute pourront servir dans une autre approche un peu plus intelligente.
Où cette voie nous mènera-t-elle ? Pouvons-nous faire la même chose avec moins de données ? Comme je l’ai mentionné plus tôt, un enfant n’a pas besoin d’autant de données pour apprendre la différence entre un chat et un chien. Montrez-lui trois ou quatre chats et chiens et il comprend immédiatement. Pourquoi un algorithme d’apprentissage automatique a-t-il encore besoin de milliers, de dizaines de milliers ou de centaines de milliers d’images pour apprendre ?
Je pense donc vraiment que nous verrons de plus en plus d’initiatives pour réduire nos besoins en données et en compute, et même pour modifier un peu les architectures. Les transformers ne dureront pas éternellement, selon moi.
Louis-François Bouchard : Je suis d’accord. Pour les données, nous avons aussi besoin d’une qualité [00:15:00] extrêmement élevée, plutôt que de simplement faire du scaling et d’en accumuler davantage. Quelle est l’importance de faire appel à des humains pour annoter les données au lieu d’utiliser un autre modèle d’apprentissage automatique ou une méthode automatisée ?
Où l’humain intervient-il et pourquoi en avons-nous besoin ?
Jerome Pasquero : D’accord, c’est une excellente question qu’on me pose souvent. Je l’explique d’une façon assez simple. L’apprentissage automatique et l’IA consistent essentiellement à trouver une façon de télécharger les connaissances et les compétences humaines dans des données qui serviront ensuite à entraîner un modèle, afin qu’il puisse reproduire ces compétences ou générer ces connaissances.
Il s’agit donc d’un output des humains, ou du cerveau humain, vers les données, qui sont ensuite transmises aux modèles pour qu’ils apprennent. Un modèle [00:16:00] ne peut pas apprendre seul sans ces données générées par des humains. Il n’apprendra rien de nouveau. Vous pourriez réorganiser et reconditionner les données elles-mêmes, ou les connaissances apprises par le modèle, puis les exporter dans un format différent.
Mais aucune nouvelle information nette ne sera créée si des humains ne l’injectent pas dans les systèmes. Nous ignorons toujours combien de temps les modèles prendront pour atteindre une intelligence générale comme l’AGI. Une chose est certaine : ça n’arrivera pas demain. Les humains ont donc encore un grand rôle à jouer.
Le contre-argument est évidemment qu’à mesure que nous délaissons l’apprentissage supervisé, où les humains étiquettent les données, pour adopter l’apprentissage semi-supervisé ou non supervisé, nous pouvons utiliser des données existantes qui n’ont pas besoin d’être [00:17:00] étiquetées. Les grands modèles de langage sont par exemple souvent non supervisés.
Nous pourrions donc peut-être transférer plus rapidement l’information des connaissances humaines vers les modèles. Mais ce raisonnement contient une erreur : il faut toujours un humain quelque part dans la boucle pour déterminer si l’output du modèle est juste, puisqu’un modèle ne peut pas s’évaluer lui-même.
Il le ferait dans le vide, sans aucun ancrage dans la réalité. En tant qu’humains, nous sommes cet ancrage. Nous pouvons superviser les modèles, leur dire s’ils font la bonne chose et apporter les corrections nécessaires afin qu’ils s’améliorent à chaque itération.
Louis-François Bouchard : Que pensez-vous donc de l’IA constitutionnelle, où l’on donne des directives à un modèle de langage, puis GPT-4 ou un autre modèle le corrige ? Il s’agit d’une sorte d’apprentissage par renforcement [00:18:00] avec du feedback généré par l’IA plutôt que par un humain. Cette approche est-elle prometteuse ou va-t-elle à l’encontre du téléchargement des compétences humaines ?
Jerome Pasquero : Je pense que c’est un outil qui a un rôle à jouer. Utiliser le ML pour faire du ML peut certainement accélérer certaines choses. Mais au bout du compte, les humains doivent rester les juges finaux. Ils doivent continuer d’injecter de nouvelles connaissances, de superviser l’ensemble du système, de définir les objectifs et les buts, puis d’en extraire une valeur qui…
N’a de sens que dans un monde humain. Encore une fois, le ML pour le ML est seulement l’un des nombreux outils dont nous disposons pour faciliter ce transfert d’information de notre cerveau vers les modèles.
Louis-François Bouchard : Pourriez-vous donner [00:19:00] quelques exemples précis de la façon dont vous utilisez personnellement le ML pour construire d’autres modèles ou des datasets ?
Jerome Pasquero : Oui, bien sûr. Je vais rester dans la vision par ordinateur. L’un des grands problèmes vient de l’immense quantité de données disponibles. Lorsque nos clients viennent nous voir, ils ont tendance à nous transmettre toutes leurs données en disant : « D’accord, pouvez-vous annoter tout ça ? »
Ils nous donnent ensuite des directives très précises. Jusque-là, tout va bien. Le problème, c’est qu’ils n’ont jamais vraiment regardé eux-mêmes leurs données. Il y en a simplement trop. Ils cherchent parfois aussi des éléments précis. Ils peuvent par exemple vouloir annoter plusieurs choses, dont des téléphones cellulaires dans les images.
Ils cherchent donc des téléphones cellulaires à annoter, mais ils ignorent combien se trouvent dans toutes les images qu’ils nous ont données. Ils veulent prioriser cet élément parce que leur modèle [00:20:00] ne les traite pas très bien. Nous pouvons utiliser le ML pour trouver avec une probabilité élevée les téléphones cellulaires dans toutes ces images. Ce n’est pas une science parfaite, mais le ML peut nous aider à trouver les images les plus susceptibles d’en contenir un. Nous pouvons ensuite étiqueter ce téléphone de la façon souhaitée par le client et obtenir plus rapidement les bonnes données pour entraîner son modèle.
Sans le ML, nous devrions utiliser la force brute : regarder chaque image et chercher un téléphone dans chacune. Ce serait une énorme perte de temps. Nous pourrions même annoter des images semblables dont nous n’avons pas besoin. Imaginez que vous possédez deux fois la même image. Nous l’annoterions deux fois.
Avec le ML, nous pouvons plutôt nous assurer que même une image contenant un téléphone apporte beaucoup de valeur par rapport à toutes les autres images déjà traitées [00:21:00]. Nous évitons ainsi de réétiqueter constamment des éléments semblables qui apportent très peu de valeur pendant l’entraînement du modèle.
Louis-François Bouchard : Et utilisez-vous des modèles de langage dans votre cas, qu’il s’agisse des nouveaux ou des meilleurs, pour accomplir certaines tâches ?
Jerome Pasquero : C’est une très bonne question. Nous parlons de modèles de langage, mais nous parlerons très bientôt de modèles multimodaux. En fait, nous en parlons déjà. Dans notre cas, je peux vous donner un exemple.
Les directives peuvent être très, très longues dans le processus d’annotation. Il n’existe aucune norme sur la façon dont nos clients nous transmettent leurs directives d’annotation. C’est un problème, parce que chaque ensemble de directives est différent. Certains de ces documents contiennent énormément d’information et font des centaines de
pages. C’est là qu’un grand modèle de langage pourrait nous aider à uniformiser le format et le vocabulaire de ces directives. Par exemple, si nous avons besoin d’une précision pendant l’entraînement, nous pourrions aussi demander à un grand modèle de langage de fournir des exemples [00:22:00]. Si je vois un vélo avec un cycliste dessus, dois-je annoter le cycliste et le vélo ensemble, comme un seul objet ?
Ou dois-je les traiter comme deux objets distincts ? Un modèle de langage pourrait nous aider dans ce genre de situation. Alors oui, bien sûr, nous connaissons très bien les grands modèles de langage. Nous les testons constamment pour comprendre comment ils peuvent servir notre objectif ultime : fournir à nos clients du secteur technologique les meilleures données possible, sans bruit et au coût le plus bas.
Louis-François Bouchard : Vous l’utilisez donc surtout comme un outil. Encore une fois, j’y vois une façon d’extraire le savoir humain et de le rendre plus efficace, au lieu de simplement automatiser une tâche que des humains pourraient accomplir. J’aime beaucoup le fait que vous ne le présentez pas comme une intelligence qui va nous remplacer, mais comme un outil [00:23:00] dont nous pouvons tirer parti.
Jerome Pasquero : Oui. C’est le concept d’augmentation, plus précisément d’augmentation humaine. On débat beaucoup ces temps-ci de la possibilité d’utiliser l’IA comme moyen d’augmenter les capacités humaines, et certaines personnes s’y opposent. Je crois fondamentalement que c’est la bonne approche.
En fait, je pense que, depuis la nuit des temps, chaque technologie que nous introduisons s’inscrit dans une réalité et un contexte humains. Nous l’utilisons donc pour augmenter nos capacités. Bien sûr, cela entraîne parfois l’automatisation de certains domaines, même une automatisation complète. Certains emplois disparaissent ainsi, mais, au bout du compte, l’objectif reste de nous améliorer.
Nous pouvons alors passer aux problèmes plus difficiles qu’il est impossible de résoudre aujourd’hui. Nous appliquons exactement la même philosophie. Chez Sama, nous savons très bien que, si nous nous contentons d’affecter des gens à l’annotation de choses que les modèles savent déjà faire [00:24:00], nous allons perdre. Ces modèles nous remplaceront rapidement.
Nous devons donc toujours avoir une ou deux longueurs d’avance sur ce que les modèles savent faire afin de continuer à offrir de la valeur à nos clients. Pour rester dans cette course tout en gardant notre avance, nous utilisons les outils et les modèles existants afin d’atteindre nos objectifs.
Louis-François Bouchard : Petite interruption pour vous rappeler de partager le podcast avec un ami si vous trouvez la discussion intéressante ou éclairante. En le partageant, vos amis auront une meilleure opinion de vous. C’est un deux pour un : vous transmettez des connaissances et vous paraissez aussi plus intéressant. N’oubliez donc pas de partager cet épisode avec toute personne qui pourrait en tirer de la valeur.
Merci d’écouter cet épisode. Je vous laisse profiter de la suite. Vous avez mentionné que l’IA aura un impact sur les emplois. Comme tous les changements technologiques [00:25:00], elle aura des effets sur le marché du travail. Selon vous, qu’arrive-t-il ou qu’arrivera-t-il aux emplois actuels et à notre société à cause, par exemple, des modèles de langage, mais aussi de l’IA en général ? Est-ce qu’elle supprime surtout des emplois ?
Est-ce qu’elle en crée de nouveaux ou est-ce qu’elle les transforme simplement ? Quel sera son impact, selon vous ?
Jerome Pasquero : Je n’ai pas de boule de cristal, mais je dirais que le passé est probablement ce que nous devrions examiner pour tenter de prédire l’avenir. Toute technologie transformatrice, et je pense que l’IA en est une, s’est accompagnée de grands changements.
Elle remplace de nombreux emplois et en crée de nouveaux. Malheureusement, les personnes qui occupent les nouveaux emplois ne sont pas nécessairement celles qui occupaient les anciens. Au bout du compte, le résultat est toutefois positif la plupart du temps : plus d’emplois sont créés qu’il n’en disparaît ou n’en devient [00:26:00] obsolète.
J’espère que ce sera aussi le cas avec l’IA. Les humains savent faire preuve d’une grande créativité pour trouver des façons de relever de nouveaux défis que la technologie actuelle ne peut pas encore résoudre seule. Je ne vois aucune raison pour que cela cesse simplement parce que nous avons maintenant de grands modèles de langage. Ce sera perturbateur, même extrêmement perturbateur dans certains domaines, et extrêmement créatif dans d’autres.
Louis-François Bouchard : Vous ne voyez donc pas une grande différence entre les révolutions précédentes et celle que nous vivons maintenant.
Jerome Pasquero : Par définition, une nouvelle technologie sera plus perturbatrice que la précédente. Son effet sera plus vaste. C’est ainsi. Nous ne devrions donc pas être surpris lorsqu’une nouvelle révolution technologique semble avoir une ampleur nettement supérieure à la précédente.
Mais chaque fois que nous traversons une telle révolution, nous pensons toujours : « C’est fou, c’est la révolution ultime. » Rien ne prouve pourtant que nous sommes arrivés au bout de cette évolution [00:27:00]. Lorsque les ordinateurs sont apparus, des gens disaient qu’ils n’en avaient pas besoin. À l’époque, des humains effectuaient tous les calculs. Lorsque les téléphones mobiles sont apparus, les gens se sont dit qu’ils pouvaient désormais parler à n’importe qui, n’importe quand.
Cette évolution va donc se poursuivre. Bien sûr, chaque fois que nous vivons une révolution de ce genre, nous devons rester prudents et conscients qu’elle fera des perdants et des gagnants. Nous devons veiller à ce que la richesse et le savoir soient distribués équitablement, et ce défi devient chaque fois plus grand.
Mais nous disposons aussi chaque fois de technologies, de moyens et de données historiques supplémentaires pour éviter que cela se produise. C’est dans la nature humaine de toujours croire que nous sommes vraiment spéciaux et que l’époque dans laquelle nous vivons l’est aussi. Pourtant, avec une approche très objective, rien ne permet [00:28:00] de croire que nous sommes différents des gens d’il y a 50 ans, cent ans ou 500 ans.
Cela dit, les LLM me passionnent. C’est l’une des technologies les plus intéressantes que j’ai testées au cours des dernières années. Je trouve formidable d’adopter l’IA avec enthousiasme et d’en repousser les limites. Il est tout aussi important de rester conscient de ses dangers et de ses pièges. Comme toute technologie, elle peut servir à faire le bien comme le mal. Nous devons donc faire attention à la façon dont nous l’utilisons, la déployons et la distribuons.
Louis-François Bouchard : Mais si l’objectif ultime de Sama, d’OpenAI et d’autres entreprises est de créer une AGI, quelle technologie future pourrait aller encore plus loin ? Qu’est-ce qui pourrait être encore plus impressionnant que de créer quelque chose d’assez intelligent pour tout accomplir de façon autonome ?
Jerome Pasquero : Oui, encore une fois, c’est une bonne question.
Il est difficile de savoir ce que l’on ignore [00:29:00], ou de spéculer à ce sujet. Ma principale question est la suivante : je crois assez évident que nous nous dirigeons vers l’AGI, voire vers une forme de superintelligence. Je pense que tout le monde s’entend là-dessus, à condition d’y consacrer assez de temps et de ressources.
Si nous ne nous autodétruisons pas, nous y arriverons. La vraie question est de savoir combien de temps cela prendra. Certaines personnes pensent que nous pourrions y parvenir dans 20 ans. D’autres pensent qu’il faudra 200 ans. Pour ma part, je n’en sais rien à ce stade. Je ne pense pas non plus que les personnes qui prétendent le savoir disposent de plus d’information que nous.
Je ne paniquerais donc pas à ce sujet. Une fois que nous y serons, la réalité humaine sera légèrement différente. Nous serons peut-être devenus une espèce interplanétaire et nous aurons alors un autre ensemble de défis à relever. Si nous nous projetons plus loin dans l’avenir, mon point principal est le suivant [00:30:00] : rien ne justifie de paniquer maintenant.
Nous devons simplement rester prudents, comme nous avons toujours dû l’être. Nous devrons peut-être être encore un peu plus prudents. Mais, encore une fois, nous possédons une expérience et des outils que nous n’avions pas auparavant. Profitons-en.
Louis-François Bouchard : Oui, je suppose qu’il s’agit simplement d’un pas de plus vers l’AGI, dans la continuité de ce que les humains essaient de faire depuis toujours.
Nous automatisions déjà des choses avant même l’électricité et Internet. Nous cherchons toujours à automatiser les tâches que nous ne voulons pas accomplir.
Jerome Pasquero : Lorsque le premier ordinateur a battu les maîtres d’échecs, les gens se sont dit : « Ça y est, nous avons résolu l’IA. » Puis ils ont compris que le problème était plus vaste.
Chaque fois que nous résolvons un problème que nous pensions réservé aux humains, un nouveau défi apparaît [00:31:00] et des gens tentent de le relever. Je ne vois pas de fin à cette progression avant que nous arrivions réellement à une superintelligence à très grande échelle. Je pense que cela se produira un jour, mais je ne sais pas quand.
Louis-François Bouchard : J’aimerais revenir à la construction de ces modèles. Comment gérez-vous
les tâches qualitatives ? Par exemple, il est facile de repérer un chat dans une image. Il suffit de tracer une bounding box, et la tâche est claire et simple. Mais travaillez-vous aussi sur des tâches qualitatives beaucoup plus complexes, dont le résultat dépend de la personne qui annote ?
Jerome Pasquero : Oui. Je dirais que, dans notre travail en vision par ordinateur, les tâches d’annotation que l’on nous demande d’accomplir comportent généralement un peu moins d’ambiguïté.
Prenons un exemple en NLP, ou traitement automatique du langage naturel. Une même phrase peut recevoir différentes interprétations selon les biais culturels [00:32:00], ou même selon l’endroit où vous vous trouvez dans le monde. En vision par ordinateur, un chat reste un chat. Cela dit, comme nous gravissons maintenant l’échelle des tâches cognitives que l’on nous demande d’accomplir, certaines ambiguïtés apparaissent. On pourrait par exemple nous demander de déterminer, à partir d’une image, si un accident va se produire.
Vous avez une image de voitures et devez interpréter ce qui va se passer ensuite. Il peut s’agir d’un accident, d’un accident évité de justesse ou d’une autre situation. La réponse laisse davantage de place à l’interprétation, mais ce n’est pas un problème. Nous avons longtemps cru qu’un même modèle pourrait servir tout le monde et s’aligner sur tout le monde.
C’est le concept d’alignement. Mais ce n’est pas vrai. Pourquoi devrait-il exister un seul modèle pour tout le monde, alors que chaque personne est différente ? En réalité [00:33:00], l’alignement se fait à l’échelle individuelle. Pour y arriver, nous devons d’abord saisir toutes les nuances dans la façon dont les humains peuvent interpréter la réalité. Dans certains cas, nous demandons donc à plusieurs annotateurs de fournir une réponse en sachant très bien qu’il n’existe aucune vérité terrain absolue. Nous utilisons ensuite cette distribution pour entraîner un modèle plus nuancé.
Louis-François Bouchard : Traitez-vous les biais de la même façon ? Même pour une tâche relativement simple, il existe forcément des différences entre les annotateurs. Une personne peut toujours tracer une boîte un peu plus grande, tandis qu’une autre la serre davantage autour de l’objet. Demandez-vous plusieurs annotations pour en faire la moyenne ? Essayez-vous toujours d’utiliser la même personne ? Ou faites-vous appel au plus grand nombre de personnes possible [00:34:00] afin de représenter
le monde le plus fidèlement possible ? Comment gérez-vous cela ?
Jerome Pasquero : Cela dépend vraiment du use case. Dans certains cas, nous confions chaque tâche à un seul annotateur, et le processus de moyennage que vous venez de décrire se produit naturellement. Imaginons que nous travaillions tous les deux sur le même projet. Vous voyez une image et devez annoter
un visage. Vous pourriez tracer une boîte très serrée autour du visage, avec une tolérance de quelques pixels, tandis que je pourrais être un peu plus large et inclure les cheveux qui dépassent au-dessus de la tête. Mais si des centaines ou des milliers d’annotateurs accomplissent ce travail, le signal finira naturellement par s’équilibrer.
C’est cette information que nous injectons dans les modèles. Entre ces deux approches, toutes les combinaisons sont possibles. Dans certains cas, nous utilisons même les deux techniques en même temps. Il faut aussi comprendre que le processus d’annotation se compose d’une série d’étapes. Nous venons seulement d’en décrire une.
Dans certains cas, plusieurs étapes se succèdent. L’une des dernières est habituellement l’assurance qualité. Nos annotateurs les plus expérimentés examinent alors le résultat des étapes précédentes et décident s’il est prêt à être livré ou s’il doit être corrigé. Ils peuvent effectuer eux-mêmes la correction.
Ils peuvent donc ajuster un biais à cette étape ou réinjecter le résultat dans l’ensemble du workflow afin qu’il soit [00:36:00] retravaillé avec des directives et des conseils supplémentaires. Notre expertise consiste à déterminer quelle technique appliquer à chaque use case. C’est là que nous excellons.
C’est aussi ce que nous conseillons à nos clients, parce que nous faisons ce travail depuis très longtemps.
Louis-François Bouchard : Auriez-vous un exemple précis d’une situation où vous faites appel à une seule personne, ou à très peu de personnes, sans calculer de moyenne ?
Jerome Pasquero : Oui. Dans l’immense majorité des cas, une seule personne effectue l’annotation, puis nous faisons une assurance qualité. Un use case où nous pourrions faire appel à plusieurs personnes consiste à évaluer si des données générées synthétiquement par notre client sont réalistes. Une entreprise pourrait, par exemple, générer des personnes synthétiques dans certaines poses. Elle nous demanderait d’examiner toutes les données générées et de déterminer si [00:37:00]
le mouvement ou la pose semble réaliste et si le visage présente des défauts. La réponse laisse une certaine place à l’interprétation. Il peut être difficile de dire qu’un détail semble étrange sans savoir exactement pourquoi, ou de déterminer si une image est irréaliste. Je pourrais regarder l’image et penser que la scène est possible.
Dans ce cas, nous demanderions probablement à plusieurs annotateurs d’examiner et d’étiqueter les mêmes données. À la fin, l’important n’est pas nécessairement de calculer la moyenne de toutes ces réponses, mais de préserver leur distribution. Cette distribution constitue une information importante dont n’importe quel modèle pourrait profiter par la suite.
Louis-François Bouchard : Vous avez mentionné les données synthétiques. Je crois que vous ne les utilisez ou ne les créez pas souvent. Corrigez-moi si je me trompe, mais je pense vous avoir entendu dire [00:38:00] que vous n’en utilisez pas beaucoup en ce moment. Quel est votre avis sur l’état actuel des données générées automatiquement pour agrandir un dataset ou, par exemple, reproduire des use cases rares en plus grand nombre ?
Jerome Pasquero : Nous annotons bel et bien des données synthétiques. Certains de nos clients possèdent des données synthétiques qu’ils veulent nous faire valider. Il s’agit essentiellement d’un workflow de validation. Mon point de vue à ce sujet est assez classique. Les données synthétiques ont un rôle à jouer dans l’entraînement d’un modèle. Elles constituent un outil parmi tant d’autres.
C’est un outil utile, surtout pour lancer un modèle lorsqu’aucune donnée n’est disponible. Je pense toutefois que rien ne remplace de vraies données concrètes. Cela revient à ce dont nous parlions plus tôt. Si vous avez trouvé comment [00:39:00] générer des données réalistes, et par réalistes, je ne veux pas seulement dire qu’elles semblent réalistes aux humains, mais qu’elles reproduisent les données du monde réel avec une grande précision,
alors, comme entreprise qui développe ce générateur de données synthétiques, vous avez compris quelque chose sur le monde que le modèle essaie lui-même de découvrir, mais dans le sens inverse, en faisant de la rétro-ingénierie à partir des données. Cela signifie aussi que vous n’avez pas nécessairement besoin d’utiliser des données annotées ou d’annoter des données.
Vous avez compris quelque chose sur le monde physique qu’un modèle devrait autrement découvrir par rétro-ingénierie. La question revient donc à mesurer la quantité d’information véritablement nouvelle que vous ajoutez aux données en les générant. La plupart du temps, cette quantité est très faible. Encore une fois, les données synthétiques ont tout de même un rôle à jouer.
Vous avez parlé [00:40:00] des edge cases. Bien sûr. Mais pour savoir que ces edge cases existent, il reste utile de partir de cas réels et peut-être de les augmenter. Vous pouvez faire preuve de créativité et tenter d’imaginer vous-même ces edge cases, mais ce sera difficile. Tout le défi vient du fait que, la plupart du temps, nous ignorons qu’ils existent avant de les observer.
Comme je l’ai mentionné, vous pouvez aussi utiliser les données synthétiques pour amorcer l’entraînement d’un modèle. Si vous ne possédez absolument aucune donnée, elles constituent une bonne façon d’établir un benchmark très simple. Vous pouvez ensuite l’améliorer à l’aide d’un mélange de données réelles et synthétiques.
Louis-François Bouchard : Vous validez beaucoup de données synthétiques, mais vous assurez aussi la qualité des annotations produites. Je ne sais pas si vous utilisez le même processus dans les deux cas, mais comment pouvez-vous effectuer cette assurance qualité [00:41:00] et cette validation à grande échelle sur un très grand nombre d’images ?
Jerome Pasquero : Il s’agit vraiment d’un processus en trois étapes. La première consiste à sélectionner les données qui seront vues, validées et analysées par une personne de notre workforce.
Cette sélection repose sur un système automatisé, essentiellement un processus de curation des données. Les dernières étapes de cette curation font intervenir un humain, parce qu’une personne demeure la mieux placée pour décider ce qui vaut la peine d’être annoté. Voilà la première phase. Une fois que vous avez repéré les données qui valent la peine d’être analysées, annotées ou validées,
vous passez à la phase d’annotation, de validation et de correction. C’est là que nous mobilisons le plus de personnes. Notre workforce examine ce sous-ensemble fortement filtré et tente d’en traiter le plus possible à partir des données fournies en input au système [00:42:00].
C’est à cette étape que vous injectez, encore une fois, beaucoup d’information humaine. La troisième partie est l’assurance qualité. Vous n’avez pas besoin du même nombre de personnes pour l’assurance qualité que pour l’annotation. Il n’est pas nécessaire d’avoir un ratio d’une personne pour une, parce que l’assurance qualité peut aller beaucoup plus vite.
Comme je l’ai dit, ce sont habituellement nos annotateurs ou nos spécialistes de l’enrichissement des données les plus expérimentés qui s’en chargent. Ils apportent de petits ajustements, renvoient certains éléments à l’annotation ou au retravail lorsqu’ils ne sont pas adéquats, ou les corrigent eux-mêmes. Chacune de ces trois phases informe donc, d’une certaine façon,
la phase qui vient après.
Louis-François Bouchard : À part l’exemple que vous venez de donner, dans quelles situations l’IA ou un outil de machine learning est-il meilleur que les humains ? Est-ce seulement une question de passage à l’échelle, ou certains algorithmes de machine learning [00:43:00] possèdent-ils d’autres capacités supérieures à celles des humains que celle d’effectuer beaucoup plus d’itérations, plus rapidement ?
Jerome Pasquero : J’ai deux réponses à cette question. Les algorithmes de machine learning deviennent meilleurs que les humains une fois qu’ils atteignent réellement ce niveau. Aujourd’hui, par exemple, si un client vient nous demander d’annoter des chiens et des chats, je lui répondrai que c’est absurde. Ce problème est déjà résolu.
Pourquoi perdre du temps et de l’argent là-dessus ? Les problèmes de classification en sont un exemple. Nous savons aussi que les algorithmes de machine learning excellent à reconnaître les visages. Il existe donc une longue liste, sans être infinie ni complète, de problèmes que la vision par ordinateur peut aujourd’hui considérer comme résolus, en grande partie grâce aux réseaux de neurones profonds.
C’est là que les algorithmes sont meilleurs. Le deuxième cas [00:44:00] ne signifie pas nécessairement qu’ils sont meilleurs, mais qu’ils vous permettent de passer à l’échelle. Lorsque vous possédez une quantité énorme de données et ne pouvez pas toutes les examiner, l’idéal serait d’avoir une workforce immense, voire infinie, pour le faire. Ce n’est toutefois pas réaliste.
Ce serait extrêmement coûteux et lent, même si le résultat serait meilleur. Puisque ce n’est pas possible, autant utiliser le machine learning pour effectuer une première passe sur les données, repérer certains patterns, puis les classer ou les ordonner. Des humains peuvent ensuite les examiner en s’appuyant sur les premières métadonnées informatives calculées par le machine learning.
Encore une fois, je préférerais disposer d’une workforce immense si c’était possible et réaliste, parce qu’elle contiendrait beaucoup plus de connaissances que les algorithmes de machine learning utilisés pour parcourir les données. Chez Sama, nous avons constaté que la combinaison [00:45:00] des deux fonctionne bien. Il est judicieux de commencer avec beaucoup de données.
Commencez avec certains modèles capables de parcourir ces données, peut-être pour les trier ou les classer dans un certain ordre. Demandez ensuite à des humains d’examiner une partie des résultats de cette première analyse pour les réaligner et prendre les décisions finales : ce qui doit être annoté, ce qui ne doit pas l’être, ce qui doit être revu et ce qui exige des précisions. Les données peuvent alors passer à l’étape suivante, soit la phase d’annotation ou de validation pure.
Louis-François Bouchard : Avec l’évolution de l’IA, qui devient toujours plus performante, pensez-vous que nous aurons moins besoin d’humains dans la loop ?
Jerome Pasquero : Je pense que nous aurons besoin de moins d’humains par loop, parce que beaucoup d’automatisation et de nouveaux outils, dont des outils de ML, rendront ce travail plus rapide et plus facile à faire passer à l’échelle.
Mais je pense aussi qu’il y aura beaucoup plus de loops [00:46:00]. Le ratio va certainement changer, mais le nombre absolu de use cases et de workflows va exploser. Un seul humain pourrait superviser ou même enseigner à 10 modèles à la fois, voire à 100. Mais il faudra superviser des centaines de milliers, des millions ou des dizaines de millions de modèles.
Au bout du compte, le nombre total de personnes nécessaires augmentera probablement, mais chacune pourra accomplir beaucoup plus qu’aujourd’hui.
Louis-François Bouchard : Vous avez mentionné les use cases. J’aimerais parler d’un exemple précis dont vous m’avez parlé plus tôt et auquel vous participez : l’entraînement des véhicules autonomes ou la création de leurs datasets.
Pour beaucoup de gens, les véhicules autonomes [00:47:00] deviennent de plus en plus concrets et impressionnants. C’est un peu le Terminator de l’IA, un use case réel, clair et tangible de l’intelligence artificielle. Pourriez-vous nous expliquer comment un tel système est entraîné ?
De quelles données a-t-il besoin ? Existe-t-il plusieurs systèmes ou plusieurs types d’inputs à entraîner ? En bref, de quelles données un véhicule autonome a-t-il besoin pour être réellement autonome ?
Jerome Pasquero : Bien sûr, nous pouvons en parler un peu, mais ce sujet pourrait facilement occuper plusieurs heures de podcast.
Essentiellement, le fonctionnement d’un véhicule autonome comporte deux parties. La première est la perception. Elle consiste à recueillir et à analyser toutes les données provenant des capteurs habituels d’une voiture. Quels sont ces capteurs [00:48:00] ? Il y a d’abord les caméras. Tesla, par exemple, utilise seulement des caméras.
Un ensemble de caméras observe le monde autour du véhicule. Il existe aussi un autre type de capteur appelé LiDAR. Il repose sur la lumière et, au lieu de créer une image bidimensionnelle composée de pixels, il génère une représentation tridimensionnelle du monde sous forme de ce que nous appelons des points.
On parle habituellement de nuages de points. Il est aussi possible d’utiliser le radar et d’autres technologies, mais restons-en pour l’instant aux caméras bidimensionnelles et au LiDAR. Ce système sensoriel recueille l’information, qui est ensuite traitée pour prendre des décisions ou, à tout le moins, comprendre le monde environnant.
Y a-t-il des voitures à proximité ? Des obstacles ? Un danger imminent ? À quelle distance se trouvent les objets autour du véhicule ego ? La deuxième partie du système [00:49:00] s’occupe de la prise de décision. C’est essentiellement le planner. Maintenant que je connais tous ces éléments, comment puis-je me rendre à destination ?
Je dois prendre des décisions immédiates et à long terme. Ma destination peut être assez éloignée, mais quelles étapes dois-je suivre à partir de ce que je sais maintenant, tout en sachant que le monde autour de moi changera à mesure que je me rapprocherai de cet objectif à plus long terme ?
Ces deux parties sont habituellement traitées séparément dans le développement des véhicules autonomes. Je ne suis pas un expert pur de ce domaine, mais je sais que chacune contient aussi plusieurs sous-modules. Au niveau le plus fondamental, un système doit simplement être capable de repérer les piétons, parce qu’ils sont très importants.
Il faut d’abord les repérer [00:50:00], puis ajouter d’autres niveaux d’abstraction. Un module peut, par exemple, prédire la trajectoire d’un piéton pour s’assurer qu’il ne marchera pas devant la voiture, ou que la probabilité qu’il le fasse bientôt est très, très faible.
Ces éléments se construisent les uns sur les autres. C’est habituellement ainsi que l’industrie fonctionne. Dans les véhicules autonomes, nous voyons déjà quelque chose qui n’est pas encore courant dans d’autres domaines : l’utilisation de nuages de points tridimensionnels produits par les LiDAR. La raison est simple, les LiDAR restent très, très coûteux.
Ce qui nous fascine, c’est que l’annotation des données LiDAR est une tâche très difficile. Nos annotateurs doivent maintenant comprendre un monde tridimensionnel. Ils ne regardent plus simplement une image, mais un environnement tridimensionnel très clairsemé [00:51:00], composé de points. Je ne sais pas si nous pourrions afficher une image pour montrer à quoi cela ressemble.
Les points de ce monde tridimensionnel ne forment pas toujours une silhouette facile à reconnaître, comme une voiture. Pourtant, nos annotateurs doivent placer des cuboïdes, donc des formes tridimensionnelles, autour des différents véhicules et piétons, même si les humains disposent de très peu d’information claire.
L’expérience et la formation comptent donc énormément. Les annotateurs s’appuient aussi sur les images bidimensionnelles des caméras pour guider quelque peu leur processus d’annotation.
Louis-François Bouchard : Pensez-vous que les caméras et le LiDAR suffisent à extraire les compétences des conducteurs humains ?
Cette approche est-elle prometteuse ? Pensez-vous voir ces véhicules sur nos routes ?
Jerome Pasquero : Je pense que nous y arriverons un jour. Nous n’avons probablement pas encore trouvé la combinaison exacte de capteurs nécessaire [00:52:00]. Collectivement, nous avons vraisemblablement investi plus de cent milliards de dollars dans ce domaine. Pourtant, combien de véhicules autonomes voyez-vous circuler ? Vous et moi vivons à Montréal, et nous avons reçu environ 12 pouces de neige
hier. Je ne vois vraiment pas les voitures sophistiquées de style californien qui circulent à San Francisco réussir à conduire ici aujourd’hui. Nous avons donc encore un très long chemin à parcourir. Quant aux capteurs, je pense que nous utiliserons une combinaison de technologies. Elon Musk vous dira peut-être que deux caméras suffisent, une pour représenter chaque œil du visage.
Je ne pense pas que ce sera nécessairement le cas dans un avenir prévisible. Après tout, les avions ne volent pas du tout comme les oiseaux, et ils fonctionnent quand même. Je crois donc que le LiDAR a un rôle à jouer, parce que c’est une technologie intéressante. Il reste toutefois trop coûteux.
Lorsque son prix baissera [00:53:00], nous verrons peut-être des véhicules équipés non pas d’un, de deux ou de trois LiDAR, mais d’une demi-douzaine ou d’une douzaine. Cette multiplication pourrait offrir de la redondance. D’autres technologies comme le radar peuvent aussi aider, sans compter celles que je ne mentionne pas ici.
Louis-François Bouchard : Ma question s’éloigne peut-être un peu du sujet, mais je me demande pourquoi nous essayons de créer des véhicules autonomes alors que nous pourrions plutôt créer des réseaux de métro autonomes, ou un autre système beaucoup plus simple et potentiellement beaucoup plus efficace que de posséder chacun notre propre voiture qui tente de reproduire les compétences de conduite humaines.
Jerome Pasquero : Mon opinion à ce sujet est très personnelle, alors prenez-la avec un grain de sel. Je crois qu’une révolution de la mobilité est une noble cause. Là où je ne suis pas certain d’être d’accord [00:54:00], c’est lorsque des gens affirment que nous développons les véhicules autonomes pour sauver des vies. Entre vous et moi, si nous avions investi 100 milliards pour sauver des vies sur les routes, nous aurions trouvé des moyens beaucoup plus efficaces d’y parvenir.
Nous pourrions limiter la vitesse ou empêcher les gens de conduire avec les facultés affaiblies à l’aide de technologies très simples. Je ne trouve donc pas que sauver des vies soit une motivation très convaincante, du moins ce n’est pas une explication que j’accepte vraiment. Je pense plutôt que nous le faisons parce qu’il s’agit d’un défi technique fascinant.
Comme l’aurait dit JFK, nous le faisons parce que c’est difficile, et non parce que c’est facile. Je crois que ce travail offre beaucoup de valeur. Un jour, il apportera selon moi plusieurs avantages en transformant complètement notre façon de concevoir et d’utiliser la mobilité.
Mais il faudra encore du temps [00:55:00] avant d’y arriver. Voilà mon opinion. D’un point de vue purement technique, c’est vraiment passionnant. Devrions-nous nous en abstenir ? Non, nous devrions absolument le faire, tout comme nous devrions essayer d’aller sur la Lune et plus loin encore. Mais réglons-nous réellement les problèmes que beaucoup d’entre nous prétendent vouloir régler ?
C’est là que, selon moi, certaines personnes racontent un peu n’importe quoi, du moins d’après ce que je les ai entendues dire à ce sujet.
Louis-François Bouchard : J’ai une dernière question pour revenir à des use cases plus appliqués et réalistes de l’IA, et ainsi boucler la boucle. Comme vous êtes l’expert en vision et travaillez surtout avec ce que nos yeux voient, pourriez-vous d’abord donner quelques exemples concrets de l’utilisation actuelle de l’IA dans le domaine de la vision ?
La deuxième partie de ma question est la suivante : où pensez-vous que cette technologie entrera dans nos vies alors qu’elle ne nous aide pas encore aujourd’hui ?
Jerome Pasquero : Oui, bien sûr. Petite anecdote amusante : vous venez de me décrire comme un expert en vision par ordinateur [00:56:00]. Ma formation porte en fait sur l’haptique, c’est-à-dire le sens du toucher avec les ordinateurs. Il s’agit d’un sens complètement différent, dont je serai heureux de parler un jour.
Pour ce qui est des applications actuelles de la vision par ordinateur, elles se trouvent pratiquement partout. Dans le domaine de la sécurité, par exemple, elle permet de suivre des personnes d’une frame à l’autre ou d’une pièce à l’autre. Elle est aussi utilisée dans les magasins sans caissier, notamment aux caisses libre-service.
Dans le secteur manufacturier, elle sert à détecter les défauts sur les produits qui avancent sur une chaîne de montage. Il existe donc des applications dans absolument tous les domaines et tous les secteurs. Où verrons-nous de toutes nouvelles applications à l’avenir ?
Je pense aussi que ce sera partout [00:57:00]. Chaque fois qu’un système de vision automatisé peut apporter de la valeur à une entreprise, nous commencerons à le voir apparaître. Je sais que ma réponse demeure vague, mais le champ est tellement vaste que je laisse vos auditeurs imaginer des applications concrètes.
Je suis certain que beaucoup d’entre eux travaillent déjà sur certaines de ces idées.
Louis-François Bouchard : Oui. Prenons ma mère en exemple. Elle ne connaît pas beaucoup l’intelligence artificielle et, pour elle, cette technologie n’existe pas encore vraiment, ou du moins elle ne l’utilise pas. Pourtant, chaque fois qu’elle prend son iPhone, de nombreuses fonctions reposent sur l’intelligence artificielle.
J’aimerais donc donner davantage d’exemples concrets de ce qui existe déjà. La sécurité en était évidemment un bon. Mais pourriez-vous rapidement nommer une application qui n’est pas possible [00:58:00] aujourd’hui, mais qui le deviendra bientôt selon vous ?
Jerome Pasquero : Pour commencer, voici quelques autres exemples.
Encore une fois, tout dépend vraiment de la définition de l’intelligence artificielle. Ce que nous appelons l’IA aujourd’hui n’était pas considéré comme de l’IA il y a 10 ans, ou parfois même il y a un mois. Prenons votre iPhone : il se déverrouille en reconnaissant votre visage. Certaines personnes pourraient appeler cela de l’intelligence artificielle.
Cette fonction repose sur de nombreuses astuces qui ne relèvent pas d’une intelligence pure. Mais le simple fait que votre téléphone vous reconnaisse et que vous n’ayez plus à entrer votre mot de passe constitue assurément un exemple. Si votre mère regarde Netflix, le système de recommandation de Netflix en est aussi un.
À une certaine époque, on l’aurait qualifié d’intelligence artificielle. Cette technologie n’a rien de moderne et existe depuis longtemps. Elle utilise votre historique de visionnement, les notes que vous avez attribuées aux films et celles d’autres personnes pour vous recommander ce que vous devriez regarder [00:59:00] ensuite sur votre service de streaming. Tous ces systèmes sont des exemples.
L’IA se trouve donc pratiquement partout. Ce qui s’en vient est peut-être plus difficile à prévoir. Imaginez que vous vous réveillez le matin et que tout, dans votre maison, s’adapte à vos préférences. Il faudrait évidemment modifier le hardware de votre maison.
Mais supposons que ce soit fait. Votre maison vous accueille le matin. Lorsque vous descendez, votre café est déjà prêt. Elle le prépare différemment le samedi et le lundi, parce que vous avez plus de temps pour le boire la fin de semaine. Et vous n’avez rien eu à configurer.
Le système a simplement appris vos préférences. Il formule des suggestions selon le type de personne que vous êtes et la catégorie à laquelle vous appartenez. Il utilise aussi les données anonymisées d’autres personnes pour trouver [01:00:00] ce qui vous conviendrait le mieux. Les systèmes que je viens de décrire peuvent utiliser ou non la vision. Dans cet exemple précis, elle n’est probablement pas nécessaire.
Mais le même concept s’applique tout aussi bien aux systèmes de vision.
Louis-François Bouchard : Il pourrait aussi y avoir de l’haptique. J’ai écouté un autre podcast auquel vous avez participé et dans lequel vous avez beaucoup parlé d’haptique. Je ne voulais pas simplement répéter cette discussion, mais c’est assurément un sujet extrêmement intéressant.
C’est une autre forme d’input sensoriel que nous utilisons encore assez peu aujourd’hui. J’aimerais donc aborder rapidement le sujet. Pourriez-vous expliquer comment l’haptique est utilisée, ce qui rend cet input sensoriel difficile à traiter, son potentiel et son lien avec l’intelligence artificielle ?
Oui. Alors, pour commencer,
Jerome Pasquero : j’aime que nous touchions à ce sujet. L’haptique se prête à tellement de jeux de mots. J’écoutais justement [01:01:00] Fei-Fei Li, professeure à Stanford et figure de proue de la vision par ordinateur et de l’intelligence artificielle. Dans l’un des podcasts que j’ai écoutés, elle expliquait que la vision constitue probablement l’une des raisons
pour lesquelles l’évolution animale a connu un bond immense lorsque les animaux ont acquis la vue. Je ne suis pas tout à fait d’accord. Je reconnais que la vision occupe une place fondamentale dans notre vie et dans tout ce que nous faisons. C’est aussi un capteur qui permet de recevoir énormément d’information, tous ces pixels à traiter. Mais je pense en fait que l’haptique est tout aussi importante, sinon plus. Avant de devoir voir, vous devez probablement sentir ce qui vous entoure. C’est le rôle du toucher.
Il vous permet non seulement de comprendre votre environnement immédiat, mais aussi [01:02:00] de vous comprendre vous-même. Sans l’haptique, vous ne pourriez pas vous tenir debout en ce moment. Votre système proprioceptif vous permet de sentir vos muscles et votre propre corps. Sans ce système, qui relève du toucher, nous serions tous étendus au sol, incapables de bouger.
La différence entre la vue et le toucher comporte donc deux aspects. D’abord, la vue permet de traiter de l’information à distance. Vous voyez des objets très éloignés. Le toucher, lui, concerne davantage votre environnement immédiat.
Si vous ne pouvez pas atteindre quelque chose, vous ne pouvez pas le sentir. Ensuite, la quantité d’information à traiter diffère. Si nous comptons simplement le nombre de bits reçus, la vue transmet un ou deux ordres de grandeur plus d’information que le toucher. Votre peau ne reçoit évidemment pas autant d’information [01:03:00], mais celle qu’elle fournit reste tout aussi importante. Comme nous l’avons dit, vous ne pourriez pas vous tenir debout sans elle.
Je pense aussi que le toucher porte une charge émotionnelle beaucoup plus forte. Nous touchons les bébés et nos proches. Voilà les deux grandes différences. Mais nous pourrions garder ce sujet pour une autre fois, parce que vous voyez à quel point il m’enthousiasme rapidement.
Louis-François Bouchard : Le toucher compte aussi pour la conduite autonome. Prenons hier, par exemple. Il y avait de la glace noire partout. Nous ne pouvions pas la voir, mais nous pouvions la sentir. Nous entendions le moteur monter dans les tours et les roues patiner.
Nous sentions aussi la voiture commencer à glisser sur le côté. Deux caméras ne peuvent pas saisir tout cela à elles seules.
Jerome Pasquero : Non. Les interventions chirurgicales [01:04:00], surtout celles réalisées à distance, constituent un autre excellent exemple. Nous possédons maintenant des machines qui permettent d’opérer un patient à distance.
Une personne se trouve sous la machine dans un hôpital, tandis que le chirurgien travaille depuis une autre ville, dans un autre hôpital ou même dans un simple centre de commande. La vision seule ne suffit pas pour opérer à distance. Le chirurgien peut voir ce qu’il fait, mais il voudra aussi sentir ce qu’il coupe. Sans ce feedback, il ne peut pas naviguer correctement.
Il ne sait pas exactement ce qu’il fait. L’idée d’utiliser plusieurs sens n’est évidemment pas nouvelle. C’est ainsi que les humains fonctionnent. C’est aussi pourquoi je pense que nous verrons de plus en plus de systèmes multimodaux qui combinent plusieurs modalités. La redondance des signaux rend le résultat plus fiable, plus efficace et de meilleure qualité. Il s’agit d’une progression naturelle pour les prochaines [01:05:00] phases de l’IA.
Louis-François Bouchard : Je suppose que plus nos capteurs sont diversifiés et nombreux, mieux c’est. Une voiture pourrait peut-être finir par être meilleure que nous parce qu’elle possède un LiDAR et d’autres types de capteurs dont nous ne disposons pas. C’est vraiment emballant, et j’espère voir ces technologies
prendre une place toujours plus grande dans nos vies. Certaines applications les utilisent déjà sur nos téléphones et ailleurs. Pendant mes stages chez CAE Santé, j’ai aussi testé et assuré la qualité de certaines applications chirurgicales dans lesquelles il fallait couper des tissus. On pouvait littéralement sentir la lame traverser la chair.
Je ne sais pas comment l’expliquer autrement, mais le résultat était assez réaliste. C’est un domaine vraiment fascinant. Essayer de reproduire des tissus ou simplement des textures est [01:06:00] incroyablement intéressant.
Jerome Pasquero : Exactement. Nous verrons de plus en plus d’haptique en VR. Aujourd’hui, dans un jeu en VR, vous pouvez par exemple ressentir le recul d’une arme lorsque vous tirez.
Mais ce n’est qu’un aperçu de ce que nous pourrons accomplir en essayant de reproduire le sens du toucher dans une réalité virtuelle.
Louis-François Bouchard : Formidable. Merci beaucoup pour votre temps et pour toutes les réflexions fascinantes que vous avez partagées. Je serais très heureux de reparler bientôt d’haptique avec vous, si le sujet vous intéresse aussi.
Merci encore de vous être joint à moi pour cette discussion et d’avoir partagé tout ce que vous aviez en tête.
Jerome Pasquero : Ce fut un véritable plaisir et une discussion très agréable. Je suis toujours prêt à parler d’haptique lorsque vous le souhaitez. Génial. [01:07:00]
FAQ
Pourquoi l’annotation des données est-elle importante pour l’IA ?
Les étiquettes relient les exemples bruts aux concepts ou aux outputs qu’un modèle supervisé doit apprendre.
Comment construit-on de grands datasets annotés ?
Les organisations définissent des directives, confient des exemples à des annotateurs humains ou automatisés, puis vérifient la concordance et la qualité.
Quand faut-il confier l’annotation à des humains plutôt qu’à l’IA ?
Les humains sont importants lorsque le contexte, l’ambiguïté, l’expertise du domaine ou les conséquences d’une mauvaise étiquette sont considérables.
L’IA peut-elle contribuer à l’annotation de ses propres données ?
Oui. Les modèles peuvent préétiqueter les exemples évidents, tandis que les humains révisent les cas incertains ou importants.
Pourquoi les enfants apprennent-ils avec moins d’exemples que de nombreux modèles ?
L’apprentissage humain repose sur des connaissances préalables, une expérience incarnée, l’interaction et une capacité de généralisation que les datasets actuels doivent reproduire indirectement.
Pourquoi la qualité des données peut-elle compter plus que leur volume brut ?
Des exemples pertinents, exacts et obtenus de façon éthique enseignent mieux le comportement souhaité qu’une plus grande collection remplie de bruit ou de biais cachés.
Comment les emplois d’annotation peuvent-ils évoluer à mesure que les modèles s’améliorent ?
Les annotateurs peuvent délaisser les étiquettes répétitives pour superviser les modèles, vérifier la qualité et leur enseigner les cas limites que les systèmes automatisés ne comprennent pas encore.
Pourquoi les humains devraient-ils demeurer les juges finaux des outputs d’un modèle ?
Les modèles peuvent aider à en évaluer d’autres, mais les humains définissent toujours l’objectif, décident ce qui est utile et corrigent les échecs en fonction des buts du monde réel.
Est-ce que le scaling des transformers, des données et du compute réglera tous les problèmes de l’IA ?
Probablement pas. L’entrevue souligne les limites liées à l’énergie, au compute et à l’efficacité des échantillons, qui justifient l’exploration de nouvelles architectures et de méthodes capables d’apprendre avec moins de données.