Rejoignez-nous pour un épisode qui fera certainement vibrer vos réseaux neuronaux alors que nous plongeons dans le monde captivant de l’IA avec Felix Tao, CEO de Mindverse AI. Grâce à sa vaste expérience comme chercheur chez Facebook et Alibaba, Felix possède énormément de connaissances sur les applications du langage et l’IA. Préparez-vous à une entrevue instructive et divertissante où Felix partage ses réflexions sur l’évolution de l’IA, les merveilles des grands modèles de langage et l’équilibre délicat entre recherche et application.
Ancien membre de l’équipe de Facebook, Felix réfléchit au paysage en constante évolution de la recherche en IA, où des modèles de fondation comme GPT3 ouvrent la voie vers l’insaisissable intelligence artificielle générale (AGI).
Mais attendez, ce n’est pas tout ! Dans cet épisode, Felix s’attaque à une question brûlante : une carrière axée sur la recherche vaut-elle encore ses octets aujourd’hui ? Il analyse habilement les nuances du domaine et vous fera rire, tout en révélant l’importance des travaux fondamentaux et en offrant de précieux conseils aux personnes qui cherchent un emploi et veulent profiter de l’essor de l’IA.
Accrochez-vous pendant que nous découvrons le passage de Felix chez Alibaba, où il a conçu un plan visant à « éveiller la conscience » des machines en combinant de grands modèles de langage avec des frameworks étrangement semblables aux humains.
Felix met en lumière le fascinant mouvement de va-et-vient du développement de l’IA, qui passe gracieusement de tâches spécialisées fragmentées à des approches générales unifiées. Il prédit un avenir où l’IA propre à chaque domaine régnera, avec des solutions de meilleure qualité et des capacités de résolution de problèmes suralimentées.
Ne manquez pas cette entrevue passionnante, à parts égales instructive et hilarante ! Felix Tao nous entraîne dans une visite éclair du monde de la recherche et du développement en IA, avec des idées qui vous feront réfléchir. Écoutez-la maintenant ! (ou sur Spotify et Apple Podcasts)👉
Transcription de la vidéo
Louis-François Bouchard : [00:00:00] Voici une entrevue avec Felix Tao, CEO de Mindverse AI. Felix a fait un doctorat en informatique avant de travailler comme chercheur scientifique chez Facebook, puis de passer chez Alibaba pour diriger le Neuro-Symbolic Lab. Il crée maintenant sa propre application, Mindverse AI. Dans l’entrevue, nous discutons des grands modèles de langage, de ChatGPT, de Mindverse et de beaucoup d’autres sujets qui sont vraiment très actuels.
J’espère que vous l’apprécierez. Génial. Je vais commencer par ma première question habituelle : qui êtes-vous ? Puisqu’il s’agit d’une question très vaste, j’aimerais plus précisément commencer par votre parcours universitaire. Quel est-il ?
Felix Tao : Oui. Je m’appelle Felix Tao. Tout comme vous, j’ai fait un doctorat en informatique.
J’ai obtenu mon baccalauréat [00:01:00] à l’Université Tsinghua. Je suis ensuite venu aux États-Unis pour faire mon doctorat à l’UIUC, l’Université de l’Illinois, en travaillant particulièrement sur le data mining et le machine learning. C’était avant l’arrivée des grands modèles de langage. Tout consistait donc à entraîner des modèles spécialisés pour résoudre des problèmes industriels précis.
Après mon diplôme, j’ai travaillé chez Facebook et Alibaba comme chercheur scientifique. Voilà l’essentiel de mon parcours de recherche et de mon parcours universitaire. Aujourd’hui, je dirige une entreprise appelée Mindverse, qui est elle aussi liée à l’IA. Je fais donc encore beaucoup de recherche chez Mindverse.
Louis-François Bouchard : C’est super intéressant. J’aimerais d’abord parler de votre doctorat puisque, comme vous l’avez mentionné, j’en fais aussi un. Rétrospectivement, diriez-vous que votre doctorat en valait la peine ? [00:02:00]
Felix Tao : C’est une question que je me suis souvent posée pendant mon doctorat. Honnêtement, avec le recul, je crois que cela en valait la peine pour moi, mais pas nécessairement pour tous les doctorants.
Dans mon cas, ce fut une excellente façon de plonger dans les fondements du machine learning et de l’IA, de vraiment les comprendre et d’observer l’évolution de la technologie. Cette formation m’a mieux préparé pour mes futurs emplois de chercheur scientifique chez Facebook, Alibaba et aussi Mindverse.
Je dois toutefois absolument préciser une chose : l’industrie et la recherche universitaire en IA changent extrêmement vite. Tous les articles scientifiques que j’ai publiés pendant mon doctorat ne sont plus utiles, à mon avis. Il devient donc difficile [00:03:00] de réfléchir à leur impact et à la durée pendant laquelle ces travaux conserveront leur valeur.
C’est un vrai défi pour les étudiants. Je dirais que le doctorat vaut la peine comme processus de formation, mais pas nécessairement comme moyen d’avoir un immense impact sur la recherche, puisque le domaine change énormément chaque année.
Louis-François Bouchard : Oui, c’est parfaitement logique. J’ai récemment discuté de cette question précise de la recherche et du doctorat avec un autre CEO de startup. Je ne veux pas déformer ses propos, mais l’idée générale était la suivante.
La recherche ne vaut peut-être pas autant la peine en ce moment, puisque nous avons réalisé tellement de progrès récemment et que le moment est maintenant venu d’appliquer, de commercialiser et de travailler sur la productisation. De plus, [00:04:00] OpenAI, Mindverse et toutes les autres entreprises offrent énormément de possibilités pour commercialiser et utiliser les modèles.
Croyez-vous donc qu’investir dans la recherche demeure pertinent ou qu’il vaut encore la peine de poursuivre une carrière en recherche ? Ou faudrait-il plutôt choisir un rôle pratique de développeur ou d’ingénieur ?
Felix Tao : Oui, c’est une bonne question. Je crois que le changement de paradigme provoqué par les grands modèles de langage a un immense impact sur la communauté scientifique.
D’une part, notre façon de faire de la recherche a changé, ce qui réduit la barrière à l’entrée. Auparavant, il fallait apprendre beaucoup de mathématiques, comprendre le réglage des réseaux neuronaux et des réseaux d’attention, puis étudier énormément dans le domaine connexe avant de réussir à faire fonctionner quelque chose. [00:05:00]
Aujourd’hui, avec l’aide des grands modèles de langage, nous construisons surtout des structures de haut niveau par-dessus ces modèles. À moins de faire de la recherche sur les modèles de fondation eux-mêmes, il vaut probablement mieux éviter le doctorat et entrer dans l’industrie pour travailler sur ce qui se construit au-dessus des grands modèles de langage.
Oui, c’est là que vous pouvez apporter le plus de valeur. Si vous étudiez les mathématiques et les mécanismes fondamentaux des grands modèles de langage, ou modèles de fondation, la recherche demeure toutefois très utile. Cela signifie aussi qu’auparavant, nous avions des domaines comme la vision par ordinateur et le NLP. Dans le NLP, nous avions énormément de tâches différentes.
Beaucoup de ces tâches ont disparu. Elles ne constituent plus des problèmes de recherche valides parce qu’un [00:06:00] seul modèle de fondation peut toutes les accomplir. Étudier séparément ces modèles et ces questions n’est donc probablement plus une bonne direction de recherche. Oui.
Louis-François Bouchard : Il doit être difficile, comparativement à autrefois, de trouver un sujet de recherche, particulièrement dans le cadre d’un doctorat ou pour des étudiants qui sont relativement débutants.
Il doit être difficile de trouver un sujet où l’on peut avoir un impact face à OpenAI, DeepMind, Meta et toutes les grandes entreprises du domaine. Ce n’est certainement pas le seul problème. Le doctorat lui-même exige beaucoup de temps et n’apporte peut-être pas autant de valeur personnelle en matière de revenu.
Oui, comparativement à un emploi et même au processus d’apprentissage. Travailler dans une startup ou lancer sa propre startup permet d’apprendre énormément. On est très motivé et on travaille beaucoup plus parce qu’on veut réussir. On apprend [00:07:00] énormément, comme pendant un doctorat. Mais je ne sais pas ce qui arrivera aux doctorats.
Je ne sais pas s’ils resteront tels qu’ils sont. Je vois de plus en plus de travaux réalisés en affiliation avec des entreprises. Je suppose donc que c’est la direction qu’ils prendront. La majorité des doctorants feront par exemple leur doctorat chez Meta ou dans d’autres organisations semblables.
Felix Tao : Oui. Malheureusement, je suis d’accord avec la plupart de vos arguments, parce que les ressources nécessaires pour accomplir quelque chose en IA rendent les laboratoires universitaires moins adaptés que les laboratoires industriels.
Pensons par exemple aux laboratoires d’IA de Google, de FAIR ou d’OpenAI. Ce type de transition est arrivé dans beaucoup d’industries. [00:08:00] Prenons la recherche sur les bases de données. Au début, toutes les innovations provenaient des laboratoires de recherche. Puis, à mesure que les systèmes de bases de données ont été commercialisés, les entreprises commerciales ont obtenu davantage de ressources à investir dans la recherche et dans leurs propres produits. Beaucoup d’innovations sont alors venues des laboratoires industriels ou des entreprises commerciales.
Je crois que l’IA vit maintenant ce moment. Le domaine demeurera très innovant et axé sur l’innovation, mais je crois que la majorité des avancées viendront des laboratoires industriels ou de startups. Oui.
Louis-François Bouchard : Je le crois aussi. Avant de plonger dans le sujet, vous avez mentionné avoir travaillé chez Facebook et Alibaba. J’aimerais beaucoup en savoir un peu plus sur ce que vous faisiez d’abord chez Facebook.
Felix Tao : Mon travail chez Facebook était [00:09:00] très intéressant, puisque Facebook est l’une des plus grandes plateformes du monde et possède énormément de données, notamment des documents, des nouvelles, des articles, des vidéos et des images. Lorsque je suis arrivé, Facebook adoptait une nouvelle direction. Auparavant, vous ne voyiez que les publications de vos amis dans votre fil d’actualité.
Mais l’entreprise constatait que les gens voulaient de plus en plus utiliser Facebook comme source d’information afin d’obtenir des nouvelles et de découvrir des vidéos intéressantes qui ne venaient pas seulement de leurs amis. Elle réfléchissait donc à la façon de relier les milliards d’utilisateurs de Facebook aux milliards d’éléments d’information sur le Web.
L’objectif était d’apporter l’information aux gens. Nous devions développer un outil appelé Content Understanding [00:10:00]. Il s’agissait essentiellement d’une plateforme d’IA dans laquelle on pouvait déposer toute l’information, les nouvelles, les articles, les images et les vidéos. Elle devait comprendre les sujets et les concepts clés intégrés à ce contenu.
Facebook pouvait utiliser les signaux extraits par l’IA à partir de ces données textuelles ou vidéo pour aider les utilisateurs à trouver l’information pertinente selon leurs intérêts. J’ai lancé ce projet dans le fil d’actualité. Nous avons d’abord cherché à comprendre les données textuelles, puis les images et les vidéos, afin de construire de solides fondations d’IA pour la compréhension du contenu.
C’était mon premier emploi. C’était vraiment passionnant de pouvoir travailler sur un projet [00:11:00] de cette taille, puisqu’on manipulait essentiellement la plus grande base de données au monde et qu’on essayait d’utiliser l’IA pour la comprendre. C’était très cool.
Louis-François Bouchard : Pour remettre cela en contexte, quand était-ce exactement ? En quelle année ?
Felix Tao : J’ai commencé à travailler chez Facebook en 2017.
Louis-François Bouchard : Pour l’IA, c’était il y a très longtemps comparativement à aujourd’hui.
Felix Tao : Oui. À cette époque, le concept de grand modèle de langage n’existait pas encore. Notre façon de comprendre les données textuelles ou vidéo demeurait assez traditionnelle au sens de l’IA.
Nous développions des modèles spécialisés pour extraire les sujets, trouver les personnes dans les vidéos et accomplir ce genre de tâches. Elles étaient prises en charge par un ensemble de modèles différents. Aujourd’hui, grâce aux modèles de fondation, nous pouvons probablement les accomplir d’une façon beaucoup plus élégante [00:12:00] en utilisant un seul modèle pour gérer toute la compréhension du contenu.
Oui. Cela…
Louis-François Bouchard : …devait être un excellent rôle pour apprendre énormément sur le langage naturel, le traitement du langage naturel et toutes les subtilités de la compréhension du texte. Vous n’aviez pas accès aux outils que nous avons aujourd’hui, qui simplifient les choses même si elles demeurent extrêmement complexes. Les défis devaient donc être très différents eux aussi.
Felix Tao : Oui. À cette époque, les outils de NLP que nous utilisions exigeaient beaucoup d’annotation de données. Pour une tâche précise, comme extraire les sujets d’articles de nouvelles, il fallait annoter énormément de données. Voilà pourquoi Facebook et toutes les entreprises technologiques qui investissaient massivement en IA travaillaient habituellement avec des entreprises [00:13:00] spécialisées dans l’annotation et la génération de données.
Elles embauchaient des gens pour annoter les données nécessaires à leurs tâches. Aujourd’hui, comme vous le dites, toutes ces tâches peuvent se résumer à un prompt très bien conçu pour le grand modèle de langage. Le véritable travail consiste alors à entraîner un grand modèle de langage capable d’observer toutes les données du Web et d’apprendre à comprendre le monde entier.
C’est un sujet complètement différent.
Louis-François Bouchard : Oui, vraiment cool. Et puisque nous parlons de sujets différents, j’ai lu que vous aviez été le directeur fondateur du Neuro-Symbolic Lab d’Alibaba. J’ai aussi lu que son objectif consistait à éveiller la conscience des machines. Cela semble très différent de ce que vous faisiez auparavant chez Facebook et [00:14:00] j’aimerais beaucoup en savoir plus.
Felix Tao : J’ai traversé une période très intéressante de l’histoire de l’IA. J’ai décidé de quitter Facebook pour rejoindre Alibaba autour de 2019 et 2020. À cette époque, un événement majeur s’est produit dans l’industrie de l’IA : GPT trois. OpenAI a lancé GPT trois vers le milieu de 2020.
À ce moment, j’ai eu l’impression que notre façon d’aborder l’IA était mauvaise. Jusque-là, les chercheurs en IA se demandaient toujours comment définir un problème pour un modèle précis, comment définir les inputs et les outputs du modèle et comment obtenir les données. Que ce soit par l’annotation ou en les récupérant sur le Web, comment pouvions-nous obtenir suffisamment [00:15:00] de données pour cette tâche précise ?
Mais après GPT trois, j’ai compris que l’objectif de l’AGI possédait une très bonne fondation, un excellent point de départ. Lorsque les scientifiques ont défini le terme IA au début du siècle dernier, ils parlaient d’AGI, d’une IA capable d’apprendre et d’accomplir toutes sortes de tâches. Mais comme c’était beaucoup trop difficile à l’époque, les gens se sont divisés dans différentes directions.
Certains étudiaient la vision : comment les machines peuvent-elles voir ? D’autres étudiaient les problèmes de NLP : comment les machines peuvent-elles lire et comprendre le texte ? Plus on approfondissait, plus le NLP se divisait en problèmes, puis chaque problème en problèmes plus petits. C’était la façon traditionnelle de penser des chercheurs en IA.
Mais après la sortie de GPT trois, [00:16:00] tout a changé. C’est à ce moment que j’ai compris que nous pouvions peut-être faire les choses autrement et que nous n’avions pas à suivre la méthode traditionnelle de recherche en IA. Voilà pourquoi j’ai lancé ce laboratoire de recherche appelé Neuro-Symbolic Lab.
J’ai essayé de combiner les modèles de fondation et les grands modèles de langage avec un framework qui ressemble davantage au cerveau humain. Ce framework peut notamment posséder de véritables mémoires à long terme et des perceptions qui récupèrent toutes sortes de sources d’information pour les rendre utiles.
Il suffit d’envoyer ces signaux aux modèles de fondation et de les laisser les traiter. Si nous combinons des modèles de fondation et de grands modèles de langage avec des mémoires, des perceptions et même des capacités de contrôle moteur permettant de [00:17:00] commander les bras de robots, nous construisons quelque chose de semblable à un humain.
Oui. Nous poussons réellement l’IA à traiter l’information, réfléchir à un problème et produire des actions comme un humain. J’ai senti que le moment était venu. Nous nous sommes donc donné un objectif très ambitieux : éveiller la conscience des machines.
Nous n’y sommes probablement pas encore, même aujourd’hui. Mais je crois que nous sommes beaucoup, beaucoup plus près d’atteindre cet objectif ambitieux qu’il y a cinq ans.
Louis-François Bouchard : Certainement. Je ne sais pas si c’est récent dans l’histoire de l’IA, mais CLIP nous a montré que nous pouvions comprendre un concept…
…à partir de texte ou d’images [00:18:00]. C’est aussi quelque chose que nous faisons très facilement. Si nous voyons le mot « chat », l’image d’un chat ou entendons le mot, notre cerveau relie tout au même concept. C’est plutôt cool que l’IA, ou un seul modèle, puisse maintenant le faire. Un seul grand modèle, en fait. Nous semblons vraiment passer aux modèles de fondation, donc à une intelligence plus vaste et plus générale, plutôt qu’à des systèmes excellents pour une seule application.
C’est pourtant ce que nous visions encore il y a quelques années. Même pendant ma maîtrise, nous cherchions à améliorer la few-shot classification pour une tâche très précise. La situation est déjà complètement différente aujourd’hui. C’est plutôt cool.
Felix Tao : Oui. J’aimerais ajouter une chose. J’observe moi aussi l’évolution [00:19:00] de l’IA.
Je remarque un motif très intéressant. Le concept et la recherche en IA ont commencé avec un groupe de chercheurs extrêmement intelligents qui tentaient de résoudre le problème général de l’IA, mais ils ont d’abord échoué. Nous sommes ensuite passés à une approche fragmentée où les tâches étaient divisées en problèmes plus petits.
Nous avons créé des centaines de tâches d’IA différentes, chacune confiée à des personnes distinctes, avant de revenir à une approche plus unifiée et plus générale. Après l’arrivée de ces grands modèles de langage, nous entrerons peut-être dans une nouvelle ère où nous constaterons qu’un seul grand modèle ne suffit pas.
Nous voudrons de nouveau diverger et créer différents types de grands modèles de langage pour différentes personnalités [00:20:00] ou différents métiers. Le domaine passe donc constamment de la fragmentation à l’unification, puis revient à la fragmentation. C’est un motif très intéressant dans l’IA. Voilà pourquoi, même si seules quelques entreprises peuvent actuellement livrer les meilleurs…
…grands modèles, je crois que les startups et peut-être les étudiants en recherche trouveront à l’avenir des enjeux et des problèmes de niche à résoudre. Nous verrons bien. Oui.
Louis-François Bouchard : À propos de cette division en applications plus petites, ne croyez-vous pas que c’est déjà ce que nous faisons ? Beaucoup de gens prennent par exemple de grands modèles de langage et effectuent leur fine-tuning pour une tâche précise.
Ils construisent parfois une mémoire à partir d’un dataset, par exemple un livre médical, puis demandent au grand modèle de langage de [00:21:00] citer ce livre. Nous partons déjà du grand modèle pour l’adapter et l’améliorer sur une tâche précise.
Croyez-vous que cette voie est prometteuse, ou aurons-nous bientôt un grand modèle de langage meilleur que les modèles spécialisés sur chacune de ces tâches très précises ?
Felix Tao : C’est une question très intéressante. Honnêtement, je n’ai pas encore de réponse certaine. Mais je crois qu’il nous faut différentes IA pour différentes tâches afin de les rendre plus spécialisées et d’obtenir des solutions de meilleure qualité dans chaque domaine précis.
Mon entreprise s’appelle Mindverse. Notre produit principal, MindOS, essaie essentiellement de résoudre ces problèmes pour différents experts de domaine. Je dirais qu’un grand modèle de langage intègre deux choses. La première est sa capacité de raisonnement. Il peut raisonner avec une logique complexe, indépendamment du domaine. [00:22:00]
Tout comme les humains, il peut simplement utiliser la logique pour raisonner et résoudre des problèmes. La deuxième couche d’un grand modèle de langage est son sens commun. Cette compréhension générale du monde s’acquiert pendant le pré-entraînement, lorsque le modèle parcourt toutes les données du Web.
Mais ce sens commun n’est habituellement pas assez bon pour un domaine précis. Dans un tel domaine, les gens ont probablement besoin de la partie raisonnement, mais pas nécessairement des connaissances intégrées au grand modèle de langage [00:23:00], puisqu’ils veulent fournir leurs propres connaissances spécialisées et leurs propres données verticales.
Nous appelons cela la couche de grounding. Nous utilisons les grands modèles de langage pour raisonner, puis ajoutons par-dessus une couche de grounding afin d’adapter le modèle à un domaine précis. Il devient alors beaucoup plus efficace pour résoudre les problèmes de ce domaine. C’est l’un des grands objectifs de MindOS : permettre aux gens de le faire très facilement.
Ils peuvent simplement mettre à jour les documents et connecter au modèle des capacités et des APIs propres au domaine. Le modèle peut ensuite planifier, récupérer l’information pertinente pour ce domaine, ce workflow et ce cas d’usage, puis utiliser la puissance de raisonnement des grands modèles de langage afin de mieux résoudre le problème.
C’est essentiellement…
Louis-François Bouchard : …comme reproduire le processus d’un humain parfait [00:24:00]. Nous pouvons tous manger, marcher et faire pratiquement n’importe quoi, mais il faut aller à l’université, faire un doctorat et tout le reste pour devenir le meilleur dans un domaine. C’est amusant de voir que nous essayons essentiellement de faire la même chose avec l’IA : nous lui enseignons le monde en général, comme nous le faisons avec nos enfants.
Puis nous lui donnons beaucoup de documents très précis, comme nous le faisons avec des étudiants universitaires, afin qu’elle devienne experte dans un domaine. Voilà. C’est parfaitement logique. Oui.
Felix Tao : Tout à fait. Votre façon de le présenter décrit parfaitement la construction de ces systèmes d’IA. Il faut toutes ces étapes de pré-entraînement, comme l’éducation d’un enfant depuis sa naissance jusqu’à son diplôme universitaire.
Il faut ensuite une formation professionnelle pour en faire [00:25:00] un expert dans un domaine précis. OpenAI et les autres créateurs de grands modèles de langage terminent le pré-entraînement pour que l’IA ressemble à une personne diplômée de l’université. Nous concevons ensuite un programme de formation professionnelle pour chaque IA afin qu’elle devienne extrêmement compétente dans son domaine et possède une mémoire à long terme.
Elle n’est pas seulement professionnelle. Elle peut aussi grandir à mesure que vous l’utilisez et devenir de plus en plus ancrée dans votre domaine et votre cas d’usage. C’est très passionnant. À l’avenir, je ne crois pas que l’IA sera un modèle général qui résout tout pour tout le monde.
Chaque personne et chaque entreprise aura besoin d’une IA qui lui correspond davantage, qui s’intègre à sa [00:26:00] vie et s’ancre dans son travail quotidien. Ajouter cette couche de grounding au-dessus du grand modèle de langage ouvre donc la porte à beaucoup d’innovations.
Louis-François Bouchard : Je suppose que l’objectif principal de MindOS consiste à construire ces couches supplémentaires au-dessus du pré-entraînement initial.
Cherchez-vous à le faire dans la plupart des domaines ou vous spécialisez-vous dans certains d’entre eux ? Que construisez-vous exactement et quel est votre objectif avec MindOS ?
Felix Tao : Mindverse représente notre vision. Le terme Mindverse décrit un avenir où les êtres d’IA…
…coexisteront avec les humains [00:27:00] dans une nouvelle forme de société, où de nombreuses tâches accomplies par les humains seront déléguées à l’IA et où l’IA deviendra une partie intégrante de notre société. C’est notre vision. Je crois que nous pouvons essayer d’en faire une bonne vision et un avenir positif pour l’humanité.
MindOS est notre produit. Il s’agit essentiellement d’un système d’exploitation capable de générer des esprits d’IA, que nous appelons des génies IA dans notre système. N’importe qui peut utiliser le système et essayer de créer un génie IA pour un domaine précis. Vous pouvez par exemple créer un génie IA qui sert de majordome dans un hôtel.
Vous pouvez créer un génie IA qui agit comme assistant de recherche en IA ou qui fournit du soutien aux ressources humaines. Pour y arriver, comme vous l’avez dit, nous devons relever quelques défis techniques. Le premier consiste à rendre le système facile à utiliser et à ajouter cette couche de grounding au-dessus de chaque génie IA.
Nous essayons [00:28:00] de rendre le système aussi général que possible pour répondre à votre question, puisque le modèle de fondation lui-même est général. Le processus de formation professionnelle ressemble surtout à celui du monde réel. La couche de grounding ajoute essentiellement la procédure d’entraînement pour différents domaines.
La façon de l’entraîner demeure semblable, mais le matériel et les données diffèrent selon le domaine. MindOS cherche surtout à fournir une boîte à outils, un moteur et une plateforme que différents domaines peuvent utiliser. Nous ne voulons pas nous concentrer sur seulement un ou deux domaines. Nous voulons en faire une plateforme de création où les gens peuvent inventer leur propre façon de générer des génies IA ou des esprits d’IA pour leur domaine.
C’est [00:29:00] l’un des plus grands objectifs et l’une des principales fonctionnalités de MindOS. Nous faisons toutefois aussi autre chose qui me semble très intéressant. Lorsque vous utilisez ChatGPT, vous savez que la puissance de raisonnement existe, mais le modèle ne peut effectuer qu’une seule ronde de raisonnement. Vous lui posez une question, il raisonne, puis vous donne un résultat.
Nous voyons déjà une tendance dans l’industrie avec AutoGPT, par exemple. L’IA peut utiliser sa puissance de raisonnement de manière autonome pendant plusieurs itérations. C’est comme multiplier par un grand nombre la puissance de raisonnement des grands modèles de langage pour une tâche précise. Ils peuvent diviser une tâche complexe en plusieurs sous-tâches et les accomplir progressivement, de façon itérative.
Je crois que c’est une autre partie très importante de notre travail dans MindOS. Nous voulons donner à l’IA la capacité de réfléchir en profondeur, [00:30:00] de réfléchir lentement afin qu’elle exploite davantage sa puissance de raisonnement et devienne plus performante.
Louis-François Bouchard : J’ai beaucoup de questions à la suite de cette réponse, mais commençons par votre dernier point.
Lorsque j’utilise ChatGPT et d’autres modèles, mon principal problème est l’hallucination. Je suis donc un peu inquiet et sceptique lorsque nous parlons d’enchaîner ces prompts et ces requêtes. J’ai l’impression que cela peut amplifier le risque d’hallucination, construire par-dessus des hallucinations et accroître de plus en plus les torts que le système peut causer.
Faites-vous quelque chose pour réduire ce risque d’hallucination ou est-ce aux marques qui utilisent MindOS de s’en occuper ? Pouvez-vous faire quelque chose pour les [00:31:00] aider ?
Felix Tao : Je crois que l’hallucination est l’une des principales raisons pour lesquelles les gens, particulièrement les entreprises, n’utilisent pas directement ChatGPT.
Selon moi, la solution comporte deux volets. Le premier correspond à ce que fait OpenAI. L’entreprise entraîne GPT quatre et peut-être des modèles logiques encore plus avancés à l’avenir. Je crois que l’un des grands objectifs de ces nouveaux modèles consiste à résoudre le problème d’hallucination.
Dans une entrevue donnée par Sam Altman ou Ilya, je ne me souviens plus lequel, ils ont affirmé que le problème d’hallucination de GPT quatre avait été réduit d’au moins 60%. C’est donc une première voie d’amélioration. La deuxième correspond à ce que nous faisons avec la couche de grounding.
Avec cette couche, nous utilisons différentes tactiques. Nous générons par exemple un prompt très précis [00:32:00] qui oblige le modèle d’IA à ne parler qu’à partir du texte de référence, et non à partir de ce qu’il a appris pendant le pré-entraînement. Nous imposons cette contrainte et ajoutons aussi ce que nous appelons un système de citations.
Chaque fois que le modèle affirme quelque chose, nous lui demandons d’ajouter une citation tirée de la source originale. Tout élément accompagné d’une citation devient plus digne de confiance qu’un élément sans citation. Cela résout une partie du problème dans la façon dont les gens perçoivent les résultats générés par l’IA. Ils peuvent accorder davantage de confiance aux affirmations qui présentent une bonne citation qu’à celles qui n’en ont pas.
Je dirais toutefois que l’hallucination est un défaut fondamental des grands modèles de langage. Je crois aussi qu’il s’agit d’un défaut fondamental [00:33:00] de l’esprit humain. Oui. Les humains racontent parfois beaucoup de n’importe quoi eux aussi. Mais je crois que le problème se résout progressivement.
Dans des domaines comme le marketing et le divertissement, les gens acceptent davantage quelques hallucinations, tant que leur quantité demeure contrôlée. Mais dans des domaines très sérieux comme la médecine et le droit, ce sera probablement un problème plus important.
Les différentes industries adopteront donc les grands modèles de langage à des rythmes différents. Oui.
Louis-François Bouchard : C’est aussi ainsi que je les décrivais. Je comparais les grands modèles de langage à Wikipédia. À l’époque, on pouvait consulter Wikipédia, mais pas vraiment le citer [00:34:00] ni rédiger…
…un travail scolaire entièrement à partir de Wikipédia. Il fallait vérifier les sources et confirmer l’information. C’est pratiquement la même chose avec les grands modèles de langage aujourd’hui. Il faut toujours confirmer leurs affirmations s’ils ne peuvent pas indiquer d’où vient l’information. Voilà pourquoi je crois que les relier à une mémoire fondée sur…
…beaucoup de documentation est extrêmement puissant et constitue peut-être la solution la plus simple. Je suis d’accord que ce comportement peut simplement être un biais humain généralisé aux modèles de langage. Beaucoup de personnes partagent de fausses nouvelles ou mentent à leurs amis, et les données viennent de nous.
Il est donc parfaitement logique que les modèles fassent la même chose.
Felix Tao : Oui, tout à fait. C’est une très bonne analogie. Comme vous venez de le dire, une chose que nous pouvons toujours faire pour réduire l’impact des hallucinations consiste à rendre le processus de réflexion de l’IA aussi transparent que possible. [00:35:00]
À l’étape de récupération d’information comme référence externe, nous rendons le processus transparent. Lors des appels à des APIs pour accomplir une tâche, nous le rendons aussi transparent. Lorsqu’un utilisateur parle à un chatbot puissant, toutes les actions et toute l’information utilisées pendant le processus de réflexion devraient être visibles afin d’accroître la confiance.
Cela ne peut pas être fait par une vraie personne. Lorsque nous parlons à un professionnel, nous ne pouvons pas lui demander de dresser la liste complète de son processus de réflexion. Mais nous pouvons le faire avec l’IA. Il existe donc beaucoup de façons de réduire l’impact des hallucinations. Oui.
Louis-François Bouchard : Je viens de mentionner qu’il est important de vérifier les affirmations du modèle de langage pour s’assurer qu’elles sont vraies.
Lorsqu’il enchaîne des prompts [00:36:00] sans que nous contrôlions tout, existe-t-il une façon de garantir que ce qui se passe entre l’input et le résultat final est véridique et qu’aucune hallucination ne s’est glissée entre les deux ?
Felix Tao : Je ne crois pas que nous le puissions aujourd’hui. Nous ne disposons pas des bons outils pour examiner en détail le processus de calcul effectué par les grands modèles de langage.
Il s’agit plutôt d’une boîte noire. Mais pour construire une IA puissante, on n’utilise probablement pas uniquement les grands modèles de langage. On construit un framework par-dessus et on crée des flux de pensée entre les différentes parties de l’esprit : de la mémoire vers la perception, puis de la perception vers la zone d’action motrice.
Ce flux d’information de haut niveau peut être complètement transparent [00:37:00] pour les utilisateurs. Je ne sais pas si OpenAI développe quelque chose pour visualiser et rendre transparent le processus caché. J’en doute, puisque c’est extrêmement difficile. Mais nous rendons le processus de haut niveau transparent et nous nous assurons que tout ce que l’IA génère pour l’utilisateur comporte de bonnes références et de bonnes citations.
C’est une voie possible, mais elle ne résoudra pas le problème à 100%. Pourriez-vous…
Louis-François Bouchard : …déterminer quel est actuellement le plus grand défi lorsque vous essayez de construire cet outil qui produit des agents spécialisés ? Existe-t-il un défi précis sur lequel vous travaillez et qui est plus difficile que les autres ?
Felix Tao : L’hallucination en est un, comme vous l’avez dit. Mais au-delà de l’hallucination, l’un des grands [00:38:00] défis consiste à ancrer l’IA autant que possible. Les connaissances dont disposent les gens pour accomplir un travail sont habituellement très complexes. Il ne suffit pas de fournir quelques documents à l’IA.
Il ne suffit pas non plus de lui donner quelques outils. Il faut toujours lui apprendre à se comporter dans de nombreux scénarios. Nous pouvons évidemment le faire en lui donnant des instructions pour différentes situations, mais le modèle ne comprend toujours pas toujours les meilleures pratiques d’un domaine précis.
Il possède différents outils. Si nous construisons par exemple un agent de marketing, il peut se connecter à Facebook et trouver les détails des produits d’une entreprise. Mais combiner ces outils pour créer une meilleure campagne de marketing [00:39:00] est assez difficile. Il peut utiliser une partie de l’information pour proposer de bonnes idées, mais accomplir tout le travail de manière autonome…
…est extrêmement difficile. AutoGPT et des technologies semblables, comme celles que nous construisons, représentent une direction prometteuse, mais cette autonomie comporte des problèmes. Les systèmes sont difficiles à contrôler, souvent très ouverts et peu concentrés sur la tâche précise. Ils finissent donc par gaspiller beaucoup d’argent sans résoudre le problème.
Comment construire une IA qui sait accomplir une tâche complexe et propre à un domaine sans réfléchir aléatoirement à toutes sortes d’idées ? C’est très difficile. Qu’il s’agisse [00:40:00] du problème d’hallucination ou du problème d’autonomie, tout revient à contrôler le comportement de l’IA afin qu’il corresponde vraiment à ce que nous voulons.
Nous devons le faire avec le langage naturel. C’est un élément central. Voilà pourquoi il faut construire un excellent framework au-dessus des grands modèles de langage afin de transmettre le savoir-faire et le feedback à l’IA. Elle pourra alors intégrer intelligemment les commentaires des utilisateurs dans sa façon de réfléchir et d’accomplir les tâches.
C’est très difficile. Il s’agit d’un grand défi technique auquel nous faisons face et que nous essayons de résoudre avec le framework que nous avons développé.
Louis-François Bouchard : Le seul moyen de s’attaquer à ce problème consiste-t-il à améliorer les prompts et l’entraînement pour que le système comprenne comment accomplir le travail ? Ou parlez-vous aussi de fine-tuning et [00:41:00] de modifier en quelque sorte le cerveau de l’IA afin d’ajuster ses réponses ?
Tout se passe-t-il après l’entraînement avec des prompts et des ressources, ou faut-il aussi réentraîner les modèles ou effectuer leur fine-tuning ?
Felix Tao : C’est également un excellent point. La majorité des gens utilisent actuellement l’approche par prompting. Notre façon de faire ne consiste toutefois pas à demander à un humain d’écrire un meilleur prompt.
Nous cherchons plutôt à permettre à l’IA de recevoir du feedback et de mettre à jour son propre prompt, donc son comportement, en modifiant ses propres instructions. C’est une première façon de le faire automatiquement. Si cela fonctionne, ce sera un moyen très efficace d’ajuster et de contrôler le comportement de l’IA. Mais cette approche comporte certaines limites et ne peut pas offrir un contrôle total.
Je crois qu’à [00:42:00] l’avenir, nous voudrons probablement intégrer un certain entraînement au processus. Nous n’entraînerons pas le modèle de fondation, le très grand modèle, mais nous pourrons certainement entraîner au-dessus un module comportemental, par exemple un petit modèle de type adapter. Ce modèle recevra le feedback des utilisateurs, mettra automatiquement ses paramètres à jour et s’adaptera progressivement aux préférences de chacun. Il deviendra ainsi mieux ancré et plus adapté aux besoins réels d’un utilisateur.
L’approche par prompting demeurera toutefois pertinente pendant un certain temps avant que la véritable étape de fine-tuning arrive, parce que nous n’avons pas encore atteint ses limites. Il est toujours plus pratique de travailler sur les prompts. Oui.
Louis-François Bouchard : Oui, c’est parfaitement logique.
J’avais [00:43:00] une question surtout destinée à un de mes amis. Elle porte sur Mindverse et MindOS, mais elle permettra aussi de donner du contexte et d’aider les personnes qui nous écoutent à mieux comprendre l’outil. Voici mon exemple. Mon ami est recruteur dans une entreprise et cherche des personnes pour pourvoir un vaste éventail de postes.
Il essaie actuellement de trouver des façons d’utiliser l’IA pour améliorer son travail. Il ne possède aucune expérience en programmation ni en IA, à part avoir joué avec ChatGPT. Comment une personne comme lui, et j’imagine que beaucoup de personnes qui nous écoutent ont le même profil, pourrait-elle utiliser MindOS ou Mindverse pour améliorer son travail ? Que doit-elle apprendre ou faire ?
Quelles seraient les [00:44:00] étapes pour commencer et obtenir finalement l’aide d’un agent ?
Felix Tao : Si je comprends bien, votre ami travaille dans les ressources humaines, n’est-ce pas ? Oui. Je crois qu’à l’avenir, tous les professionnels, notamment en ressources humaines, en droit ou en recherche, pourront utiliser MindOS ou une autre plateforme d’agents pour construire leurs propres agents ou simplement utiliser ceux d’autres personnes.
Prenons ce travail en ressources humaines. Il comporte plusieurs étapes. Il faut d’abord trouver de nouveaux candidats sur le Web ou dans des profils LinkedIn. L’étape suivante consiste à évaluer à quel point chaque candidat correspond à la description du poste.
Il peut ensuite y avoir un processus d’entrevue, des communications avec les candidats, des discussions sur la rémunération et beaucoup d’autres éléments. [00:45:00] Pour toutes ces étapes, vous pouvez utiliser MindOS afin de construire un agent pour votre travail. Lorsque vous cherchez de bons candidats sur LinkedIn, par exemple, nous pouvons ajouter à votre génie un endpoint qui lui permet de parcourir le Web, particulièrement le site de LinkedIn.
Vous pouvez ensuite créer un excellent workflow en faisant glisser quelques modules ensemble. Vous pouvez lui demander d’évaluer tous les candidats trouvés selon leur expérience passée et de leur donner un score de un à cinq. Cette deuxième partie consiste surtout à donner une commande en langage naturel à l’IA et à lui demander de suivre vos instructions.
Le système commence automatiquement à parcourir le Web, à récupérer les profils LinkedIn et à les [00:46:00] noter selon leur expérience. Vous pouvez ensuite construire un autre workflow par-dessus. Après la notation, demandez-lui d’envoyer à votre adresse email tous les candidats ayant obtenu une note de cinq, puis de les classer selon la proximité entre leur emploi actuel et notre ville, par exemple.
Il est donc très facile de configurer ce type de workflow dans MindOS. Nous proposons aussi une fonctionnalité très intéressante : nous créons un réseau de collaboration entre les agents d’IA, que nous appelons des génies IA. Vous pouvez par exemple créer un agent pour votre processus d’acquisition de talents.
Vous pouvez avoir un autre agent qui évalue les CVs et un troisième qui mène automatiquement une première [00:47:00] entrevue avec les candidats. Vous pouvez les relier et demander à l’agent d’acquisition de talents de trouver d’abord les candidats, de les transmettre au deuxième agent pour les noter et trouver les postes qui leur conviennent dans l’entreprise…
…puis de demander au troisième de commencer une entrevue initiale avec eux. Cette façon de travailler peut s’appliquer à tous les types d’emplois, pas seulement aux ressources humaines. Chaque emploi comporte différents composants, et pour chacun, il faut apprendre à l’IA à bien l’accomplir.
Si nous disposons d’un mécanisme permettant de combiner ces différentes IA, nous pouvons réduire énormément le temps consacré aux tâches répétitives et fastidieuses. C’est principalement l’objectif de MindOS et cela répond, je crois, à votre question sur la façon dont il peut améliorer la productivité. [00:48:00]
Oui.
Louis-François Bouchard : Pour résumer, tout se ferait presque uniquement en langage naturel, donc en anglais ou, je suppose, en français et dans d’autres langues. Est-ce exact ? Oui. Faut-il d’autres compétences ? Lorsque vous dites que l’agent peut parcourir LinkedIn et extraire les différents profils, faut-il faire quoi que ce soit pour le connecter à LinkedIn ?
Felix Tao : Nous proposons déjà un ensemble de skills publics, par exemple la capacité de parcourir le Web, d’exécuter du code ou de trouver un vol pour un voyage. Mais la beauté de la couche de grounding, c’est que vous pouvez toujours ajouter vos propres capacités verticales pour votre travail précis.
Vous pourriez par exemple devoir [00:49:00] vous connecter à une base de données verticale pour chercher de l’information ou trouver des clients dans votre CRM. Vous pouvez toujours connecter ces skills et outils verticaux à l’IA. Celle-ci pourra ensuite les utiliser de manière autonome.
Pour chacune de vos requêtes ou tâches, elle peut automatiquement créer un plan qui utilise ces différents outils afin de résoudre votre problème précis. Si le résultat n’est pas assez bon, ajoutez des outils et fournissez davantage de feedback à l’IA.
Elle deviendra plus puissante et s’adaptera à vos véritables besoins. C’est la puissance de Mindverse. Comme je l’ai dit, il s’agit d’un [00:50:00] excellent outil. Vous pouvez l’utiliser selon vos besoins. Nous offrons beaucoup de flexibilité aux utilisateurs afin qu’ils puissent essentiellement construire tout ce qu’ils veulent.
Louis-François Bouchard : Vraiment cool. J’ai hâte de voir ce que les gens feront lorsqu’ils n’auront pas besoin de savoir programmer ni d’apprendre d’autres choses pour utiliser ces modèles. Je crois que le nombre d’utilisateurs accélérera également le développement grâce à tous les investissements et à tout ce que cela stimulera.
J’ai quelques dernières questions qui portent surtout sur l’avenir. Elles seront difficiles, mais courtes. La première : y a-t-il quelque chose que l’IA ne sait pas encore faire, mais que vous aimeriez lui voir accomplir ?
Felix Tao : Je crois que les IA ne possèdent toujours pas une certaine [00:51:00] conscience de soi, mais je n’utilise pas ce terme dans son sens risqué.
Je veux plutôt dire que l’IA devrait être consciente de ce qu’elle peut et ne peut pas faire. C’est très important. À mon avis, l’absence de cette capacité est une grande source d’hallucinations. Si le système sait qu’il ne possède pas les connaissances ou les capacités suffisantes pour accomplir quelque chose, il devrait pouvoir reconnaître cette limite.
Il cesserait alors d’halluciner et de générer de fausses informations. Je crois donc qu’il est essentiel de construire une sorte de module de conscience de soi dans l’agent d’IA ou le framework d’esprit artificiel. Le système doit comprendre non seulement ce qu’il ne peut pas faire, mais aussi qu’il doit apprendre de nouvelles choses.
Il pourrait ainsi grandir par lui-même et apprendre de manière autonome. Ce serait [00:52:00] extrêmement utile et vraiment cool. Je ne vois actuellement aucun outil ni framework d’IA fondé sur de grands modèles de langage qui y parvienne.
Louis-François Bouchard : Je suis parfaitement d’accord. L’auto-apprentissage sera très important, mais j’ai peur qu’il s’agisse aussi d’une faiblesse bien humaine.
L’expression typique « fake it till you make it » décrit exactement cela. Certains humains supposent qu’ils savent faire quelque chose ou prétendent le savoir alors que ce n’est pas le cas. L’IA fait simplement la même chose. Oui, c’est vrai. Je vous ai donc interrogé sur le plus grand défi auquel votre entreprise fait face aujourd’hui.
Mais donneriez-vous une réponse différente pour le plus grand défi auquel toute l’industrie de l’IA est confrontée ? Ou s’agit-il de la priorité principale pour la majorité des gens ?
Felix Tao : [00:53:00] J’y ai beaucoup réfléchi récemment, particulièrement après avoir vu la puissance de GPT quatre. Je crois que le plus grand défi consiste à contrôler son impact sur la société.
Dans son ensemble. Nous savons tous que cette IA est très puissante. La façon dont tout le monde travaille et vit sera fondamentalement transformée par cette technologie. Le résultat peut être positif, mais aussi très risqué. Si tout arrive trop rapidement, beaucoup de personnes perdront leur emploi.
Je suis tout à fait d’accord qu’à long terme, l’IA peut être très bénéfique pour la société. Mais à court terme, nous devrions probablement avancer plus prudemment. L’ensemble de la société humaine doit mieux se préparer à l’impact que cette technologie aura sur nous. Nous avons probablement besoin [00:54:00] de davantage de réglementation et de meilleurs…
…outils technologiques pour contrôler les effets négatifs de l’IA. Je crois que c’est l’un des grands éléments qui empêchent l’IA de devenir encore plus puissante, ce qui est une bonne chose. Il faudra un effort collectif de toutes les personnes impliquées dans cette vague d’IA, qu’il s’agisse de professionnels comme nous ou d’une personne ordinaire dans la rue.
Même si cette personne connaît très peu l’IA, nous devrions tous accorder davantage d’attention à cet enjeu précis.
Louis-François Bouchard : Je suis parfaitement d’accord. À long terme, comment voyez-vous l’IA évoluer au cours des cinq prochaines années ? Où en serons-nous dans cinq ans ?
Felix Tao : Cinq ans ne feront probablement pas une énorme différence.
Je crois que deux choses arriveront dans cinq ans. [00:55:00] Premièrement, la capacité de raisonnement de l’IA sera bien meilleure. Elle pourrait dépasser complètement l’humain moyen pour analyser et raisonner afin de résoudre des problèmes complexes. Deuxièmement, elle pourra traiter davantage de signaux. Aujourd’hui, les modèles traitent surtout des données textuelles et répondent également avec du texte.
À l’avenir, ils pourront absorber des données visuelles, de la voix et toutes sortes de signaux différents qui correspondent aux sens humains. Ils pourront répondre non seulement avec du texte, mais aussi par des actions et par différents moyens de transmettre l’information à l’utilisateur final.
C’est ce qui arrivera selon moi dans cinq ans. Mais si nous adoptons une perspective davantage [00:56:00] à long terme, je crois que tous les services numériques seront transformés par l’IA. Les copilotes et les agents d’IA représentent la nouvelle forme que prendront les logiciels. Chaque logiciel deviendra un agent, et chaque personne pourra exploiter une armée d’agents pour accomplir beaucoup de tâches.
Cela arrivera probablement assez bientôt, dans cinq à huit ans. Oui.
Louis-François Bouchard : Ce serait vraiment cool. Et pour la partie consacrée aux modèles de langage, nous avons vu l’immense bond de GPT trois à ChatGPT, et aussi de GPT deux à GPT trois. Mais seriez-vous d’accord pour dire que nous avons peut-être suivi la règle de Pareto ? Peu importe les pourcentages exacts, passer de GPT trois à ChatGPT a représenté [00:57:00] 20% du travail pour obtenir 80% du résultat, alors que les derniers 20% exigeront 80% du travail.
Croyez-vous donc que les progrès ralentiront comparativement au passage de GPT deux à GPT trois, puis à ChatGPT, pour la prochaine grande étape ? Ou croyez-vous que nous continuerons à faire beaucoup de progrès dans les prochaines années ?
Felix Tao : C’est une question très intéressante. Si vous examinez réellement ce qu’OpenAI a fait au cours des dernières années…
…l’entreprise essaie encore de passer à l’échelle supérieure. Elle croit toujours qu’il reste énormément de valeur à tirer de modèles encore plus grands. À mon avis, au cours des trois à cinq prochaines années, nous pouvons encore réaliser d’immenses progrès avec les grands modèles de langage eux-mêmes, les rendre plus [00:58:00] intelligents, leur permettre de traiter de plus longs contextes et les rendre généralement meilleurs et plus puissants.
Je ne crois pas que le rythme ralentira, mais je crois que les grands modèles de langage eux-mêmes possèdent certaines limites. Nous devons construire un framework autour d’eux pour libérer davantage leur puissance. De nombreuses entreprises et de nombreux chercheurs chercheront donc à les rendre plus autonomes, capables d’apprendre par eux-mêmes, de se connecter au monde extérieur, d’utiliser des outils externes et de mieux s’adapter.
Ils pourront s’adapter à mesure qu’on les utilise. Tous ces éléments représentent une autre couche d’innovations au-dessus des grands modèles de langage. En combinant les deux, [00:59:00] nous multiplions les différents facteurs d’innovation. Je vois donc le paysage complet de l’IA continuer de croître très rapidement au cours des cinq à 10 prochaines années.
Il progressera aussi vite que pendant les cinq dernières années. Oui.
Louis-François Bouchard : Peut-être même plus vite. C’est super passionnant. Je recommande d’abord à toutes les personnes qui nous écoutent de découvrir Mindverse et MindOS. C’est un très bon produit extrêmement prometteur. Tout ce qui touche les agents me passionne et me fait un peu peur, mais j’espère que tout se passera bien.
Y a-t-il quoi que ce soit que vous aimeriez partager avec le public au sujet de MindOS ou de vos projets personnels ?
Felix Tao : Oui, je peux vous parler un peu de MindOS. Le produit est toujours en bêta fermée. Nous l’expérimentons actuellement avec environ 500 à 1000 utilisateurs pilotes.
Il n’est pas encore prêt à cent pour cent, mais nous itérons [01:00:00] très rapidement. Il sera probablement prêt dans deux mois et pourra alors être utilisé par n’importe qui dans le monde. J’espère qu’il pourra beaucoup vous aider. Si la version bêta fermée de MindOS vous intéresse, rendez-vous sur Mindverse AI et demandez un accès d’essai.
Vous pourrez tester cette version encore immature et nous transmettre vos précieux commentaires. Nous vous en serons très reconnaissants.
Louis-François Bouchard : Génial. Merci beaucoup pour votre temps. Cette conversation était extrêmement utile et riche en perspectives. J’ai vraiment aimé discuter des grands modèles de langage et de Mindverse en général. Comme je l’ai dit, c’est un sujet très intéressant et exigeant.
C’est essentiellement de la recherche, mais de la recherche appliquée, ce qui est fantastique. Comme dans la recherche, le processus est extrêmement itératif et vous continuerez sans cesse à apprendre et à vous améliorer. C’est [01:01:00] vraiment cool. Merci beaucoup pour votre temps. Je l’apprécie énormément.
FAQ
Que couvre la conversation avec Felix Tao ?
Elle couvre son passage de la recherche en IA à la direction de Mindverse, ainsi que son point de vue sur les modèles spécialisés, les agents et l’AGI.
Pourquoi un modèle de domaine pourrait-il avoir davantage besoin de raisonnement que de connaissances générales ?
Une organisation peut fournir les connaissances spécialisées tout en comptant sur le modèle pour planifier et raisonner à partir de ce contexte.
Qu’est-ce qu’un module de conscience de soi pour l’IA dans cette discussion ?
Il s’agit d’un mécanisme qui reconnaît les limites des capacités et décide quand de nouvelles informations ou un nouvel apprentissage sont nécessaires.
Pourquoi est-il important qu’un modèle sache ce qu’il ne peut pas faire ?
Un système qui détecte son incertitude peut demander de l’aide plutôt que d’agir avec confiance au-delà de ses compétences.
L’entrevue affirme-t-elle que les modèles actuels ont atteint l’AGI ?
Non. Elle présente des ingrédients et des directions possibles sans décrire les systèmes actuels comme une intelligence générale de niveau humain.
Une carrière en recherche en IA vaut-elle encore la peine ?
Felix voit une valeur durable dans les travaux fondamentaux sur la façon dont les modèles raisonnent et apprennent, tout en prévenant que des résultats appliqués très étroits peuvent rapidement vieillir dans un domaine qui avance aussi vite.
Qu’est-ce que la couche de grounding décrite dans l’entrevue ?
Elle ajoute des connaissances et un entraînement propres au domaine autour d’un modèle général afin que le système puisse appliquer son raisonnement à une profession ou à un workflow précis.
Pourquoi les agents d’IA en plusieurs étapes sont-ils difficiles à vérifier ?
Le calcul détaillé du modèle demeure une boîte noire. Felix soutient qu’un produit peut tout de même exposer le flux de haut niveau, notamment les références récupérées, les appels API et les citations, afin que les utilisateurs puissent examiner ce que l’agent a fait.
Quelle est la partie la plus difficile dans la construction d’un agent spécialisé ?
La difficulté consiste à lui apprendre à combiner des outils dans un workflow de domaine contrôlé plutôt qu’à produire des actions plausibles, mais aléatoires.