Bienvenue aux auditeurs actuels et futurs! Je suis ravi de vous présenter ce nouvel épisode. Aujourd’hui, j’ai reçu nulle autre que Paige Bailey, une pionnière de la gestion de produits d’IA et une visionnaire qui a dirigé des projets transformateurs chez Google DeepMind et GitHub, en travaillant sur les projets de LLMs les plus avancés.
Pendant notre discussion, Paige partage son point de vue sur l’état actuel et le potentiel de l’IA générative. Nous parlons de PaLM 2 de Google et de ses implications pour l’avenir de l’apprentissage automatique. Paige nous donne un aperçu de la philosophie derrière la démocratisation de la technologie, afin qu’elle devienne un outil d’autonomisation et d’inclusion.
Mais cette conversation ne porte pas seulement sur l’avenir abstrait de l’IA. Elle traite de ses effets concrets actuels. Comment l’aide à la programmation basée sur l’IA transforme-t-elle le monde de l’ingénierie logicielle? Que signifie l’intégration de l’IA en éducation pour nos systèmes d’apprentissage? Paige répond à ces questions avec clarté et une perspective tournée vers l’avenir qui éveillera certainement votre curiosité et votre intérêt.
J’ai trouvé ma conversation avec Paige à la fois enrichissante et éclairante. Son expérience des capacités et des limites de l’IA, ainsi que des considérations éthiques qui l’accompagnent, offre un regard complet sur les responsabilités des personnes qui façonnent notre avenir numérique.
Alors, si la façon dont l’IA redéfinit la productivité vous intrigue, si la synergie collaborative entre les humains et les machines vous rend curieux ou si vous souhaitez simplement entendre une discussion franche sur la sécurité et l’accessibilité de l’IA, ce balado est pour vous.
Écoutez-nous pour participer à ce voyage exploratoire au cœur de l’innovation en IA. Démystifions et démocratisons l’IA ensemble!
Écoutez l’épisode sur Spotify, Apple Podcasts ou YouTube :
Transcription complète de la vidéo
Paige Bailey: [00:00:00] Il existe une excellente citation selon laquelle les technologies les plus transformatrices donnent accès à des expériences qui étaient auparavant réservées aux ultrariches. Uber vous donne l’impression d’avoir un chauffeur, n’est-ce pas? Instacart revient à avoir un acheteur personnel. Avant, seuls les très riches pouvaient profiter de ces services. Ils sont maintenant accessibles à tout le monde.
Paige Bailey: Peu importe le nombre d’accélérateurs dont vous disposez, si vous entraînez un immense modèle fondamental à l’échelle de Google ou d’OpenAI, cela vous prendra des mois. Pour le pré-entraînement, vous savez, le processus de création initiale du modèle, l’ajout de données est évidemment extrêmement important. Si vous ratez l’occasion d’ajouter vos données au mélange de pré-entraînement, vous devrez attendre des mois.
Paige Bailey: Pour avoir une autre chance, vous devrez attendre la fin de l’entraînement initial du modèle, puis poursuivre le réentraînement.
Louis-François Bouchard: Voici une entrevue avec Paige Bailey. Paige est [00:01:00] actuellement cheffe de produit principale chez Google DeepMind, où elle travaille sur PaLM 2, Gemini et beaucoup d’autres produits. Elle était aussi cheffe de produit principale chez GitHub pendant la création de Copilot. Nous avons eu une discussion très intéressante sur l’IA générative, avec beaucoup d’idées sur la façon de commencer à construire votre propre produit ou d’entrer dans le domaine.
Louis-François Bouchard: J’espère que vous aimerez cette entrevue. Si c’est le cas, n’oubliez pas de vous abonner ou de laisser une évaluation de cinq étoiles si vous l’écoutez sur une plateforme de diffusion.
Paige Bailey: Je suis vraiment heureuse d’être ici et de pouvoir discuter avec vous aujourd’hui. Je m’appelle Paige. Je dirige des produits chez Google DeepMind. Auparavant, j’étais responsable du produit PaLM 2.
Paige Bailey: Il s’agit donc du modèle annoncé récemment à Google I/O, puis intégré à de nombreux produits dans tout Alphabet. Je crois que, au dernier compte, il s’agissait d’environ 38 produits et fonctionnalités. Je travaille actuellement sur quelques sujets chez GDM. Le premier concerne nos initiatives d’IA pour le code. L’apprentissage automatique est appliqué au développement logiciel, de la génération et de la complétion de code jusqu’à [00:02:00] l’optimisation des performances et du stockage, la correction de bugs, la réparation des builds et toutes ces choses intéressantes. J’aide aussi avec Gemini, particulièrement pour obtenir des données de code et de mathématiques, puis pour nous assurer d’adopter la bonne philosophie.
Louis-François Bouchard: Vous avez mentionné la génération de code, mais vous avez aussi travaillé avec GitHub sur Copilot auparavant. J’imagine qu’il s’agit pratiquement de l’un des premiers très bons systèmes de complétion de code.
Paige Bailey: Absolument. Pendant la pandémie, j’ai passé un peu plus d’un an chez Microsoft à travailler sur beaucoup de choses.
Paige Bailey: J’ai aidé avec les GPUs et Codespaces. J’ai travaillé avec l’équipe de VS Code sur ses fonctionnalités d’apprentissage automatique, puis avec Copilot. J’ai pu réaliser des tests d’expérience utilisateur et contribuer à définir certains de ses comportements. J’ai aussi pu [00:03:00] fournir assez tôt à l’équipe du feedback sur l’expérience de développement.
Paige Bailey: Et j’utilise assurément encore Copilot. Je crois que les utilisateurs commencent à s’attendre à trouver des fonctionnalités d’apprentissage automatique dans les IDEs. Pas seulement de la complétion ni de la génération de code, mais beaucoup plus d’intelligence directement intégrée à ces environnements. Copilot était donc révolutionnaire sur ce plan et a vraiment inspiré beaucoup d’autres outils dans l’écosystème.
Louis-François Bouchard: Quelle est votre opinion sur… Prenons ChatGPT en exemple, simplement parce que c’est ce que la plupart des gens utilisent. Que pensez-vous de l’utilisation de ChatGPT comme copilot comparativement à un outil directement intégré à l’IDE? De mon côté, j’aime vraiment aller dans ChatGPT et demander, par exemple : pouvez-vous appeler la fonction qui accomplit ceci ou cela?
Louis-François Bouchard: Je peux ensuite simplement l’utiliser. Mais je dois être honnête. Je n’ai pas… j’ai essayé [00:04:00] Copilot, mais je ne l’ai pas vraiment approfondi. Je préfère surtout, je ne sais pas pourquoi, avoir un chat externe où je peux créer une sorte de prototype, puis l’essayer dans mon code. Je ne sais pas. Quelle est votre opinion là-dessus?
Louis-François Bouchard: Il s’agit donc d’un assistant de chat utilisable pour programmer, comparativement à Copilot directement dans l’IDE.
Paige Bailey: Oui, je crois que c’est une excellente question, et nous avons observé quelque chose de semblable en travaillant avec Bard. Google a intégré des fonctionnalités d’apprentissage automatique à plusieurs IDEs dans tout notre écosystème d’outils de développement, à l’interne comme à l’externe.
Paige Bailey: Vous avez peut-être vu que Colab a récemment introduit la complétion et la génération de code, puis une fonctionnalité de questions et réponses sur le code. Android Studio possède aussi Studio Bot, GCP intègre les fonctionnalités Duet AI, et plusieurs de nos [00:05:00] produits soutiennent les employés de Google à l’interne. Je conviens aussi qu’une expérience davantage axée sur le chat ressemble plus à un partenaire de réflexion qu’à un outil qui génère automatiquement du code dans le contexte de l’IDE.
Paige Bailey: J’utilise les deux, mais si j’essaie de faire du brainstorming ou que je commence quelque chose, l’expérience de chat est un peu plus accueillante. Elle ressemble au concept du rubber duck debugging, si vous le connaissez. Avoir quelqu’un, même s’il reste simplement assis là, avec qui échanger des idées est extrêmement utile.
Paige Bailey: Mais je, je fais assurément les deux. Dans la plupart des cas, lorsque les gens posent des questions dans un environnement comme ChatGPT ou Bard, ils commencent simplement leur brainstorming. Lorsqu’ils se trouvent dans un IDE, ils écrivent quelque chose et savent plus ou moins ce qu’ils veulent faire. [00:06:00] Ils entrent alors dans un état de flow.
Paige Bailey: Et il est un peu plus facile d’obtenir simplement les complétions.
Louis-François Bouchard: Alors, si vous abordez un nouveau projet ou même un nouveau langage… Par exemple, vous avez l’habitude de jouer avec des modèles d’IA, de les entraîner et de les tester, mais vous voulez maintenant les déployer et créer une application. Vous devez donc essayer JavaScript et construire une sorte de front-end.
Louis-François Bouchard: D’après ce que je comprends, vous dites que la plupart des gens iraient dans ChatGPT pour commencer cette nouvelle aventure, démarrer leur apprentissage et obtenir, en gros, toutes les commandes pip install et tout ce dont ils ont besoin pour commencer. C’est beaucoup plus utile qu’un copilot à ce stade.
Louis-François Bouchard: Mais si vous avez de l’expérience, un copilot peut devenir plus efficace ou plus utile.
Paige Bailey: Cela me semble juste. Je crois assurément que, pour commencer ou découvrir ce que vous devriez faire, une expérience plus conversationnelle comme Bard, ChatGPT ou autre [00:07:00] est très logique.
Paige Bailey: Par exemple, je n’ai absolument aucune expertise dans la création d’applications Android. Je l’ai fait quelques fois, mais je n’aurais généralement aucune idée de la façon de commencer. Je sais vaguement qu’Android Studio pourrait être nécessaire, mais je ne connais ni les bibliothèques ni les fichiers.
Paige Bailey: Je sais que Kotlin ou Java pourraient avoir de l’importance. J’irais donc probablement dans Bard et demanderais quelque chose comme : « Bonjour, je pense créer une application mobile qui accomplit ceci. Que dois-je savoir pour commencer? » Avec un peu de chance, Bard répondrait quelque chose comme : « Oh, c’est génial que vous construisiez une application mobile. Voici… »
Paige Bailey: les éléments qui devraient vous intéresser. Il vous dirait aussi de probablement travailler dans un IDE comme Android Studio, et je pourrais alors me lancer. C’est semblable pour le développement front-end. Je n’ai aucune expertise dans ce domaine. Je peux écrire du code back-end, mais pas du code [00:08:00] front-end.
Paige Bailey: Avoir quelqu’un qui me dirige doucement dans la bonne direction, qui m’explique les frameworks, les bibliothèques ou les langages importants, est donc extrêmement, extrêmement utile.
Louis-François Bouchard: J’utilise beaucoup ChatGPT pour programmer dans de nouveaux langages que je ne connais pas, comme JavaScript, parce que j’ai de bonnes bases de programmation en C, C++, Python, etc.
Louis-François Bouchard: Je comprends donc ce que je dois accomplir. Je ne connais simplement pas les fonctions ni la syntaxe exacte. Il m’est donc facile de profiter de ChatGPT, mais j’ai l’impression que cela peut être beaucoup plus difficile pour une personne entièrement nouvelle dans le domaine qui ne connaît rien à la programmation. Ma principale préoccupation vient du fait que je sais à quoi le code est censé ressembler en général et ce qu’il doit accomplir.
Louis-François Bouchard: Je peux donc détecter qu’une réponse semble être une hallucination ou contient une erreur. Je comprends et je sais quoi modifier ou changer rapidement, ce qui me rend extrêmement efficace avec l’outil. Mais si vous êtes complètement débutant et [00:09:00] ne connaissez rien à la programmation ni aux tâches précises pour lesquelles vous utilisez ChatGPT, il pourrait ne pas vous aider du tout, ou même vous causer des problèmes.
Louis-François Bouchard: Par exemple, si vous déployez un site Web sans le sécuriser suffisamment ou si, peu importe, vous suivez aveuglément ce que vous dit le modèle de langage. Ma question est donc : comment essayez-vous de résoudre cela? Comment gérez-vous ces hallucinations ou ces éléments que les débutants ne peuvent pas vraiment connaître et pour lesquels ils suivent simplement les ordres du modèle de langage?
Louis-François Bouchard: Je sais que nous avons par exemple construit des approches basées sur le RAG, où vous possédez une mémoire et essayez de réduire le risque d’hallucination avec des mémoires externes et des connaissances que vous contrôlez. Mais comment peut-on accomplir cela? Comment essayez-vous de le faire dans les modèles de langage que vous créez?
Paige Bailey: C’est une excellente question.
Paige Bailey: Je crois que beaucoup de gens expérimentent avec ce genre de solutions [00:10:00] dans les produits construits autour des modèles de langage. Dans un IDE, vous pourriez imaginer une fonctionnalité intégrée à Copilot ou à une extension VS Code qui, pendant que vous écrivez du code, effectue peut-être une deuxième passe pour repérer des failles de sécurité ou des structures de données qui pourraient être réimplémentées plus efficacement. Ces éléments ne font pas nécessairement partie du premier output du modèle. Il faudrait plutôt l’appeler récursivement pour lui demander comment améliorer son résultat selon les motifs précis qu’il peut observer, puis lui permettre de se réparer lui-même. Je m’attends donc à voir davantage de fonctionnalités de ce genre.
Paige Bailey: Je crois aussi qu’il existe d’excellents outils qui utilisent le feedback de l’exécution, de [00:11:00] l’interpréteur ou du compilateur. Lorsque le modèle génère du code, vous pouvez ainsi vérifier si la syntaxe est valide, si le code utilise les APIs les plus récentes, puis examiner la performance et la sécurité.
Paige Bailey: Avec le temps, le modèle s’améliore évidemment parce que vous implémentez ces boucles de feedback. Mais, de façon générale, tout le monde doit encore y porter énormément attention. Une chose qui m’empêche parfois un peu de dormir, c’est qu’il existe aujourd’hui tellement, tellement de personnes qui…
Paige Bailey: suivent des cours de physique 101 ou de calcul 101. Vous savez, la première réaction de mes nièces et de mes neveux est : d’accord, je vais simplement copier et coller ceci dans ChatGPT ou dans Bard, puis récupérer les réponses. Mais cela ne vous enseigne pas vraiment. Vous savez, la pédagogie n’est pas là.
Paige Bailey: Hum-hum. Cela ne vous enseigne pas vraiment, étape par étape, comment aborder ce problème, le résoudre et réfléchir [00:12:00] de façon empirique. Je crois donc que nous devons nous concentrer sur l’aide à la compréhension des concepts, pour que les gens apprennent les fondements de la programmation, des mathématiques, de la physique, de la chimie ou de n’importe quelle autre matière.
Paige Bailey: Oui. Les modèles génératifs deviennent alors un… une sorte d’accélérateur, un outil qui aide les gens à devenir plus efficaces, mais pas simplement un outil qui fournit une réponse acceptée aveuglément.
Louis-François Bouchard: Oui, ce que j’imagine ressemble à Khanmigo, je crois que c’est son nom, ou à d’autres initiatives. Je pense que CS50 travaille aussi sur un modèle de langage.
Louis-François Bouchard: En gros, si vous ne pouvez pas empêcher les étudiants d’utiliser de grands modèles de langage, autant leur en donner un qui est bon, mais ajusté de façon à ne pas fournir la réponse. Il vous guide plutôt à travers la compréhension jusqu’à ce que vous [00:13:00] trouviez vous-même la réponse. Oui. Je me demande, et je ne sais pas si vous pouvez en parler, mais travaillez-vous sur d’autres cas d’utilisation précis des grands modèles de langage comme celui-ci, ou essayez-vous de construire un modèle fondamental sur lequel…
Louis-François Bouchard: d’autres personnes pourront construire?
Paige Bailey: Je ne fais pas partie de nos équipes d’éducation. Ces sujets relèveraient donc directement de leur mandat. Mais je dirai que le concept d’une sorte de bébé modèle ajusté de façon à devoir être enseigné par l’utilisateur avec lequel il interagit pour apprendre des concepts généraux…
Paige Bailey: Vous pourriez imaginer un modèle qui n’est pas encore très bon comme partenaire pour le code [00:14:00] et qui apprend avec l’utilisateur. Pendant que celui-ci apprend des concepts d’informatique, le modèle s’améliore peut-être avec le temps parce qu’il observe de plus en plus d’exemples de code exact et comprend les conventions que l’utilisateur souhaite suivre.
Paige Bailey: Mais je ne travaille pas personnellement sur ce sujet. Je crois, je crois qu’il s’agit d’un concept fascinant. Si CS50 le met en œuvre, tous les enseignants se réjouiront, euh, parce que tout le monde essaie de déterminer comment concevoir son programme en sachant que les étudiants utiliseront l’IA générative. Ils doivent l’avoir dans leur boîte à outils, mais ne pas trop en dépendre. Ce sera extrêmement important.
Louis-François Bouchard: Oui. C’est encore plus important maintenant que, depuis la COVID, tout se fait davantage à distance. Il y a beaucoup plus de questionnaires en ligne et beaucoup de choses que vous pouvez [00:15:00] essentiellement faire avec ChatGPT. Les universités et les plateformes éducatives actuelles ont donc assurément beaucoup de travail. Mais oui, je voulais revenir aux hallucinations, parce que je les trouve vraiment intéressantes et très importantes pour les modèles de langage.
Louis-François Bouchard: Je me demande si vous avez une hypothèse ou, puisque vous êtes plongée dans ce domaine, quelle est votre opinion sur la raison de ces hallucinations. Pourquoi le modèle doit-il répondre plutôt que de simplement dire qu’il ne sait pas, alors que nous, les humains, pouvons assurément savoir que nous ne savons pas?
Paige Bailey: Eh bien, vous pouvez implémenter des techniques, encore une fois, pas nécessairement dans le modèle lui-même, mais dans le produit construit autour de ces grands modèles de langage.
Paige Bailey: Vous avez mentionné plus tôt la recherche d’information, qui permet [00:16:00] d’ancrer l’output du modèle pour le rendre plus exact et moins sujet aux hallucinations. Par exemple, vous posez à Bard une question comme : d’accord, combien de types de fromages sont fabriqués à Palo Alto?
Paige Bailey: Ou : y a-t-il eu un tremblement de terre à San Francisco? Le modèle peut alors chercher dans un moteur de recherche, récupérer les 10 meilleurs résultats et les utiliser dans son prompt pour générer une meilleure réponse. Celle-ci est plus susceptible de s’appuyer sur des faits et moins susceptible de contenir des hallucinations.
Paige Bailey: Une chose qui m’intéresse énormément est la capacité des modèles à remarquer leur faible confiance envers une réponse, puis à poser des questions de clarification ou de suivi pour obtenir de l’information supplémentaire. Je pourrais par exemple demander : [00:17:00] y a-t-il eu un tremblement de terre?
Paige Bailey: Le modèle pourrait répondre : « Oh, eh bien, où vous trouvez-vous? » Il pourrait aussi consulter ma géolocalisation s’il a accès à ces données et l’utiliser pour ancrer sa réponse. Mais encore une fois, cette logique ne se trouve pas dans le modèle lui-même. Aujourd’hui, elle est assemblée sous forme d’expérience utilisateur dans le produit qui entoure le modèle.
Louis-François Bouchard: Croyez-vous que cela doive… nécessairement se trouver à l’extérieur du modèle? Pourquoi ne pouvons-nous pas rendre le modèle plus… pas plus confiant, mais capable de savoir lorsqu’il ne sait pas? Pourquoi les hallucinations représentent-elles un problème? Voilà toute ma question. Pourquoi font-elles partie du modèle et nous obligent-elles essentiellement à construire des éléments autour de lui? Pourquoi ne pouvons-nous pas les corriger de l’intérieur?
Paige Bailey: Eh bien, c’est l’état du [00:18:00] monde aujourd’hui, n’est-ce pas? Ce ne sera peut-être plus le cas à l’avenir, mais vous pouvez aussi envisager des approches d’IA constitutionnelle. Anthropic a publié des articles scientifiques très intéressants sur le sujet, qui consistent en quelque sorte à entraîner le modèle.
Paige Bailey: Vous lui dites : réponds si tu possèdes une grande confiance. Sinon, cherche de l’information supplémentaire ou dis que tu ne sais pas.
Louis-François Bouchard: Oui. Il s’agit donc essentiellement de s’éloigner de l’entraînement uniquement supervisé ou autosupervisé et du fine-tuning, puis de chercher d’autres façons de poursuivre l’entraînement du modèle pour qu’il comprenne mieux ses propres réponses.
Paige Bailey: Alors, alors, l’IA constitutionnelle, en avez-vous déjà entendu parler?
Louis-François Bouchard: Oui, il s’agit essentiellement du RLAIF, j’imagine. Donc, eh bien, de l’apprentissage par renforcement avec du feedback qui ne vient pas des humains.
Paige Bailey: Eh bien, alors, alors, cela consiste aussi [00:19:00] à prompter soigneusement le modèle en lui donnant des directives très claires sur la façon de répondre, euh, et sur les sujets auxquels il ne doit pas répondre.
Paige Bailey: Et, et donc je crois que ce sont des techniques très, très intéressantes, encore une fois à l’extérieur de mon domaine d’expérience. Mais aujourd’hui, beaucoup d’approches envers les outputs des modèles sont intégrées au produit qui les entoure.
Louis-François Bouchard: Cela a-t-il un lien avec, je change un peu de sujet, mais je me demande si cela a un lien avec la taille du modèle. Pour simplifier ma question : quelle est l’importance de la taille d’un modèle de langage? Chez Google, essayez-vous de le rendre aussi grand que possible? Ou les petits modèles entourés d’un meilleur produit présentent-ils du potentiel? Que pensez-vous par exemple des petits modèles de 7B comparativement [00:20:00] aux modèles beaucoup plus grands?
Paige Bailey: C’est une excellente question. Pour PaLM 2, par exemple, nous avons expérimenté avec beaucoup de tailles de modèles. Des modèles extrêmement petits, assez pour tenir sur un appareil mobile, jusqu’aux modèles beaucoup plus grands, avec tout ce qui se trouve entre les deux. Je crois que nous avons rendu publiques les tailles XS, S, M et XL, donc plusieurs tailles différentes.
Paige Bailey: Chacune apporte des avantages importants, mais aussi des inconvénients, n’est-ce pas? Les grands modèles sont évidemment beaucoup plus difficiles à servir. Vous devez penser à l’inférence distribuée. Ils prennent beaucoup plus de temps à entraîner, exigent beaucoup, beaucoup plus de données, puis consomment davantage d’énergie.
Paige Bailey: N’est-ce pas? Ces modèles peuvent être beaucoup plus puissants, mais il devient aussi beaucoup moins réaliste de les distribuer à tous vos utilisateurs dans le monde. Les petits [00:21:00] modèles peuvent vraiment dépasser les attentes, particulièrement lorsque vous leur appliquez un fine-tuning propre au domaine.
Paige Bailey: J’ai été très heureuse de voir les modèles récemment publiés par Facebook et Mistral, puis évidemment l’excellent travail de Hugging Face, qui construit par-dessus les modèles fondamentaux partagés. Vous pouvez obtenir des performances vraiment impressionnantes.
Paige Bailey: Si vous personnalisez et ajustez les modèles. Lorsque nous déployons de grands modèles de langage partout dans Google, dans Workspace, Search, Bard et Duet AI, nous ne pouvons pas vraiment optimiser le système pour servir le plus grand modèle à chaque utilisateur.
Paige Bailey: Il n’existe tout simplement pas assez de GPUs dans le monde entier pour y arriver. Pour gagner énormément en efficacité, nous devons donc expérimenter avec de plus petits modèles personnalisés pour des tâches propres à un domaine, puis les déployer [00:22:00] de façon beaucoup plus efficace. Ils utilisent ainsi un seul accélérateur ou quelques accélérateurs plutôt qu’une approche beaucoup plus vaste avec de l’inférence distribuée.
Louis-François Bouchard: Si vous utilisez de plus petits modèles comme ceux-ci, avez-vous besoin de meilleurs produits autour d’eux? Par exemple, Bing Chat ou ChatGPT ne sont que des chats. Vous pouvez leur poser n’importe quelle question et ils refusent essentiellement de répondre si elle est dangereuse. Ils sont autonomes, j’imagine.
Louis-François Bouchard: Mais si vous utilisez un modèle beaucoup plus petit que vous pouvez ajuster et rendre beaucoup plus performant pour votre application précise, j’imagine que son déploiement présente certains risques. Il est probablement plus vulnérable au piratage des prompts et à d’autres formes d’injection, comme les injections de prompts.
Louis-François Bouchard: Alors, qu’est-ce qui est [00:23:00] nécessaire autour du produit pour rendre les petits modèles assez compétents et sécuritaires pour être déployés en ligne?
Paige Bailey: Si je peux reformuler un peu votre question, vous demandez : beaucoup de travail est nécessaire pour construire une expérience comme Bard, ChatGPT ou Perplexity.
Paige Bailey: Que faudrait-il pour obtenir une expérience semblable, avec toutes les vérifications de sécurité, les fonctionnalités d’IA responsable et une inférence efficace, si vous preniez simplement un modèle open source prêt à l’emploi? C’est bien cela?
Louis-François Bouchard: Oui, exactement. Beaucoup mieux formulé que moi.
Paige Bailey: Non, non, non, non, non. C’est une excellente question.
Paige Bailey: Et je crois, vous savez, qu’une quantité absolument énorme de travail est nécessaire pour construire une expérience comme ChatGPT, Bard ou n’importe laquelle de ces autres fonctionnalités. Il y a d’abord tout le fine-tuning propre à un domaine que vous pouvez effectuer sur le modèle. Par exemple, dans le contexte de Copilot…
Paige Bailey: Vous pouvez [00:24:00] l’entraîner ou poursuivre son pré-entraînement sur du code source supplémentaire. Vous pouvez utiliser des techniques de fill-in-the-middle. Vous pouvez expérimenter avec le RL directement dans l’IDE. Pour les fonctionnalités de sécurité, vous pourriez décider : d’accord, nous n’allons pas générer seulement du contenu textuel.
Paige Bailey: Nous générerons uniquement du code, ou nous guiderons le modèle à l’aide d’une série d’heuristiques ou d’approches d’IA constitutionnelle pour l’empêcher de traiter certains concepts ou certaines questions. Et cela évolue constamment, n’est-ce pas? Je crois que tout le monde se rappelle la sortie de ChatGPT il y a presque un an.
Paige Bailey: Pas tout à fait un an, mais presque. On avait l’impression que chaque jour, une nouvelle alerte de sécurité était capturée et publiée sur les réseaux sociaux. Avec le temps, l’équipe a pu toutes les repérer et les ajouter à une liste d’heuristiques ou simplement dire au [00:25:00] modèle : « Hé, ne parle pas de ceci. »
Paige Bailey: Ce processus a évolué avec le temps. Les techniques de recherche d’information et la capacité d’utiliser des moteurs de recherche n’existaient pas au premier jour, mais elles ont toutes été ajoutées et ont grandement amélioré l’expérience utilisateur. Même chose pour les plugins et les prompts personnalisés, qui permettent de créer des profils personnels. Bard a récemment donné aux utilisateurs la possibilité d’importer leurs fichiers Drive, leur Gmail, leurs Docs ou leurs Sheets. Tous ces éléments rendent l’expérience utilisateur de Bard ou ChatGPT plus magique. Et tout cela… vous savez, les modèles semblent de plus en plus devenir des commodités. Le modèle open source lui-même compte donc moins que votre connaissance des utilisateurs et votre capacité à construire des expériences nuancées et distinctes autour de ce qu’ils [00:26:00] essaient d’accomplir.
Paige Bailey: En bref, c’est énormément de travail, et nous n’avons même pas parlé du service. Si vous obtenez un modèle, comment le servez-vous efficacement? À grande échelle? De façon fiable? Comment construisez-vous une logique qui dirige une question utilisateur très difficile, peut-être technique, vers un modèle comportant plus de paramètres?
Paige Bailey: Disons de l’ordre de quelques dizaines. Si l’utilisateur demande plutôt : « Salut, quoi de neuf? Comment préparer des tacos? », vous pouvez peut-être le diriger vers la version 7B. Je crois donc que tout ce travail de produit est souvent sous-estimé. Mais voilà pourquoi les entreprises ont encore besoin d’ingénieurs et de personnes qui se préoccupent de l’expérience utilisateur.
Paige Bailey: Parce que c’est ce qui donne envie aux gens d’utiliser le produit et permet de créer des boucles de données qui l’améliorent continuellement avec le temps.
Louis-François Bouchard: Et j’imagine que l’optimisation de ces éléments représente aussi [00:27:00], je suppose, votre principal rôle comme gestionnaire de produit?
Paige Bailey: Alors, alors, je suis actuellement gestionnaire de produit dans une équipe de recherche, ce qui est un peu différent.
Paige Bailey: Je suis donc gestionnaire de produit pour un modèle. C’est d’ailleurs une excellente question. Mais les gestionnaires de produit pour les modèles travaillent un peu différemment. Par exemple, parmi les tâches que je placerais dans ma liste, Alphabet possède énormément de PAs, soit plusieurs domaines de produits intégrés à l’entreprise.
Paige Bailey: Un domaine de produit peut par exemple être Android, les publicités ou l’équipe de l’Assistant. Il est très, très important de pouvoir interagir avec toutes ces équipes, de comprendre leurs nombreux cas d’utilisation, puis de les prioriser pour ajouter les bonnes données de pré-entraînement et les évaluations de chaque cas, tout en déterminant quels usages comptent le plus du point de vue des revenus [00:28:00] ou peut-être de l’expérience utilisateur.
Paige Bailey: Disons par exemple qu’un PA d’Alphabet accorde énormément d’importance à la génération de SQL à partir du langage naturel ou à la migration de code d’un dialecte SQL vers un autre. Je dois m’assurer que nous possédons des données d’entraînement qui soutiennent ces cas d’utilisation et des évaluations qui nous indiquent la performance actuelle du modèle.
Paige Bailey: Il faut aussi intégrer des exemples semblables à notre jeu de données d’instruction tuning, afin que le modèle sache comment répondre à la question d’un utilisateur. Toutes ces activités qui permettent de comprendre ce que les gens pourraient vouloir accomplir avec les modèles font partie du rôle de PM en recherche.
Paige Bailey: Merci. Pour les PMs qui travaillent dans un PA, disons un PM de Workspace qui intègre de grands modèles de langage [00:29:00] à Sheets, les réflexions seront différentes. Vous pourriez vous demander comment ajouter une télémétrie efficace pour saisir les bons signaux des utilisateurs.
Paige Bailey: Comment créer des suggestions utiles ou des prompts spécialisés pour que les utilisateurs obtiennent de meilleures expériences lorsqu’ils posent des questions au modèle dans leur environnement Sheets? Ce genre de choses.
Louis-François Bouchard: J’interromps rapidement cet épisode pour vous rappeler que, si vous l’aimez, n’oubliez pas de vous abonner ou de laisser une évaluation de cinq étoiles.
Louis-François Bouchard: Si vous écoutez sur une plateforme de diffusion, j’ai aussi une infolettre appelée What’s AI, liée ci-dessous, pour rester à jour sur mes projets et découvrir beaucoup d’actualités sur l’IA qui y sont clairement expliquées.
Louis-François Bouchard: Puisque vous travaillez dans un environnement de recherche avec tout ce nouveau… ce sous-domaine entièrement nouveau de l’IA générative, comment pouvez-vous être gestionnaire de produit, gérer [00:30:00] les échéances et définir ce que vous devez accomplir lorsque tout est si nouveau et que l’innovation est constante? J’imagine que vous devez vous aussi innover. Votre rôle doit être extrêmement difficile ou exiger énormément de créativité. À quoi ressemble-t-il?
Paige Bailey: Oh, je me sens très privilégiée de pouvoir travailler chaque jour avec autant d’ingénieurs, de chercheurs et d’autres personnes en produit qui sont incroyablement intelligents.
Paige Bailey: C’est donc vraiment un travail d’équipe, et le processus ressemble à un tapis roulant. Vous savez, l’entraînement d’un grand modèle fondamental prend des mois. Peu importe le nombre d’accélérateurs dont vous disposez, si vous entraînez un immense modèle fondamental à l’échelle de Google ou d’OpenAI, cela prendra des mois.
Paige Bailey: Les parties de fine-tuning, donc les modifications par [00:31:00] instruction tuning, peuvent avoir lieu toutes les deux ou trois semaines. Toutes les quelques semaines, vous obtenez un nouveau groupe d’évaluations et un nouveau mélange d’instruction tuning. Ces étapes suivent une cadence assez fréquente. Pour le pré-entraînement, soit le processus de création initiale du modèle, il est évidemment extrêmement important d’ajouter les données.
Paige Bailey: Si vous ratez l’occasion d’ajouter vos données au mélange de pré-entraînement, vous devrez attendre des mois avant votre prochaine chance. Ou vous devrez attendre la fin du modèle initial et poursuivre le pré-entraînement. Les échéances sont un peu plus flexibles pour les jeux d’instruction tuning ou l’ajout d’évaluations.
Paige Bailey: Si vous ratez la version 1 point quelque chose, vous pourrez au moins entrer dans la suivante quelques semaines plus tard. Mais honnêtement, depuis décembre, j’ai l’impression de courir sur un tapis roulant. C’est très stimulant et j’ai le sentiment d’avoir énormément appris. Mais c’est aussi, [00:32:00] parfois, un peu épuisant.
Paige Bailey: Oui. Ce qui me passionne particulièrement, toutefois, c’est que nous innovons assurément dans la recherche, euh, mais que l’innovation d’OpenAI, de DeepMind, d’Anthropic et de toutes les équipes qui construisent des modèles fondamentaux a inspiré les entreprises à intégrer des équipes de recherche.
Paige Bailey: L’Assistant possède donc une équipe de modélisation, des gens qui créent des fonctionnalités d’instruction tuning et apprennent à déployer et maintenir efficacement de grands modèles de langage dans leur unité d’affaires. C’est extraordinaire, n’est-ce pas? L’une de mes histoires préférées concerne Scott Guthrie lorsqu’il est arrivé chez Microsoft.
Paige Bailey: Il a dit avoir rejoint l’équipe Internet parce qu’Internet venait de sortir. Tout le monde en était très enthousiaste et savait que ce serait [00:33:00] transformateur. Ils ont donc créé une unité d’affaires pour ce domaine. Après un certain temps, tout le monde a compris qu’Internet n’était pas une unité d’affaires.
Paige Bailey: Il allait simplement de soi que tout le monde devait l’apprendre. Je crois donc que nous nous trouvons aujourd’hui à un point où l’apprentissage automatique semblait auparavant très lent à intégrer aux produits, tandis que chaque équipe comprend maintenant que l’IA générative est arrivée et qu’elle doit s’y intéresser autant qu’au soutien mobile ou à Internet dans son entreprise.
Louis-François Bouchard: Croyez-vous que les gens doivent encore apprendre le fonctionnement de ces modèles, puis la façon de les entraîner et de les tester? Pour les startups ou les nouvelles entreprises qui ne possèdent pas un budget illimité, vont-elles simplement embaucher des développeurs, ou un seul développeur, utiliser des APIs et essayer de construire des produits autour d’elles? [00:34:00] Reste-t-il pertinent de posséder une équipe de recherche et une personne capable d’entraîner, de tester et de mieux comprendre ces modèles?
Paige Bailey: Je crois qu’il peut s’agir d’un processus évolutif, n’est-ce pas? Une entreprise qui commence tout juste avec l’IA générative devrait évidemment expérimenter avec les APIs et développer une intuition sur le fonctionnement des modèles.
Paige Bailey: Elle essaie des choses, observe ce qui fonctionne et ce qui échoue, puis construit peut-être un ensemble d’évaluations pour comprendre la performance des modèles dans ses cas d’utilisation. Avec le temps, pendant qu’elle préfère certaines APIs, les expériences d’IA générative intégrées comme fonctionnalités font peut-être soudainement augmenter le nombre d’utilisateurs et de requêtes, puis les factures d’OpenAI, Azure, Google ou d’un autre fournisseur.
Paige Bailey: Les coûts commencent à grimper. L’entreprise comprend alors que l’IA générative est maintenant au cœur de ses activités et qu’elle devrait peut-être réfléchir [00:35:00] à des modèles propriétaires, intégrer des modèles open source, les entraîner pour améliorer encore les cas d’utilisation importants et construire une boucle de données interne plutôt que d’envoyer des requêtes à l’extérieur et de récupérer les réponses.
Paige Bailey: Elle peut aussi intégrer un modèle sur des appareils ou sous forme d’extension. C’est correct. Nous sommes encore assez tôt, le déploiement à grande échelle de tout cela est encore si nouveau, que les gens expérimenteront régulièrement avec les APIs, n’est-ce pas?
Paige Bailey: Est-ce assez important pour que je possède une équipe interne? Quels sont aussi les compromis ou les avantages de chaque choix?
Louis-François Bouchard: J’ai vu beaucoup d’articles scientifiques récents utiliser GPT-4 pour créer des jeux de données servant à ajuster de plus petits modèles. Croyez-vous qu’il s’agit d’une bonne voie ou est-ce risqué, par exemple en biaisant le modèle?
Paige Bailey: Eh bien, cela va assurément [00:36:00] à l’encontre des conditions d’utilisation si les startups veulent utiliser ce modèle commercialement, n’est-ce pas? Du moins, si je me rappelle bien, l’une des directives dans les conditions d’OpenAI interdit de générer des données pour le fine-tuning, puis de commercialiser le modèle qui en découle, ce qui est logique.
Paige Bailey: Mais je crois que nous constatons toujours que les démonstrations humaines de haute qualité améliorent vraiment la performance des modèles. J’encouragerais donc les gens qui ne l’ont pas encore fait à l’expérimenter. Même environ 500 exemples, parfois moins, peuvent suffire.
Paige Bailey: Ils peuvent vraiment aider le modèle à se concentrer sur les tâches précises que vous voulez lui faire accomplir pour vos clients.
Louis-François Bouchard: Ces 500 exemples s’appliqueraient-ils à un petit ou à un grand modèle? [00:37:00] Est-ce valable pour n’importe lequel d’entre eux pour le fine-tuning?
Paige Bailey: Honnêtement, n’importe lequel. Vous pouvez par exemple observer que même les plus petits modèles Llama deviennent beaucoup, beaucoup plus performants dans tous les benchmarks liés au code lorsque vous poursuivez leur pré-entraînement sur du code ou leur fournissez énormément d’exemples de code. L’un de mes espoirs est que tout ce travail sur les grands modèles de langage et les modèles génératifs pousse les gens à accorder beaucoup, beaucoup plus d’importance aux jeux de données de haute qualité. Aujourd’hui, le calcul les obsède. Je conviens qu’il est important pour les grands modèles fondamentaux, mais la qualité des jeux de données utilisés pour le pré-entraînement et l’instruction tuning devient de plus en plus critique.
Louis-François Bouchard: Je veux rendre le tout un peu plus concret et appliqué. Si une personne souhaite construire une application plus précise basée sur un chatbot ou simplement sur des questions et [00:38:00] réponses, par exemple, mais limitée à un domaine ou à un sous-domaine, le fine-tuning serait pertinent. Si nous parlons d’une seule personne ou d’une petite startup, comment lui conseilleriez-vous de commencer et d’avancer?
Louis-François Bouchard: Pour finir avec un produit, quelles seraient les étapes idéales? Essayer une API, puis ajuster quel modèle? Utiliser Mistral ou Llama 2? Quelles seraient vos meilleures recommandations pour commencer à construire une application comme celle-ci?
Paige Bailey: Je suis très biaisée, puisque les membres de l’équipe de Mistral viennent de Meta et de DeepMind. Ce sont des gens extrêmement talentueux.
Paige Bailey: L’équipe de Hugging Face est aussi extraordinaire. Un notebook Colab a récemment été publié pour montrer comment effectuer le fine-tuning dans Colab [00:39:00] avec le modèle Mistral 7B. Oui, je l’ai vu. Exactement. Il s’agit d’une excellente façon d’apprendre et de développer son intuition. Je vais vous envoyer le lien vers un exemple que j’ai vu.
Paige Bailey: Mais… développez simplement votre intuition, même avec un seul GPU. Voici l’apparence du modèle avant le fine-tuning. Voici son apparence lorsque je prends le temps de sélectionner, vous savez, un millier d’exemples. Et voici comment je le testerais et l’évaluerais selon ces réponses.
Louis-François Bouchard: Oui, c’est logique. C’est assurément logique. C’est d’ailleurs ce que je fais dans un projet. Dans la version en ligne, nous utilisons encore une API avec GPT-3.5 et des prompts, mais nous expérimentons maintenant avec de plus petits modèles et sommes en [00:40:00] train de les ajuster. Nous cherchons à obtenir quelque chose de beaucoup moins cher avec une performance semblable. C’est assurément possible, particulièrement si nous l’entourons, comme vous l’avez dit, d’excellents produits, notamment le RAG et d’autres éléments de l’expérience utilisateur. Exactement. Oui. Alors…
Paige Bailey: J’ai aussi vu récemment un très, très bon ami de Hugging Face publier Zephyr Beta, si vous en avez entendu parler, euh, oui. C’est une approche semblable qui permet d’obtenir une performance supérieure à GPT-3.5 avec un modèle beaucoup, beaucoup plus petit et beaucoup de soin accordé aux données de fine-tuning. Je trouve cela extrêmement passionnant, n’est-ce pas? C’est [00:41:00] efficace.
Paige Bailey: Cela donne aussi accès à ce potentiel aux personnes qui se trouvent à l’extérieur des grandes entreprises créant les modèles fondamentaux, mais qui veulent investir du temps pour comprendre les problèmes de leurs utilisateurs et créer des jeux de données extrêmement bien définis. Les plateformes de jeux de données comme celle de Hugging Face deviendront, selon moi, encore plus importantes avec le temps, lorsque les gens comprendront qu’elles représentent de véritables trésors pour le fine-tuning.
Louis-François Bouchard: Je trouve cela fascinant. Lorsque j’ai commencé à entrer dans le domaine et à en apprendre davantage sur l’IA, il n’existait pas encore de grands modèles de langage ni de grands modèles accessibles en ligne. Je me rappelle que mes professeurs ou des personnes dans les médias disaient que les grandes entreprises utiliseraient l’IA pour contrôler encore [00:42:00] davantage les gens et qu’elle ne ferait qu’accroître l’écart entre les riches et les pauvres.
Louis-François Bouchard: Plus j’observe les avancées et les actualités, plus l’IA semble plutôt tout démocratiser. Elle ne rend pas seulement l’IA plus accessible. Dans mon cas, par exemple, elle rend aussi l’écriture en anglais plus accessible, alors que je suis francophone et qu’il m’est un peu plus difficile d’écrire dans cette langue ou d’accomplir certaines autres choses. ChatGPT et d’autres modèles vous aident vraiment.
Louis-François Bouchard: L’IA démocratise vraiment beaucoup de domaines et permet à tout le monde d’accomplir beaucoup de choses auparavant impossibles. C’est vraiment drôle de constater qu’elle produit complètement l’inverse de ce que les gens prévoyaient avant son arrivée.
Paige Bailey: Je suis d’accord. C’est aussi l’un de mes plus grands espoirs pour les modèles génératifs.
Paige Bailey: Je crois que plusieurs d’entre nous sont enchantés par le concept de The Diamond Age et d’un manuel qui ressemble à un enseignant ou à un tuteur personnalisé précisément pour vous et pour les choses que vous apprenez et vivez chaque jour. Une excellente citation [00:43:00] récente affirme que les technologies les plus transformatrices donnent accès à des expériences auparavant réservées aux ultrariches.
Paige Bailey: Uber vous donne donc l’impression d’avoir un chauffeur, n’est-ce pas? Instacart revient à avoir un acheteur personnel. C’est aussi le cas des services qui choisissent automatiquement vos vêtements, comme un styliste personnel. Auparavant, seuls les très riches pouvaient profiter de ces services. Ils sont maintenant accessibles à tout le monde.
Paige Bailey: J’ai l’impression que nous arrivons à un point où l’on peut avoir des tuteurs personnalisés, quelqu’un qui vous accompagne dans l’apprentissage d’une nouvelle langue, qui vous prépare [00:44:00] à un examen ou à l’université, ou encore un éditeur pour votre livre si vous voulez écrire quelque chose.
Paige Bailey: Toutes ces expériences auraient auparavant coûté des centaines de dollars. Elles pourraient maintenant se trouver dans votre poche, et c’est vraiment magique si nous considérons l’IA comme un outil d’enseignement plutôt que comme un simple moteur de réponses. Je crois qu’il s’agit d’une très belle façon de réfléchir aux possibilités des modèles génératifs.
Louis-François Bouchard: Selon vous, qu’arrivera-t-il aux rôles dans les entreprises ou, plus généralement, à notre travail? En ce moment, par exemple, je travaille sur ma startup et j’ai l’impression que les modèles génératifs me permettent pratiquement de tout accomplir. Je crée le front-end et fais des choses que je n’aurais jamais imaginé pouvoir accomplir auparavant.
Louis-François Bouchard: Ce n’est [00:45:00] pas facile, mais je suis simplement dans cet état d’esprit où je crois pouvoir tout accomplir grâce à cet accès. Bien sûr, nous pouvions déjà chercher sur Google, aller dans Stack Overflow, trouver une question et une réponse semblables, puis essayer de les adapter, mais cela demandait beaucoup plus de travail.
Louis-François Bouchard: Parfois, vous vous découragiez et abandonniez. Mais j’ai l’impression que ces nouveaux modèles, ce nouvel espace de l’IA générative, vous permettent de presque tout accomplir ou au moins de tout apprendre. Exactement. Alors, que croyez-vous qu’il arrivera, je sais que la question va très loin, à la formation des gens, à l’université et à l’entrée dans un nouveau rôle?
Louis-François Bouchard: Avez-vous encore besoin de diplômes ou devez-vous encore vraiment savoir comment accomplir quelque chose pour le faire? [00:46:00] Croyez-vous que beaucoup de choses changeront?
Paige Bailey: Oui, c’est une excellente question et je ne crois pas que quiconque possède encore les réponses. Mais, vous savez, j’ai tendance à être optimiste, ou du moins j’essaie de l’être. Les universités représentent aujourd’hui une sorte d’expérience de tour d’ivoire, n’est-ce pas? Certaines personnes entrent dans les universités de l’Ivy League, d’autres non. Certaines entrent dans les IITs en Inde et d’autres non. Cela devient une sorte de titre dans votre parcours qui détermine si vous aurez accès à d’autres expériences à long terme.
Paige Bailey: Je déteste cela. Je trouve que cela crée énormément de barrières et minimise la créativité, l’expérience et les capacités de personnes aussi intelligentes et motivées, peut-être même plus motivées ou plus intelligentes, mais qui n’ont simplement pas fréquenté [00:47:00] la bonne université.
Paige Bailey: J’aimerais donc beaucoup que les modèles génératifs démocratisent aussi l’éducation. L’université pourrait devenir moins importante, peut-être même pas importante du tout, et se concentrer davantage sur la recherche. Pendant votre apprentissage, la vraie question deviendrait : qu’avez-vous construit?
Paige Bailey: Qu’est-ce qui vous passionne? Qu’avez-vous créé? Voilà le CV qui compte, pas l’université que vous avez fréquentée. C’est l’un de mes espoirs : démocratiser les occasions accessibles aux gens et les encourager à créer, à publier, peut-être à parler de leur travail, plutôt qu’à uniquement réussir un examen, entrer dans une école, suivre le tapis roulant des cours et en sortir avec une moyenne cumulative.
Paige Bailey: Avant d’essayer d’entrer sur le marché du travail. [00:48:00] Je crois aussi qu’il s’agit d’une occasion immense d’éliminer les parties plus fastidieuses du développement logiciel. Ce qui est passionnant, c’est d’avoir une idée et de pouvoir la créer. Ce qui l’est moins, c’est de la maintenir avec le temps, de la mettre à niveau, de gérer le passage à l’échelle ou de résoudre des problèmes de performance.
Paige Bailey: Peut-être que nous pourrons tous consacrer notre temps aux choses que nous aimons le plus plutôt que de réfléchir aux défis de la maintenance des systèmes logiciels ou d’être réveillés par une alerte. Nous pourrions avoir un SRE automatisé qui répond à notre place. Je crois que toutes ces possibilités existent.
Paige Bailey: Si l’IA générative nous permet de consacrer plus de temps à ce que nous aimons et de poser des questions plus intéressantes, je crois que ce serait un résultat vraiment magnifique. Vraiment magnifique.
Louis-François Bouchard: Oui, exactement. Je suis entièrement d’accord avec ce que vous avez dit [00:49:00] sur les écoles, les diplômes, etc.
Louis-François Bouchard: J’ai d’ailleurs récemment arrêté mon doctorat pour me concentrer sur ma startup, ce balado, YouTube et tout ce qui les entoure. Avant de parler de l’autre point avec lequel j’étais d’accord, je voulais connaître votre opinion actuelle sur le doctorat, la maîtrise et les diplômes universitaires en général.
Louis-François Bouchard: Je sais que vous venez de dire qu’idéalement, ils ne seraient même pas nécessaires. Mais croyez-vous qu’ils le sont aujourd’hui? Apportent-ils une valeur impossible à obtenir ailleurs? Tout le monde devrait-il faire des études supérieures, ou ne sont-elles plus vraiment pertinentes?
Paige Bailey: Je peux vous donner l’opinion de Paige, qui diffère peut-être de celle des autres.
Paige Bailey: Mais mon opinion est que, vous savez, si vous abandonnez un programme de doctorat, vous êtes en excellente compagnie, n’est-ce pas? Larry et [00:50:00] Sergey ont abandonné leur doctorat. Elon Musk aussi. Beaucoup, beaucoup de personnes qui ont connu un immense succès sont entrées aux études supérieures, puis ont décidé, pour une raison ou une autre, qu’une activité plus intéressante, passionnante ou opportune méritait leur temps.
Paige Bailey: Je partage personnellement cette opinion, n’est-ce pas? Si vous ressentez le besoin de construire quelque chose, vous apprendrez probablement davantage en construisant ce projet qui vous passionne qu’en retardant votre doctorat ou en ne le terminant pas. Oui. Certaines personnes essaient encore d’apprendre à poser des questions intéressantes et à y répondre méthodiquement ou empiriquement.
Paige Bailey: Dans ce cas, l’université peut représenter le bon choix, puisque vous serez entouré de gens qui ont consacré leur vie à apprendre comment poser des questions intéressantes et écrire avec soin sur la façon de les résoudre. Mais je ne crois absolument pas qu’un doctorat soit nécessaire pour accomplir un travail intéressant. [00:51:00] Même dans les laboratoires d’IA générative comme OpenAI, DeepMind et Anthropic, le doctorat n’est pas une condition préalable.
Paige Bailey: Il n’est même pas nécessaire d’avoir fréquenté l’université. Ce que vous construisez compte beaucoup plus.
Louis-François Bouchard: Que conseilleriez-vous à une personne qui ne travaille pas en programmation et ne sait même pas encore programmer? J’ai par exemple beaucoup d’amis qui ont étudié en génie mécanique, dans d’autres branches de l’ingénierie ou dans des domaines complètement différents. Lorsqu’ils ont commencé à travailler dans l’industrie, ils ont compris qu’ils n’aimaient pas vraiment leur emploi.
Louis-François Bouchard: J’imagine que beaucoup de personnes qui regardent ou écoutent ceci se trouvent dans la même situation. Que leur recommanderiez-vous pour commencer et entrer dans le domaine de l’IA générative, afin de finir par pouvoir développer [00:52:00] ces nouvelles applications?
Paige Bailey: Oui. J’ai commencé à programmer très jeune, mais seulement des choses comme des jeux d’aventure textuels.
Paige Bailey: J’en ai toujours été un peu amoureuse. Je n’ai jamais cru pouvoir un jour en faire un emploi parce que cela me semblait beaucoup trop amusant. Mais à l’université, j’ai étudié la géophysique, donc la géophysique, les mathématiques appliquées, les sciences planétaires et ce genre de domaines.
Paige Bailey: Les cours d’informatique n’étaient absolument pas obligatoires. Je crois qu’un cours appelé mathématiques appliquées computationnelles utilisait MATLAB, mais c’était le seul cours d’informatique exigé dans le programme. Il est donc assurément possible d’entrer dans le domaine avec un diplôme qui ne vient pas de l’informatique. Même dans les plus grands laboratoires actuels, la plupart des gens possèdent des diplômes en physique, en mathématiques, en chimie [00:53:00] ou parfois même en philosophie, ce qui est honnêtement assez cool.
Paige Bailey: Mais encore une fois, comme spécialiste du domaine que vous avez choisi d’étudier, qu’il s’agisse de génie mécanique, de sociologie, d’histoire ou d’autre chose, vous possédez un avantage unique : vous connaissez beaucoup de questions auxquelles les techniques d’IA générative pourraient potentiellement répondre.
Paige Bailey: La première chose que je recommande est donc d’essayer les playgrounds, comme celui d’OpenAI ou MakerSuite si vous utilisez les produits de Google. Posez beaucoup de questions. Développez votre intuition sur ce que les modèles réussissent et ratent. La plupart de ces interfaces, que ce soit celle de Hugging Face ou les deux que je viens de mentionner, vous permettent aussi d’exporter le code correspondant à ce que vous venez d’accomplir dans l’interface.
Paige Bailey: Vous pouvez donc exporter du code Python, le placer dans Colab et commencer à l’exécuter. [00:54:00] Mais comme nous venons d’en discuter, le code deviendra de moins en moins important. Ce qui compte davantage, ce sont les questions que vous pouvez poser et vos idées sur ce qu’il faut construire.
Paige Bailey: Tout le monde peut poser des questions intéressantes. Si vous avez énormément appris sur un domaine, vous êtes même mieux placé pour répondre à ses questions. Ne pas venir de l’informatique ne vous désavantage donc absolument pas. Au contraire, connaître la chimie, puis apprendre l’IA générative et ses applications potentielles, ressemble à un superpouvoir.
Louis-François Bouchard: Croyez-vous qu’il reste pertinent de posséder certaines bases théoriques? Je ne parle pas précisément de l’université ou de l’école, mais d’une compréhension théorique des grands modèles de langage, des Transformers ou simplement de la technologie sous-jacente. Est-ce pertinent?
Paige Bailey: Je crois que c’est utile, sans pour autant tout couvrir.
Paige Bailey: Je dirais qu’il est utile de comprendre que ces modèles ont été entraînés sur [00:55:00] d’immenses quantités de code, de texte, d’images et de vidéos. Il est utile de comprendre que la génération de contenu peut mal tourner, que les résultats ne sont pas déterministes et que vous devez vérifier les outputs ou prendre certaines précautions.
Paige Bailey: Il est utile de comprendre comment les boucles de feedback des utilisateurs peuvent influencer la performance du modèle ou comment assembler des techniques de recherche d’information autour de lui. Mais on ne vous demandera pas : bonjour, voici un tableau blanc, décrivez mathématiquement comment implémenter un modèle Transformer en Python ou expliquez mathématiquement comment chaque phase échange les données.
Paige Bailey: Ce serait peut-être un peu trop profond pour la plupart des gens. Si vous [00:56:00] construisez les modèles, la réponse sera peut-être différente. Mais si vous ajustez des modèles existants, je crois qu’une compréhension générale de ces concepts suffit.
Louis-François Bouchard: Oui, je suis assurément d’accord avec vous.
Louis-François Bouchard: Il ne me reste que quelques dernières questions. Elles concernent encore mon public, surtout composé de débutants et d’étudiants dans le domaine. J’ai deux questions sur ce sujet. J’ai vu que vous défendez fortement la bonne communication entre les équipes et les gens en général, ainsi que la documentation du code.
Louis-François Bouchard: Je me demande simplement ce que vous faites dans votre propre équipe pour assurer une bonne communication. Devez-vous agir d’une façon précise, ou est-ce une capacité que tout le monde possède déjà et que vous essayez seulement de faciliter? Comment améliorez-vous la communication?
Paige Bailey: Alors, alors, la communication [00:57:00] représente assurément un certain défi à instaurer et à encourager dans les équipes. Il faut notamment s’assurer de documenter autant de choses que possible.
Paige Bailey: Les salles de discussion se sont multipliées récemment, je crois, avec l’augmentation du travail à distance. Il faut trouver comment encourager les gens à mettre davantage leur travail par écrit, dans une expérience de chat. Une de mes premières équipes faisait quelque chose que j’aimais vraiment, vraiment beaucoup.
Paige Bailey: Nous faisions des stand-ups asynchrones. Puisque tout le monde était réparti dans le monde, plutôt que de tenir une réunion quotidienne de 15 minutes où une personne devait se connecter à 23 h et une autre à 6 h, chacun écrivait simplement dans Slack ou dans le chat : « Bonjour, voici les trois sujets qui occupent mon esprit aujourd’hui. »
Paige Bailey: Trois choses que j’ai accomplies hier et [00:58:00] une question amusante. Elle pouvait être : quel est votre film préféré? Vous ajoutiez ensuite un GIF de votre film préféré. Encourager toute l’équipe à participer donne de la visibilité au travail de chacun. Cela aide aussi les gens à se sentir un peu plus connectés, puisque vous apprenez quelque chose d’amusant sur tout le monde.
Paige Bailey: Avec un peu de chance. Une autre chose… Nous encouragions ces activités de consolidation d’équipe chez GitHub. Dans une équipe avec laquelle j’ai travaillé, dirigée notamment par Lost in Tangent, nous avions chaque vendredi une liste de lecture tournante.
Paige Bailey: Chaque personne ajoutait une chanson à une liste que nous écoutions le vendredi. Tout le monde pouvait l’écouter ou non, comme il le souhaitait. Mais c’était une excellente façon de se sentir encore une fois connecté aux autres et de comprendre leur état d’esprit. Si quelqu’un ajoutait une piste électronique très rapide, vous vous disiez : wow, cette personne doit vivre une semaine très occupée.
Paige Bailey: Si quelqu’un ajoutait [00:59:00] quelque chose d’un peu plus calme et relaxant, l’impression changeait. C’était simplement cool. Ces exercices de consolidation d’équipe sont importants, particulièrement pour les équipes à distance, parce que si vous croyez pouvoir faire confiance à quelqu’un, vous êtes plus susceptible de poser une question et de partager votre travail.
Paige Bailey: Mais sans ces petits points de contact, je crois que beaucoup de choses se perdent.
Louis-François Bouchard: Auriez-vous une recommandation pour une personne qui étudie ou apprend actuellement, puis veut trouver un emploi? Peut-elle faire quelque chose pour pratiquer ses aptitudes en communication avant d’être embauchée ou pour s’assurer qu’il sera agréable et facile pour son gestionnaire de travailler avec elle?
Paige Bailey: Oui, c’est une excellente question. Je crois assurément qu’il est utile d’écrire sur votre travail, soit dans des articles de blogue, euh, soit dans de courts textes sur les réseaux sociaux, [01:00:00] parce que les gens ont alors l’impression de vous connaître un peu mieux et savent sur quoi vous travaillez.
Paige Bailey: Je trouve aussi très belle la communication dans les problèmes Buganizer ou GitHub, parce qu’elle vous donne une compréhension directe de la façon dont les gens interagissent au travail. Si vous ouvrez une pull request et que quelqu’un vous demande d’apporter des changements, il est très important de pouvoir expliquer votre logique initiale ou de simplement répondre : « Oh, wow, je n’avais pas considéré cela. »
Paige Bailey: « Je vais effectuer les changements. » Nous possédons aussi ces outils d’IA générative, que vous pouvez utiliser pour reformuler votre façon de parler de votre travail. Vous pouvez ouvrir ChatGPT ou Bard et dire : « Bonjour, j’écris ou j’essaie de réfléchir à un elevator pitch. »
Paige Bailey: « Si je croise Marc Andreessen ou n’importe qui d’autre [01:01:00] dans un ascenseur, comment puis-je le convaincre d’investir dans ma startup en moins d’une minute? Voici ce que je pense dire. » Le modèle peut alors vous répondre : « C’est très bien, mais c’est un peu trop long. »
Paige Bailey: « Condensez-le un peu plus et reformulez-le ainsi. »
Louis-François Bouchard: Vous avez mentionné qu’un problème vient du chat, je crois, surtout du chat en direct. Si vous travaillez avec une personne et parlez beaucoup dans des réunions, le contenu n’est pas vraiment documenté comparativement à une documentation claire. Essayez-vous d’encourager les autres à utiliser l’IA générative pour résumer les réunions, prendre des notes et documenter le tout?
Louis-François Bouchard: Ou ne le faites-vous pas encore?
Paige Bailey: J’adorerais que cette fonctionnalité soit activée pour toutes les réunions auxquelles je participe. Elle n’a pas été déployée à l’interne chez Google, mais je sais que beaucoup de startups externes réfléchissent à des façons très ingénieuses de transcrire les réunions, de [01:02:00] regrouper toutes les notes et les tâches, puis de les envoyer aux participants.
Paige Bailey: Je trouve cela extraordinaire. Je suis aussi partisane de tenir moins de réunions, ce qui serait encore mieux. Et peut-être, pour revenir à votre point précédent, qu’un modèle génératif pourrait être déployé pour comprendre : wow, ces deux personnes écrivent du code qui semble extrêmement semblable.
Paige Bailey: « Je devrais peut-être les encourager à en discuter. » Cela éviterait aux gens de devoir garder dans leur tête qu’ils doivent parler à 20 personnes pour comprendre le travail de chacune, puis attendre une réponse et organiser une rencontre. Dans les grandes organisations surtout, un petit bot autonome qui parcourt le travail et remarque que deux personnes semblent accomplir la même chose serait vraiment utile.
Paige Bailey: Même pour les projets GitHub, honnêtement. Si deux bibliothèques semblent résoudre le même problème, il serait peut-être utile d’encourager leurs auteurs à se parler [01:03:00] avant de partir dans plusieurs directions différentes.
Louis-François Bouchard: Oui, j’imagine que cela arrivera assurément bientôt.
Louis-François Bouchard: Cela semble extrêmement utile et très pertinent. J’ai une dernière question, encore pour les personnes qui entrent dans le domaine. En plus de la communication, qui représente une aptitude extrêmement importante, particulièrement aujourd’hui puisque communiquer avec l’IA générative est aussi très pertinent…
Louis-François Bouchard: quelle aptitude vaut le plus la peine d’être pratiquée ou développée aujourd’hui? Si vous voulez travailler en MLOps ou déployer ces modèles, quelle aptitude devriez-vous améliorer autant que possible?
Paige Bailey: Je crois toujours que la capacité à poser d’excellentes questions distingue les personnes capables de réussir et de rester résilientes malgré tous ces changements technologiques de celles qui [01:04:00] se sentent un peu laissées derrière. On peut cultiver la curiosité et apprendre à poser d’excellentes questions.
Paige Bailey: Il suffit, euh, de regarder autour de vous, de repérer ce qui est intéressant ou ce qui manque peut-être dans les données, puis d’approfondir pour comprendre comment combler ces lacunes ou répondre à ces questions. Les jeux d’exploration sont vraiment, vraiment excellents pour cela, je crois, parce que la seule façon d’y avancer consiste à retourner chaque pierre et, vous savez, à poser des questions sur le jeu à tous les PNJs.
Louis-François Bouchard: Ils devraient donc jouer à des jeux vidéo pour trouver leur prochain emploi.
Paige Bailey: Eh bien, je ne sais pas, mais j’ai l’impression que les jeux d’exploration m’ont aidée à développer cette curiosité et à poser de meilleures questions.
Louis-François Bouchard: Oui. C’est comme moi lorsque j’étais plus jeune. Je [01:05:00] jouais beaucoup à un jeu vidéo français.
Louis-François Bouchard: Il existait essentiellement une marketplace où vous pouviez gagner de l’argent en vendant et en échangeant. J’ai l’impression que ce jeu m’a beaucoup appris comparativement à certains amis qui n’y jouaient pas. Il m’a appris à mieux gérer mon argent, établir un budget, épargner et comprendre que si j’économise maintenant, j’aurai plus d’argent plus tard. Ce sont des concepts très simples.
Louis-François Bouchard: Mais j’imagine que beaucoup d’enfants ou de jeunes n’en sont pas vraiment conscients. Ils dépensent sans trop réfléchir, et j’ai l’impression que ce jeu vidéo m’a beaucoup aidé. Les jeux vidéo contiennent donc assurément quelque chose qui nous aide à mieux vivre en général.
Paige Bailey: Oui, je suis d’accord. J’ai ressenti la même chose avec les jeux de simulation comme SimPark, SimSafari et The Sims. Ils m’ont vraiment aidée [01:06:00] à comprendre le fonctionnement des systèmes. Si j’introduis énormément de lapins, par exemple, toute la végétation finira par disparaître.
Paige Bailey: Vous devriez donc probablement ajouter des prédateurs naturels, ce genre de choses.
Louis-François Bouchard: Oui, c’est vraiment cool. Excellent. Eh bien, merci beaucoup d’être venue. J’aimerais simplement savoir si vous voulez partager quelque chose, où les gens peuvent vous trouver ou ce que vous souhaitez dire au public. Vous avez carte blanche.
Paige Bailey: Excellent. Je suis extrêmement reconnaissante d’avoir participé à votre émission. C’était une façon très agréable de passer un samedi matin. Je recommande aux gens d’aller voir toutes les merveilleuses fonctionnalités d’apprentissage automatique récemment ajoutées à Colab. Si vous utilisez Colab, et j’espère que c’est le cas, il est vraiment, vraiment agréable d’avoir ces outils directement intégrés [01:07:00] à l’IDE.
Paige Bailey: Et évidemment, je suis DynamicWebPaige partout sur Internet. N’hésitez jamais à communiquer avec moi. Et oui, c’est à peu près tout.
Louis-François Bouchard: Excellent. Merci encore beaucoup pour votre temps.
Paige Bailey: Merci.
FAQ
Que couvre l’entrevue avec Paige Bailey?
Elle explore la direction de produits d’IA, les outils de développement, les boucles de feedback des modèles, les carrières et les leçons tirées de Microsoft, GitHub et Google DeepMind.
Pourquoi l’aide à la programmation devrait-elle se trouver dans un IDE?
L’IDE fournit les fichiers voisins, les erreurs, les services de langage et le contexte du workflow qui rendent les suggestions plus pertinentes.
Comment les boucles de feedback améliorent-elles un produit d’IA?
Les corrections observées et les résultats réussis peuvent révéler les échecs du système, puis guider les prochaines mises à jour du modèle ou du produit.
Quand un plus petit modèle ajusté peut-il être utile?
Il peut convenir à une application ciblée avec un coût ou une latence plus faible lorsque l’équipe possède des données adaptées à la tâche.
Quels risques accompagnent le déploiement d’un modèle personnalisé?
Les équipes doivent évaluer les régressions, la confidentialité, la sécurité, la dérive, la maintenance et le comportement à l’extérieur des exemples de fine-tuning.
Comment un produit d’IA peut-il réduire les hallucinations?
Ancrez les réponses dans de l’information recherchée, posez des questions de clarification lorsque le contexte manque et enseignez suffisamment de notions fondamentales aux utilisateurs pour qu’ils vérifient le résultat.
Comment le feedback d’exécution peut-il améliorer un assistant de programmation basé sur l’IA?
Le feedback du compilateur et de l’interpréteur peut détecter les erreurs de syntaxe, les APIs désuètes, les problèmes de performance et les failles de sécurité. Le produit peut fournir ces signaux à une autre passe du modèle pour améliorer le code.
Comment une startup devrait-elle commencer à construire avec l’IA générative?
Commencez avec des APIs et des playgrounds pour comprendre le comportement et valider un véritable besoin des utilisateurs, puis envisagez le fine-tuning ou une équipe interne lorsque les données, le coût ou le contrôle le justifient.
Peut-on entrer dans le domaine de l’IA générative sans formation en informatique?
Oui. Votre expertise du domaine vous donne de meilleurs problèmes à résoudre, et les playgrounds, le code exporté et les notebooks offrent une voie pratique pour commencer à construire.
Quelle quantité de théorie sur les LLMs un créateur d’applications doit-il connaître?
Comprenez les données d’entraînement, les outputs non déterministes, la recherche d’information, les boucles de feedback et les échecs courants. Les mathématiques sous-jacentes aux Transformers comptent beaucoup plus lorsque vous construisez vous-même les modèles.