À retenir
- Les LLMs sont utiles pour les tâches ouvertes, créatives ou fortement axées sur le langage, mais ils ne représentent pas le bon outil pour tout.
- Si la tâche est étroite, structurée, peu coûteuse à résoudre ou exige un comportement déterministe, un modèle plus simple pourrait mieux convenir.
- La décision doit tenir compte des coûts, de la latence, de l’exactitude, de la vie privée, de la maintenance et du besoin de faire réviser l’output par un expert.
Sentez-vous la pression d’adopter les dernières tendances en IA sans savoir si elles représentent le bon choix pour votre entreprise ? Avec tout le battage médiatique autour des grands modèles de langage (LLMs) et la douzaine de vidéos que je publie sur les nouvelles techniques puissantes, certaines de vos entreprises actuelles ou futures pourraient s’inquiéter de se faire distancer. Mais les LLMs constituent-ils vraiment une solution magique à tous vos problèmes ? Toutes les entreprises en ont-elles réellement besoin ?
Bien sûr, nous aimons tous les LLMs. Mais ils sont parfois complètement excessifs et consomment beaucoup trop de ressources de calcul et d’argent lorsqu’une solution bien plus simple aurait suffi…
Dans cette vidéo, nous verrons où les LLMs excellent réellement et, surtout, où ils peuvent échouer, ainsi que les compromis à considérer. Vous devriez ainsi savoir clairement si les LLMs conviennent ou non à votre problème.
Où et pourquoi vous pourriez avoir besoin d’un LLM
Commençons par les situations où les LLMs peuvent réellement changer les choses. Vous êtes-vous déjà retrouvé bloqué devant une tâche créative, comme la rédaction ou le brainstorming de nouvelles idées ? Les LLMs sont fantastiques pour stimuler la créativité. C’est comme avoir un ami prêt à vous aider à rédiger un email ou un article de blogue, ou même à trouver un slogan marketing accrocheur. Avant, je bombardais mes amis d’idées ou de questions. Maintenant, je peux simplement bombarder ChatGPT encore plus souvent. Les LLMs sont des partenaires créatifs qui ne manquent jamais d’idées. Vous devrez toutefois peut-être vérifier leur travail, parce que, soyons honnêtes, ils inventent parfois des choses. Ils sont aussi assez répétitifs et faciles à repérer. Ils excellent dans la génération d’idées, mais il reste toujours judicieux de réviser leur travail en profondeur et d’itérer avec eux. Leurs premières versions ponctuelles seront extrêmement génériques, et toute personne habituée à travailler avec des LLMs saura qu’elles ont été générées.
Prenez GitHub Copilot ou Cursor, par exemple. Les développeurs les adorent, parce qu’ils suggèrent des extraits de code utiles en appuyant sur une touche, ce qui augmente la productivité et facilite la vie. Dans le soutien à la clientèle, les chatbots propulsés par les LLMs ont changé la donne en rendant les interactions plus personnalisées et plus efficaces. JPMorgan Chase, l’une des plus grandes banques des États-Unis, offre un excellent exemple. L’entreprise a intégré des chatbots fondés sur les LLMs à son système de soutien à la clientèle pour fournir de meilleures réponses plus rapidement, tout en faisant intervenir de vraies personnes lorsque nécessaire.
En éducation, les LLMs servent à personnaliser les expériences d’apprentissage, comme dans la nouvelle entreprise de Karpathy. Imaginez une application de tutorat qui s’adapte au rythme et au style d’apprentissage de chaque étudiant. En analysant ses progrès, le LLM peut lui proposer des exercices et des explications adaptés, ce qui rend l’apprentissage plus captivant et plus efficace. C’est comme offrir à tout le monde un tuteur personnel, accessible en tout temps.
Les LLMs peuvent s’attaquer à ces immenses problèmes, souvent liés à la créativité ou à l’adaptation de contenu général à des individus précis grâce au traitement de grandes quantités de données.
Les situations où ils peuvent échouer
Parlons maintenant des situations où les LLMs n’atteignent pas tout à fait la cible. Malgré leurs forces, ils ne sont pas prêts à prendre des décisions critiques qui touchent des vies. Vous ne pouvez pas compter uniquement sur un LLM pour diagnostiquer un problème médical. Ce serait risqué. IBM Watson for Oncology a fait l’objet de critiques pour avoir suggéré des traitements incorrects ou dangereux, parce que le système travaillait avec des données désuètes ou incomplètes. Les LLMs peuvent vous donner un conseil qui semble bon, mais qui s’avère réellement dangereux, parce qu’ils ne comprennent pas véritablement le contexte ni les conséquences. Un expert doit toujours vérifier ce qu’ils génèrent. Idéalement, cet expert est la personne qui utilise le LLM, donc vous.
Les tâches spécialisées, comme le travail juridique, peuvent aussi faire trébucher les LLMs. Dans le secteur juridique, où la précision du langage et les interprétations nuancées sont essentielles, les LLMs peuvent parfois rater la cible. Un outil fondé sur un LLM a déjà mal interprété les clauses d’un contrat, ce qui aurait pu entraîner de sérieux risques juridiques. Même si des LLMs spécialisés en droit sont en cours de développement, il reste prudent de vérifier les faits avant de prendre de grandes décisions. Je crois que les avocats les utiliseront surtout pour gagner du temps en récupérant de l’information avec des systèmes fondés sur le RAG, contrairement aux gens ordinaires comme nous qui veulent obtenir des conseils juridiques, du moins à court terme.
Les secteurs réglementés comme la finance posent aussi des défis aux LLMs. Certaines institutions financières ont essayé de les utiliser pour les opérations boursières et la gestion des risques, mais ont rencontré des problèmes parce que les LLMs peuvent ressembler à des boîtes noires. Sans explications claires, les organismes de réglementation ont rapidement résisté, ce qui a entraîné des problèmes de conformité et de possibles sanctions. Il existe toutefois aussi des réussites. PayPal utilise des LLMs pour détecter la fraude en analysant les patterns des transactions et repérer les activités suspectes avant qu’elles causent des dommages. Dans ces cas, les avantages des LLMs dépassent les risques, mais seulement parce que leur implémentation repose sur de solides pratiques liées aux données et à la vie privée.
Quand un modèle simple suffit
Tout cela est intéressant, ou effrayant, mais chaque problème lié au langage n’a pas besoin de la puissance d’un LLM. Un plus petit modèle de langage (SLM) suffit parfois amplement. Ces modèles sont plus légers et possèdent moins de paramètres, mais peuvent tout de même être extrêmement efficaces, particulièrement dans les secteurs spécialisés comme la santé, le droit et la finance.
Si vous dirigez par exemple une petite entreprise et avez besoin d’un chatbot pour le service à la clientèle, un LLM pourrait être excessif. Un petit modèle bien entraîné, comme un modèle Llama 3 distillé, peut traiter efficacement la plupart des demandes des clients et vous faire économiser des ressources sans sacrifier les performances. C’est comme utiliser un scalpel plutôt qu’une masse. Il est plus précis, moins coûteux et tout aussi efficace pour la tâche.
Entrons dans les détails techniques
Lorsque vous envisagez d’adopter un LLM, vous devez considérer plus que la technologie. Il faut aussi examiner l’aspect financier. Les LLMs peuvent simplifier de nombreux processus, mais coûtent cher. Ces modèles ont besoin d’énormément de puissance de calcul, ce qui exige généralement d’investir dans des GPU coûteux. Que vous hébergiez votre propre LLM ou utilisiez un service géré comme OpenAI, vous transformez des défis techniques en défis financiers. C’est pratique, mais cela représente aussi un important investissement.
Il faut également considérer ce qu’on appelle la dette technique. Les modèles traditionnels de machine learning exigent souvent beaucoup de feature engineering, d’ajustements et de maintenance. Les LLMs transfèrent une grande partie de cette complexité au modèle lui-même, ce qui peut représenter un immense soulagement, particulièrement pour les petites équipes. Cette simplification augmente toutefois le fardeau financier. Vous échangez de la complexité technique contre une plus grande facilité d’utilisation, mais vous vous engagez à payer les coûts continus de l’exécution de ces immenses modèles.
La latence et la nature de la tâche
Dans les applications destinées aux utilisateurs, la vitesse est essentielle. Pour les tâches autres que la génération de langage, les modèles traditionnels de machine learning sont réputés pour leur rapidité. Ils conviennent donc parfaitement aux tâches en temps réel, comme les opérations financières ou les systèmes d’intervention d’urgence, où chaque seconde compte.
La situation est un peu différente avec les LLMs. Prenez par exemple un assistant virtuel pour le soutien à la clientèle. La vitesse reste importante, mais la compréhension approfondie du langage offerte par les LLMs peut réellement améliorer la qualité des interactions, même avec un léger délai. OpenAI a récemment lancé son API en temps réel, une grande avancée dans cette direction, mais il est très difficile, voire presque impossible, d’en reproduire les capacités avec un système hébergé localement. Il en va de même pour la génération de contenu. La richesse de l’output mérite parfois une attente un peu plus longue ou, idéalement, un peu plus de travail.
Le choix entre les modèles traditionnels de machine learning et les LLMs dépend donc de votre besoin. S’agit-il de vitesse ou de profondeur et de qualité ? L’équilibre entre ces facteurs vous aidera à choisir le bon outil pour le travail.
Les principaux points à retenir sur l’utilisation des LLMs
Les LLMs n’ont rien de magique. Ce sont des outils puissants, mais comme toute chose, ils apportent leur lot de défis. Il est essentiel de savoir où et quand les utiliser, particulièrement si vous êtes la personne embauchée pour les gérer et les implémenter. Qu’il s’agisse de comprendre les coûts, de gérer la dette technique ou de considérer les besoins précis de votre industrie, des décisions éclairées sur le déploiement des LLMs vous permettront d’en profiter réellement plutôt que de simplement suivre la mode de l’IA. Rappelez-vous que vous voulez toujours garder autant de contrôle que possible sur votre solution. Utilisez toujours la solution la plus simple, qui sera souvent moins chère, plus rapide et plus facile à réparer lorsqu’un problème survient.
Et rappelez-vous que l’univers de l’IA évolue rapidement. L’approche qui semble la meilleure aujourd’hui pourrait changer avec l’arrivée de nouveaux modèles et de nouvelles techniques. De même, ce qui semble impossible aujourd’hui pourrait devenir un problème résolu dès la semaine prochaine. Votre flexibilité et votre volonté de vous adapter vous aideront à garder une longueur d’avance.
Enfin, n’ayez pas peur d’expérimenter. Essayez différentes approches, observez ce qui fonctionne dans votre contexte précis et gardez en tête que la meilleure solution n’est pas toujours la plus évidente. Que vous choisissiez un LLM, un SLM ou une combinaison de différents modèles, l’essentiel est de trouver l’équilibre qui répond à vos besoins et vous aide à atteindre vos objectifs.
Si vous avez trouvé cet article utile, ou au moins intéressant, apprenez-en plus dans nos cours de la Towards AI Academy, à la fois techniques et non techniques !
Ressources mentionnées
https://superwise.ai/blog/ml-vs-llm-is-one-better-than-the-other/
https://aclanthology.org/2023.findings-acl.67/
https://arxiv.org/abs/2406.11903
https://medium.com/@amanatulla1606/the-future-of-finance-how-llms-are-changing-the-game-684871c81027
https://www.statnews.com/2018/07/25/ibm-watson-recommended-unsafe-incorrect-treatments/
FAQ
Quand devriez-vous éviter les LLMs ?
Évitez-les lorsqu’une règle simple, un modèle classique, une requête de base de données ou un système déterministe résout la tâche de façon plus fiable.
Quand les LLMs sont-ils pertinents ?
Ils sont pertinents pour les tâches langagières désordonnées, le brainstorming, les résumés, le raisonnement flexible et les situations où les règles rigides échouent.
Quelle erreur coûteuse commet-on avec les LLMs ?
L’erreur consiste à utiliser un LLM parce qu’il est à la mode, puis à payer des coûts et une latence supplémentaires pour une tâche qui n’en avait pas besoin.
Quelles solutions plus simples peuvent remplacer un LLM ?
Les règles, les templates, la recherche, SQL, les classificateurs, les modèles plus petits ou les logiciels traditionnels peuvent résoudre les tâches prévisibles de façon plus fiable.
Pourquoi la latence de la tâche influence-t-elle la décision ?
Les grands modèles peuvent ajouter des délais de réseau et de génération qu’un workflow interactif ou à haut débit ne peut pas tolérer.
Quel compromis financier accompagne le remplacement d’un modèle plus simple par un LLM ?
Un LLM peut réduire le feature engineering et la logique personnalisée, mais déplace une partie de cette complexité vers les coûts récurrents d’API ou de GPU, la surveillance et la révision des outputs.