GPT-4 est peut-être le modèle de langage le plus médiatisé que nous ayons connu, avec une foule de rumeurs et de nouvelles avant même son annonce, et ce n’était pas pour rien.
Si vous voulez un très court résumé : GPT-4 est le grand frère de ChatGPT.
L’équipe d’OpenAI travaille à améliorer le petit frère depuis sa sortie en novembre 2022 grâce aux commentaires de millions de personnes, dont vous et moi.
Elle affirme que le nouveau modèle possède de meilleures capacités de résolution de problèmes et des connaissances générales plus vastes, ce qui en fait de loin le meilleur modèle de langage à ce jour.
Et ce n’est pas tout : il surpasse 90 % des avocats à l’examen du barreau ! Il peut même vous aider avec vos impôts si vous acceptez de lui transmettre toute votre information. Nous pouvons maintenant commencer à avoir peur…
Si vous ne l’avez pas encore essayé, je crois que vous devriez interrompre votre lecture et aller jouer avec lui dès maintenant. Vous serez étonné. Le lien pour l’essayer se trouve dans les références ci-dessous.
Mais n’oubliez pas de revenir ! La partie la plus intéressante s’en vient !
Voyons comment l’équipe d’OpenAI a pu rendre son modèle ChatGPT encore meilleur dans tous les domaines. Quels changements a-t-elle apportés ? Avec quelles données l’a-t-elle entraîné ? Comment l’a-t-elle entraîné ? Voici les réponses à toutes ces questions à partir de l’information à laquelle nous avons accès.
D’abord, qu’est-ce que je veux dire par « connaissances générales plus vastes » ?
Cela signifie plusieurs choses. La première est évidemment que le modèle possède simplement plus de connaissances et de créativité. GPT-4 discute de façon plus humaine et itère mieux au fil d’une conversation avec une personne. Il est aussi plus performant sur les nombreuses tâches pour lesquelles les gens ont essayé d’utiliser ChatGPT, comme composer de la musique ou assimiler le style d’écriture de quelqu’un. Cela rend le modèle encore plus puissant, ou plus dangereux selon votre point de vue… !
Il peut aussi travailler avec des textes plus longs que jamais. GPT-4 peut traiter plus de vingt-cinq mille mots ! Cela signifie qu’il peut facilement gérer un livre d’environ cent pages, ou un texte 14 fois plus long que cet article. Résumer un article ne représente plus un défi. Préparez-vous à voir apparaître une avalanche de résumés de livres, de balados et de films générés par l’IA au cours des prochains jours et des prochaines semaines. Vous pouvez facilement lui transmettre votre balado préféré ou les transcriptions de vos réunions pour obtenir des résumés simples. Cela devrait fonctionner à merveille. Essayez-le avec cet article et dites-moi s’il a bien compris !
Recevez des articles comme celui-ci directement dans votre boîte de réception !
Ce qui est encore mieux, c’est que GPT-4 comprend les images. Oui, vous pouvez téléverser des images et il peut vous aider à produire des légendes, des analyses ou même à les classer. Vous n’avez plus besoin de construire une IA précise pour classifier une image. Il vient de remplacer tout le travail de ma maîtrise. C’est à la fois extrêmement cool et effrayant ! Oui, utilisez simplement GPT-4 pour tout. C’est vraiment la direction que nous semblons prendre ! Cette idée vous fait-elle davantage peur ou vous enthousiasme-t-elle ? Je ne pourrais pas répondre pour moi-même. C’est certainement un mélange des deux, mais je reste optimiste quant au progrès et à l’utilisation de ces modèles. Nous approfondirons aussi les problèmes et les considérations éthiques dans un prochain épisode de mon balado si le sujet vous intéresse ! La compréhension des images est une grande raison pour laquelle GPT-4 est beaucoup plus performant : elle lui donne une autre façon de voir le monde !
Enfin, et ce n’est pas le moins important… GPT-4 possède de bien meilleures capacités de raisonnement que ChatGPT. Nous avons tous vu des échecs où les réponses de ChatGPT n’avaient aucun sens, surtout en mathématiques ou avec des nombres. Eh bien, les chercheurs ont beaucoup amélioré ce nouveau modèle. Allez le mettre au défi et dites-moi où il échoue ! J’espère qu’il est réellement beaucoup, beaucoup plus performant.
GPT-4 est non seulement plus puissant, mais aussi plus sécuritaire à utiliser. Il a 40 % plus de chances de répondre avec des faits, ce qui est vraiment cool. J’avais personnellement de la difficulté avec ce problème, puisqu’il inventait de faux auteurs et de faux faits lorsqu’il tentait de résumer mes articles ou mes épisodes de balado.
Mais comment OpenAI est-elle passée d’un modèle déjà incroyablement puissant à cette quatrième version époustouflante de la famille de modèles de langage GPT ?
Principalement en intégrant encore plus d’humains à l’entraînement du nouveau modèle. Oui, les chercheurs l’ont rendu plus intelligent en utilisant davantage d’humains, de travail manuel et d’heures de spécialistes. N’est-ce pas amusant ?! La meilleure façon d’améliorer l’IA consiste à utiliser plus d’humains. Nous pouvons facilement douter de l’intelligence réelle de ces modèles lorsqu’ils dépendent autant de données sélectionnées par les humains et d’un entraînement humain. Cette approche présente tout de même des avantages, puisqu’elle nous permet de mieux contrôler les outputs et les capacités du modèle.
En passant, si vous aimez l’article, pensez à suivre le blogue. Je partage chaque semaine des vidéos comme celle-ci sur des approches intéressantes en IA. Si vous êtes comme moi et que 5 à 10 minutes d’IA par semaine ne vous suffisent pas, suivez mon balado What’s AI, où nous approfondissons ces sujets avec des personnes expertes. Je suis certain qu’il vous plaira lui aussi !
OpenAI a également pu améliorer le modèle en collaborant avec différentes entreprises qui intégraient GPT-4 à leurs produits afin de recueillir encore plus de commentaires et de l’améliorer de façon itérative. Duolingo l’a utilisé pour améliorer les compétences conversationnelles et Khan Academy, comme tuteur personnalisé pour les étudiants. Ce seul cas d’utilisation suffit déjà à rendre le modèle incroyable à mes yeux. Imaginez avoir un tuteur personnel pour n’importe quel cours que vous suivez. Cela change complètement une industrie.
Toute cette aide provenant d’un plus grand nombre de personnes, de davantage de spécialistes et de l’intégration du modèle dans plus d’applications est possible grâce à son schéma d’entraînement par apprentissage par renforcement. Il s’agit du même processus que celui utilisé pour ChatGPT et que vous pouvez découvrir dans mon article sur ChatGPT. Le modèle est entraîné progressivement selon les commentaires que nous lui donnons, ici des commentaires humains. OpenAI insiste aussi sur le fait que la partie la plus importante de l’entraînement est le préentraînement réalisé sur presque tout Internet. Le modèle est ensuite entraîné davantage et aligné sur ce que nous souhaitons recevoir à l’aide de ces commentaires humains. L’entreprise souligne également l’importance de l’ingénierie des prompts pour obtenir le résultat souhaité. Je crois qu’il s’agit d’une compétence importante à développer afin que tout le monde puisse mieux utiliser ces puissants modèles. Voilà pourquoi nous construisons learnprompting.org avec mon ami Sander et Towards AI. Vous pouvez voir ce projet comme un Wikipédia gratuit pour apprendre à parler avec les IA.
Ah oui, et sans oublier qu’ils ont accès à un superordinateur avec Microsoft, ce qui les aide énormément à itérer et à entraîner plus rapidement cet immense modèle de langage. Juste un petit détail sans importance.
Procédure d’entraînement de ChatGPT. Image tirée de l’article de blogue d’OpenAI.
Les chercheurs ont aussi ajouté une nouvelle fonctionnalité intéressante appelée System. Elle permet de prescrire au modèle un style et des tâches à réaliser plutôt que de devoir les ajouter dans le texte lui-même. Elle sera très utile aux personnes qui construisent des applications avec l’API. Demandez simplement au modèle d’agir comme un professeur de mathématiques qui répond aux étudiants sans trop de sérieux et avec quelques jeux de mots, et il le fera. Il peut reproduire presque tout ce que vous voulez !
Une autre nouveauté intéressante de cette publication d’OpenAI, même si tout ce qui concerne GPT-4 et ChatGPT est propriétaire et donc fermé, ne me demandez pas d’où vient le nom OpenAI, est la publication de leur cadre d’évaluation. Les approches open source pourront donc l’utiliser pour comparer leur performance à celle du nouveau modèle d’OpenAI. Cela peut être très utile pour faire progresser la recherche en permettant de comparer toutes les approches dans un seul vaste test de référence.
Bien sûr, GPT-4 n’est pas parfait, mais nous non plus. Ce qui est intéressant, c’est que vous pouvez lui demander de décrire son raisonnement et de comprendre comment il a obtenu sa réponse. Il conserve de nombreuses limites connues que partagent les autres modèles de langage et sur lesquelles les chercheurs travaillent encore, comme les biais sociaux, les hallucinations et les prompts adverses. Dans ce dernier cas, vous « piratez » le modèle en lui envoyant des instructions pour obtenir quelque chose qu’il ne devrait pas faire, comme lui demander de révéler des renseignements personnels s’il a accès à la base de données de l’entreprise. Tout cela signifie que vous devez rester prudent lorsque vous utilisez des modèles de langage comme GPT-4 et ne pas leur faire confiance aveuglément. Traitez simplement leurs réponses comme une page Wikipédia. Vous pouvez probablement leur faire confiance, mais vérifiez lorsqu’il s’agit d’une question importante. Le principal problème est que le modèle semble confiant même lorsqu’il invente des faits. C’est presque le menteur parfait. OpenAI continuera d’améliorer GPT-4 avec le temps. Si vous l’utilisez, que ce soit avec ChatGPT Plus ou l’API, pour laquelle vous pouvez maintenant rejoindre la liste d’attente, vous contribuez donc à le rendre plus performant et plus sécuritaire !
Malheureusement, cela représente presque toute l’information à laquelle nous avons accès pour le moment. Je vous invite toutefois à lire leur rapport technique et leur article de blogue, où vous trouverez une foule de graphiques et de statistiques qui comparent GPT-4 aux modèles précédents. Vous pouvez aussi simplement jouer avec lui et apprendre par essais et erreurs, ce qui est vraiment amusant.
J’espère que vous avez aimé cet article. Si c’est le cas, laissez un « J’aime » et dites-moi ce que vous pensez de ChatGPT et du nouveau modèle GPT-4 dans les commentaires ci-dessous. J’aimerais beaucoup savoir comment vous l’utilisez ! Ce serait aussi fantastique si vous pouviez partager cet article avec un proche ou votre conversation de groupe préférée pour aider la chaîne. Ah oui, je recevrai bientôt une personne experte des modèles de langage GPT dans mon balado pour discuter de leurs défis, de leurs capacités, de leurs enjeux éthiques et bien plus. Je vous invite à le découvrir et à le suivre sur Spotify, Apple Podcasts ou YouTube !
Je vous retrouve la semaine prochaine avec une autre application incroyable de l’IA !
Références
►Essayez GPT-4 maintenant : https://chat.openai.com/
►Liste d’attente de l’API : https://openai.com/waitlist/gpt-4
►Article de blogue d’OpenAI : https://openai.com/product/gpt-4
►Recherche sur GPT-4 : https://openai.com/research/gpt-4
►Vidéo sur ChatGPT : https://youtu.be/AsFgn8vU-tQ
►Qu’est-ce qu’un prompt ? https://youtu.be/pZsJbYIFCCw
►Learn Prompting : https://learnprompting.org/
FAQ
Qu’est-ce qui s’est amélioré avec GPT-4 ?
OpenAI a annoncé une meilleure résolution de problèmes, des connaissances plus vastes, un comportement plus sécuritaire et un suivi plus fiable des instructions que dans les anciens modèles GPT.
À quoi sert un message système ?
Il permet à une application de définir le rôle, le style et les instructions persistantes de l’assistant séparément de la demande de l’utilisateur.
GPT-4 répond-il toujours correctement aux questions factuelles ?
Non. Une meilleure performance réduit certaines erreurs, mais n’empêche ni les hallucinations ni les raisonnements erronés.
Pourquoi GPT-4 était-il important pour les créateurs d’applications ?
Son meilleur suivi des instructions et les contrôles de son API permettaient des flux de travail plus fiables qu’un modèle générique de complétion.
Comment une équipe doit-elle déterminer si GPT-4 est assez performant ?
Elle doit l’évaluer sur des tâches représentatives, des cas d’échec, le coût, la latence et les conséquences d’une mauvaise réponse.
Pourquoi l’entrée d’images rendait-elle GPT-4 plus performant ?
Il pouvait analyser l’information visuelle avec le texte pour des tâches comme la rédaction de légendes, la classification et le raisonnement sur des images.