À retenir
- GPT-3 est utile lorsqu’il s’intègre à un workflow linguistique précis, pas lorsqu’il est traité comme une forme de magie générale.
- Les premiers tests devraient mesurer la qualité, le coût, la confidentialité, les hallucinations et les endroits où la révision humaine reste nécessaire.
- Un prototype interne ciblé vous en apprend habituellement davantage qu’un vaste chatbot qui essaie de répondre à tout.
Dans cet article, je vais commencer par une courte introduction pour expliquer ce qu’est GPT-3. Nous verrons ensuite pourquoi et comment GPT-3 peut vous être utile, à vous et à votre entreprise, avec de nombreux exemples d’applications réelles. Puis, je vous expliquerai comment obtenir l’accès à cette API et pourquoi vous vous retrouvez sur une liste d’attente. Je donnerai quelques conseils pour être accepté plus rapidement dans cette API et je terminerai avec une démonstration vidéo de ces applications extraordinaires créées avec celle-ci.
Qu’est-ce que GPT-3?
GPT-3 est un nouveau programme de génération de texte d’OpenAI. Ce modèle est pré-entraîné, puis on n’y touche plus. Plus précisément, GPT-3 a été entraîné sur un jeu de données d’un demi-billion de mots avec 175 milliards de paramètres, soit 10 fois plus que tout modèle de langage non clairsemé précédent. Ensuite, il n’y a plus de fine-tuning à faire sur ce modèle, seulement des démonstrations few-shot précisées entièrement par des interactions textuelles avec celui-ci. Par exemple, une phrase en anglais et sa traduction française.
Image tirée de Language Models are Few-Shot Learners
Le few-shot consiste à fournir un certain nombre d’exemples de contexte et de complétion, puis un dernier exemple de contexte que le modèle doit compléter sans modifier ses paramètres. Le modèle réussit même à rivaliser avec les approches de pointe précédentes directement ajustées à la tâche précise! En résumé, il fonctionne très bien parce que sa mémoire contient pratiquement tous les textes publiés par les humains sur Internet. Je vais arrêter ici mon survol de l’article, mais vous devriez absolument consulter leur article scientifique pour mieux comprendre ce nouveau modèle GPT-3. Le lien se trouve à la fin de cet article.
Comment GPT-3 peut-il vous aider, vous et votre entreprise?
Photo de Rohit Farmer sur Unsplash
Maintenant que nous comprenons mieux ce modèle « GPT-3 », vous pensez peut-être : « C’est cool, mais comment peut-il m’aider et comment puis-je l’utiliser? » Eh bien, il peut vous aider de nombreuses façons. Tout dépend de la tâche que vous voulez lui confier, mais il s’agit d’un modèle d’apprentissage profond extrêmement polyvalent qui peut servir à beaucoup d’applications. Les prochaines sections présentent certaines des applications actuelles créées par des gens et la façon dont vous pouvez les utiliser. En résumé, GPT-3 a été entraîné sur pratiquement tout Internet. Il peut donc accomplir beaucoup de choses différentes, qu’il s’agisse de programmer pour vous ou d’effectuer des tâches de traitement du langage naturel, comme résumer du texte ou même faire l’inverse en générant du texte à partir de résumés, et bien plus encore. Vous voyez déjà qu’il couvre de nombreuses applications potentielles et qu’il reste encore énormément de choses à découvrir. C’est exactement ce qu’OpenAI cherche en donnant accès à son API, un sujet que nous approfondirons dans les sections ci-dessous.
Des exemples concrets de ce que GPT-3 peut faire
Il existe déjà de nombreux exemples d’applications de GPT-3, même si le modèle a seulement été publié au début de l’été. Comme je l’ai dit, il couvre un vaste éventail d’applications, notamment :
- Générer des emails à partir d’une courte description
Ici, @SamanyouGarg a utilisé GPT-3 pour créer un module complémentaire Gmail mobile et Web qui transforme de brèves descriptions en emails professionnels bien formatés et grammaticalement corrects.
Vidéo de @SamanyouGarg
- Générer du code Python à partir d’une description
Cette application de démonstration créée par Samanyou Garg permet de générer le code d’une API Flask (Python) en décrivant simplement les fonctions en anglais à GPT-3.
Vidéo de @ravikikan
- Générer des visages à partir d’une description précise
Shiv Kanthb a réussi à générer des visages à partir d’une description précise, par exemple « Generate a front-facing young black adult female with brown eyes and long hair ».
Vidéo de @shivkanthb
- Générer un modèle d’apprentissage profond à partir d’une description
Matt Shumer a créé un générateur de modèles d’apprentissage profond fondé sur une description. Demandez à GPT-3 de « Build a model to classify images into 5 groups. The dataset has 25000 images, with an input shape of 500x500 » et il produit du code Keras valide avec les bonnes formes d’input et d’output.
Vidéo de @mattshumer_
- Résumer vos emails
Si vous êtes trop occupé pour lire chaque email reçu, Magic Email peut les résumer pour vous avec GPT-3!
Vidéo de https://magicemail.io/
@levelsio a créé un générateur d’idées d’affaires avec GPT-3!
Le principe de ce site Web consiste à vous inspirer pour créer quelque chose lorsque vous manquez d’idées.
Image de l’auteur, tirée de ideasaiN
Essayez-le vous-même : https://ideasai.net/
Et beaucoup d’autres suivront. Vous serez peut-être l’auteur de la prochaine application unique basée sur GPT-3!
Notez qu’il s’agit seulement de petits GIFs qui présentent les applications. J’ai lié une vidéo plus approfondie sur les applications de GPT-3 à la fin de cet article si vous souhaitez en voir davantage.
Comment obtenir l’accès à leur API?
Photo de Diego PH sur Unsplash
Il ne reste maintenant que deux questions : comment GPT-3 peut-il vous aider précisément, et comment pouvez-vous l’utiliser? La réponse à la première question est simple. Il peut vous aider à accomplir une tâche précise qui fait appel aux mots, puisqu’il s’agit principalement d’un modèle de traitement du langage naturel. Comme nous venons de le voir, il peut accomplir énormément de choses liées aux mots, et sa seule limite semble être votre imagination. Si vous pensez à une fonctionnalité qui pourrait être automatisée ou améliorée dans votre application ou votre site Web, vous devriez absolument l’essayer.
Image tirée du formulaire d’OpenAI, https://forms.office.com/Pages/ResponsePage.aspx?id=VsqMpNrmTkioFJyEllK8s0v5E5gdyQhOuZCXNuMR8i1UQjFWVTVUVEpGNkg3U1FNRDVVRFg3U0w4Vi4u
La réponse à la deuxième question, « comment pouvez-vous l’utiliser? », est un peu plus complexe. La réponse simple consiste à faire comme tout le monde et à remplir le formulaire pour obtenir un accès. Le formulaire est lié à la fin de cet article si vous souhaitez utiliser l’API de GPT-3. Malheureusement, comme vous le savez peut-être, l’engouement autour de GPT-3 rend l’acceptation assez difficile, puisqu’un très grand nombre de personnes veulent l’essayer. Eh bien, il existe peut-être une solution de rechange, ou du moins une façon d’être accepté plus rapidement. Pour cela, nous devons d’abord comprendre pourquoi OpenAI a créé une API et ce que l’entreprise cherche avec sa sortie. Les raisons sont en fait assez simples. L’API est en version bêta, et son accès est donc limité à certaines personnes, comme c’est le cas pour la plupart des applications dans cette phase. Voilà pourquoi il existe une liste d’attente.
L’objectif d’OpenAI
Photo de Sharon McCutcheon sur Unsplash
Il ne reste qu’une question à régler : « J’ai rempli le formulaire il y a des mois et je ne suis toujours pas accepté, pourquoi?! » Cette question est liée à ce qu’OpenAI cherche en lançant GPT-3 sous forme d’API. L’objectif d’OpenAI consiste à découvrir des applications commerciales sérieuses pour l’API de GPT-3. L’entreprise veut trouver de nouvelles façons dont d’autres personnes peuvent gagner de l’argent grâce à son API. Il peut s’agir de l’utiliser pour générer directement des revenus ou simplement pour transformer un secteur ou un produit et le rendre plus rentable. Voici donc mes suggestions pour vous aider à obtenir l’accès à cette API.
Tout d’abord, vous devez remplir le formulaire sans mentir. Ensuite, parlez de vous, de votre entreprise et de la façon précise dont GPT-3 pourrait vous servir. C’est la partie la plus importante. Cette application de GPT-3 doit être unique. Elle doit être nouvelle, tout en pouvant aider OpenAI grâce à son caractère impressionnant et en montrant une nouvelle façon d’utiliser GPT-3 pour gagner plus d’argent. Vous devez aussi montrer que vous comprenez le fonctionnement de GPT-3, ainsi que les avantages potentiels et les risques de votre cas d’utilisation, afin que l’équipe d’OpenAI sache qu’elle peut faire confiance à votre jugement et accepter que son nom soit associé au vôtre.
Enfin, je vous suggère aussi d’essayer de communiquer personnellement avec eux. Après quelques recherches, voici ce que j’ai trouvé sur Twitter :
Image de l’auteur
Je les ai ensuite contactés directement pour leur expliquer ce que j’aimerais faire avec le modèle et leur donner quelques détails sur mon entreprise. Voici la réponse que j’ai reçue :
Image de l’auteur
Ce n’est peut-être pas ce que vous vouliez entendre, mais c’est tout de même mieux que d’attendre sans rien faire.
J’espère que cet article vous a aidé à comprendre leur réflexion derrière les décisions entourant GPT-3. Bonne chance dans vos démarches, et j’espère que vous obtiendrez l’accès à cette API et que vous l’utiliserez avec succès! Dites-moi ce que vous aimeriez faire avec GPT-3 dans les commentaires et n’hésitez pas à partager vos autres conseils. J’adorerais les lire!
Références
Article scientifique sur GPT-3,https://arxiv.org/pdf/2005.14165.pdf
Vidéo explicative sur GPT-3*,*https://www.youtube.com/watch?v=gDDnTZchKec
Demande d’accès à l’API d’OpenAI,https://forms.office.com/Pages/ResponsePage.aspx?id=VsqMpNrmTkioFJyEllK8sx3ELsv0PEhHphhNz30FttVUNkYwTlNPMVI1V0lXNjExMlExUlc4SE5YSS4u
Si vous aimez mon travail et souhaitez rester à jour dans le domaine de l’IA, vous devriez absolument me suivre sur mes autres réseaux sociaux (LinkedIn, Twitter) et vous abonner à mon infolettre hebdomadaire sur l’IA!
Pour me soutenir :
- La meilleure façon de me soutenir est de me suivre sur Medium ou de vous abonner à ma chaîne YouTube si vous préférez le format vidéo.
- Soutenez mon travail sur Patreon
- Rejoignez notre communauté Discord : Learn AI Together et partagez vos projets, vos articles scientifiques et vos meilleurs cours, trouvez des coéquipiers pour Kaggle et bien plus encore!
FAQ
GPT-3 peut-il aider une entreprise?
Oui, si la tâche repose fortement sur le langage, est répétitive et facile à réviser, comme la rédaction, le résumé, la classification, l’extraction ou l’aide aux équipes de soutien.
Quels cas d’utilisation de GPT-3 sont les plus faciles à tester en premier?
Commencez par des workflows à faible risque comme les résumés internes, les premières ébauches, les assistants de recherche, le tri du soutien, les réponses fondées sur une base de connaissances ou l’extraction de documents.
Que devraient mesurer les équipes avant d’utiliser GPT-3?
Mesurez la qualité des réponses, les échecs, la latence, le coût, les hallucinations, les exigences de confidentialité et le temps gagné après avoir inclus la révision humaine.
Quand GPT-3 ne suffit-il pas à lui seul?
Il ne suffit pas lorsque la réponse exige des données privées, du contexte récent, des citations exactes, l’utilisation d’outils, des règles d’affaires ou des décisions qui présentent un risque réel.
Comment une entreprise devrait-elle commencer avec GPT-3?
Choisissez un workflow pénible, définissez ce qui constitue un bon output, construisez un petit prototype et comparez-le au processus manuel actuel.
Comment le prompting few-shot fonctionne-t-il avec GPT-3?
Vous placez quelques exemples d’inputs et d’outputs dans le prompt, puis vous donnez au modèle un nouvel input à compléter. Les paramètres du modèle ne changent pas.