Puisque presque tout le monde a maintenant utilisé ChatGPT et que nous continuerons à l’utiliser, ou à utiliser un autre modèle semblable, de plus en plus, je crois qu’il est important que tout le monde comprenne le vocabulaire employé dans mon domaine.
Voici un extrait de mon balado avec Logan Kilpatrick, developer advocate chez OpenAI. Je lui ai demandé une définition en « une seule phrase » des outils les plus utiles et populaires associés à GPT, ou à l’IA générative, en 2023.
Voici la liste finale pour vous :
Qu’est-ce que GPT ?
GPT est essentiellement l’architecture du modèle. GPT signifie Generative Pre-trained Transformers. C’est la technologie sur laquelle reposent GPT-4, GPT-3.5 et tous ces modèles.
Quelle est la différence entre ChatGPT et GPT-4 ?
ChatGPT est un site Web, une interface utilisateur et un produit d’ingénierie qui sert d’interface aux modèles d’apprentissage automatique d’OpenAI, dont GPT-4 fait partie.
Il y a donc GPT-4, GPT-3.5 et plusieurs variantes de GPT-3.5. Ce sont les véritables modèles d’apprentissage automatique. ChatGPT est l’interface utilisateur dans laquelle vous interagissez avec ces modèles.
Qu’est-ce qu’un token ?
Les tokens sont la façon dont le modèle comprend le texte. Au lieu de le comprendre au niveau des mots ou des caractères individuels, il le comprend au niveau des tokens.
Si vous cherchez OpenAI Tokenizer dans votre moteur de recherche préféré, vous trouverez une belle explication visuelle du fonctionnement réel de ce processus de tokenisation.
Qu’est-ce que l’alignement ?
L’alignement consiste à prendre un modèle de base et à le rendre réellement plus utile pour un humain. Tout de suite après l’entraînement d’un grand modèle de langage, celui-ci n’est généralement ni très utile ni très sécuritaire sous sa forme initiale. On peut toutefois lui faire suivre tout ce processus d’alignement pour mieux l’adapter à ce que les humains veulent voir.
Qu’est-ce que le RLHF ?
Le RLHF fait en quelque sorte partie de ce processus d’alignement, pendant lequel on ajuste le modèle à partir d’un grand nombre de préférences humaines.
On peut montrer plusieurs exemples de résultats, puis laisser les utilisateurs, de véritables humains, décider lequel leur convient le mieux.
Ensuite, on ajuste le modèle afin qu’il choisisse plus souvent les options qui sont plus faciles à interpréter pour nous, les humains.
Qu’est-ce qu’un prompt et qu’est-ce qu’un ingénieur de prompts ?
Les prompts sont simplement du texte que vous envoyez au modèle.
Il peut s’agir de quelque chose d’aussi simple qu’une question, une affirmation ou une commande, mais aussi de quelque chose de très complexe, comme un processus de plusieurs paragraphes ou de 20 (n) étapes. Un prompt décrit essentiellement ce que vous voulez que le modèle fasse.
L’ingénierie de prompts est en quelque sorte le processus itératif qui consiste à améliorer le prompt afin que le modèle fasse mieux ce que vous voulez. En règle générale, le modèle ne fait pas toujours ce que vous voulez la première fois que vous le lui demandez. Au fil de votre ingénierie de prompts, vous modifiez votre prompt pour voir si vous pouvez rapprocher le modèle du résultat souhaité.
Qu’est-ce qu’une modalité ou un modèle multimodal ?
Modèle multimodal est un vrai virelangue. GPT-4 est le premier modèle multimodal d’OpenAI, ce qui signifie simplement qu’il peut recevoir du texte et des images en entrée.
Il traite plusieurs modalités, soit le texte et les images dans ce cas-ci, et peut-être d’autres modalités à l’avenir. Pour le moment, il s’agit du texte et des images.
Qu’est-ce qu’une hallucination de modèle ?
Les hallucinations de modèle surviennent lorsque vous posez ce que nous, les humains, considérons comme une question factuelle, par exemple « combien y a-t-il de chiens dans l’État de l’Illinois, aux États-Unis ? », et que le modèle génère une réponse qui semble potentiellement valide, mais qui est en réalité inventée de toutes pièces.
Cela nous ramène simplement au processus par lequel les résultats de ces grands modèles de langage sont créés. Dans ce cas-ci, plutôt que de dire que le modèle ment ou nous donne une mauvaise réponse, nous parlons d’une hallucination de modèle.
Qu’est-ce qu’un agent ou un agent GPT ?
Les agents GPT constituent un nouveau domaine où, au lieu d’avancer une étape à la fois pendant que l’humain améliore le prompt et ajoute des étapes, on définit un ensemble d’objectifs et on laisse le modèle rédiger autant de prompts et exécuter autant de commandes que nécessaire pour accomplir l’objectif fixé.
Cette approche peut mener à des choses vraiment intéressantes, mais aussi à des choses potentiellement nuisibles.
Il s’agit sans aucun doute de l’un des cas d’utilisation émergents des grands modèles de langage.
Qu’est-ce que l’AGI ?
AGI signifie intelligence artificielle générale. Il existe de nombreuses définitions différentes de l’AGI.
Selon la définition d’OpenAI, on atteint l’AGI lorsque ces systèmes d’intelligence artificielle sont capables d’accomplir tout le travail économiquement viable qu’un humain peut faire.
Une fois ce point atteint, OpenAI pourra donc cocher la case qui indique que nous sommes arrivés à l’AGI, mais les définitions varient beaucoup d’une personne à l’autre.
Le test de Turing était une sorte de premier exemple. S’il était impossible de distinguer si vous discutiez avec un humain ou un robot, on pouvait considérer qu’il s’agissait de l’AGI.
Et je crois que nous avons déjà en quelque sorte dépassé ce seuil.
Il existe de nombreuses définitions différentes.
Et voilà ! Ce sont les termes les plus importants à comprendre lorsque vous travaillez avec les produits d’OpenAI ou l’IA générative en 2023 ! Si vous avez parcouru la liste, je vous invite vraiment à regarder l’épisode du balado, ou à l’écouter sur Spotify, avec Logan :
FAQ
Pourquoi un dictionnaire de l’IA est-il utile aux débutants ?
Il donne une définition pratique aux termes courants, ce qui permet de suivre plus facilement les articles scientifiques, les annonces de produits et les discussions techniques sans devoir deviner à partir du contexte.
Que signifie l’alignement pour un modèle de langage ?
L’alignement adapte un modèle de base afin que ses réponses soient plus sécuritaires, plus utiles et plus proches de ce que les gens attendent du système.
Pourquoi un modèle de base nouvellement entraîné n’est-il pas immédiatement prêt pour les utilisateurs ?
Le préentraînement lui enseigne de vastes tendances linguistiques, mais le modèle brut a encore besoin de fine-tuning avant que son comportement soit systématiquement utile ou sécuritaire.
Qu’est-ce que l’ingénierie de prompts ?
L’ingénierie de prompts est le processus itératif qui consiste à modifier les instructions et le contexte jusqu’à ce qu’un modèle produise un résultat mieux adapté à la tâche visée.
Que signifie multimodal en IA ?
Un modèle multimodal peut traiter plus d’un type d’entrée, comme du texte et des images, au sein d’un même système.