Nous traitons maintenant d’immenses quantités de données grâce aux superpouvoirs des grands modèles, dont le célèbre ChatGPT, mais aussi les modèles de vision et tous les autres types avec lesquels vous travaillez peut-être en ce moment.
En effet, le secret de ces modèles ne repose pas uniquement sur l’énorme quantité de données utilisées pour leur entraînement, mais aussi sur la qualité de ces données. Qu’est-ce que cela signifie ? Que nous avons besoin d’une grande quantité de données excellentes, équilibrées et variées. Et comme scientifiques de données, nous savons tous à quel point il peut être complexe et pénible de construire rapidement un aussi bon dataset, à grande échelle et peut-être avec un budget limité. Et si nous pouvions obtenir de l’aide pour le construire, ou même automatiser cette aide ? Eh bien, voilà le rôle de l’apprentissage actif.
En une phrase, l’objectif de l’apprentissage actif consiste à utiliser le moins de données d’entraînement possible afin d’optimiser l’annotation de tout votre dataset et d’entraîner le meilleur modèle possible.
Cycle d’apprentissage actif. Image d’Encord, partagée avec autorisation.
Il s’agit d’une approche d’apprentissage supervisé qui fait des allers-retours entre les prédictions de votre modèle et vos données. Vous pouvez commencer avec un petit lot soigneusement sélectionné de données annotées et entraîner votre modèle avec celui-ci. Vous n’avez pas besoin d’attendre que tout votre dataset de millions d’images soit prêt. Lancez-le tout de suite. Avec l’apprentissage actif, vous pouvez ensuite utiliser votre modèle sur des données jamais vues et demander à des annotateurs humains de les étiqueter. Mais ce n’est pas tout. Nous pouvons aussi évaluer l’exactitude des prédictions et utiliser différentes fonctions d’acquisition, soit des fonctions qui sélectionnent les prochaines données jamais vues à annoter. Nous pouvons ainsi quantifier l’impact d’un plus grand volume de données étiquetées ou d’une amélioration de l’exactitude des étiquettes produites sur la performance du modèle.
La façon dont vous entraînez les modèles vous permet d’analyser leur confiance dans leurs prédictions. Les prédictions à faible niveau de confiance demanderont automatiquement que des images supplémentaires de ce type soient étiquetées, tandis que les prédictions à haut niveau de confiance n’auront pas besoin de données supplémentaires.
En gros, vous économiserez donc du temps et de l’argent en annotant moins d’images au bout du compte, tout en obtenant le modèle le plus optimisé possible. Plutôt intéressant, non ? L’apprentissage actif est l’approche la plus prometteuse pour travailler avec des datasets à grande échelle.
Représentation de l’apprentissage actif. Image de Kumar et al..
Il faut retenir quelques notions clés importantes sur l’apprentissage actif. La plus importante est qu’il fait appel à des humains, comme vous pouvez clairement le voir au centre de cette excellente représentation. Des humains devront encore annoter les données, ce qui vous donne un contrôle complet sur la qualité des prédictions de votre modèle. Il ne s’agit plus d’une boîte noire complète entraînée avec des millions d’images. Vous suivez son développement de façon itérative et l’aidez à s’améliorer lorsqu’il échoue. Je crois que cette caractéristique est ce qui rend l’approche la plus importante et la plus intéressante. Bien sûr, elle a l’inconvénient d’augmenter les coûts comparativement aux approches non supervisées qui ne demandent personne. Elle permet toutefois de limiter ces coûts en entraînant le modèle uniquement là où il en a besoin, plutôt que de lui fournir le plus de données possible en espérant obtenir un bon résultat. De plus, la réduction du temps nécessaire pour entraîner le modèle et le mettre en production dépasse souvent ces coûts. Vous pouvez aussi utiliser des outils d’annotation automatique, puis corriger leurs résultats manuellement, ce qui réduit encore les coûts.
Ensuite, vous aurez évidemment votre ensemble de données étiquetées, que nous connaissons tous. Cet ensemble est celui sur lequel votre modèle actuel est entraîné, tandis que l’ensemble non étiqueté contient les données que vous pourriez utiliser, mais qui n’ont pas encore été annotées.
Une autre notion clé répond à la question la plus importante que vous avez peut-être déjà en tête : comment trouver les mauvaises données à annoter et à ajouter à l’entraînement ? La solution porte le nom de stratégies de requête. Elles sont essentielles à tout algorithme d’apprentissage actif, puisqu’elles décident quelles données étiqueter et lesquelles laisser de côté. Il existe plusieurs approches pour trouver, dans notre grand ensemble de données non étiquetées, les sous-ensembles les plus informatifs dont l’annotation aidera le plus notre modèle. L’échantillonnage par incertitude en est un exemple : vous testez votre modèle actuel sur vos données non étiquetées et sélectionnez les exemples classés avec le moins de confiance afin de les annoter.
Représentation de l’apprentissage actif avec l’approche Query by Committee. Image de Kumar et al..
Une autre technique présentée ici est l’approche Query by Committee, ou QBC. Nous avons alors plusieurs modèles, soit notre comité de modèles.
Ils seront tous entraînés sur un sous-ensemble différent de nos données étiquetées et comprendront donc notre problème différemment.
Image de l’auteur.
Chacun de ces modèles formulera une hypothèse sur la classification de nos données non étiquetées. Leurs hypothèses devraient être assez semblables, mais rester différentes, parce qu’ils voient essentiellement le monde de façons différentes, comme nous. Nous avons vécu des expériences différentes et vu différents animaux dans notre vie, tout en partageant les mêmes concepts d’un chat et d’un chien. Ensuite, c’est simple : les données à annoter sont celles sur lesquelles nos modèles sont le plus en désaccord, ce qui signifie qu’elles sont difficiles à comprendre. Nous recommençons alors en envoyant les données sélectionnées à nos experts et en les annotant continuellement ! Il s’agit bien sûr d’une explication de base de l’apprentissage actif avec un exemple de stratégie de requête, qui est certainement la partie la plus intéressante. Dites-moi si vous aimeriez voir d’autres vidéos sur des stratégies d’apprentissage automatique comme celle-ci ! Un exemple clair du processus d’apprentissage actif se produit lorsque vous répondez à des CAPTCHA sur Google. Vous aidez Google à identifier des images complexes et à construire des datasets en vous utilisant, avec beaucoup d’autres personnes, comme jury d’un comité d’annotation. L’entreprise construit ainsi des datasets excellents et peu coûteux tout en vérifiant que vous êtes humain, ce qui sert deux objectifs. Alors, la prochaine fois qu’un CAPTCHA vous agacera, pensez simplement au fait que vous aidez les modèles d’IA à progresser !
Ressources
https://link.springer.com/article/10.1007/s11390-020-9487-4
https://encord.com/blog/active-learning-computer-vision-guide/
https://encord.com/blog/active-learning-the-ml-team-of-the-future/
FAQ
Qu’est-ce que l’apprentissage actif en IA ?
L’apprentissage actif permet à un modèle de repérer les exemples non étiquetés qui lui apprendraient le plus afin que des humains les annotent plutôt que de tout étiqueter.
Comment un modèle choisit-il les exemples qui ont besoin d’étiquettes ?
Il peut demander des étiquettes pour les prédictions à faible confiance ou pour les exemples sur lesquels plusieurs modèles sont le plus fortement en désaccord.
Pourquoi la qualité des données compte-t-elle autant que leur quantité ?
Un grand dataset offre tout de même une mauvaise performance si ses exemples sont déséquilibrés, répétitifs ou mal étiquetés, surtout dans les cas que le modèle trouve difficiles.
Quel est le principal compromis de coût de l’apprentissage actif ?
L’annotation humaine coûte plus cher qu’un entraînement entièrement non supervisé, mais cibler uniquement les exemples utiles peut demander beaucoup moins d’étiquettes au total.
Quand l’apprentissage actif est-il le plus utile ?
Il est utile lorsque les données non étiquetées sont abondantes, que les étiquettes d’experts coûtent cher et que le modèle actuel peut révéler où son incertitude est la plus élevée.