Bonjour tout le monde, ici Louis avec un autre épisode passionnant du What’s AI Podcast. J’ai eu le privilège d’avoir une excellente conversation avec Auxane Boch, experte en éthique et doctorante, et j’ai très hâte de partager avec vous tout ce que nous y avons découvert.
Cette discussion vise à démystifier l’éthique, la responsabilité et la gouvernance de l’IA. Auxane établit une distinction claire et éclairante entre l’IA responsable et la gouvernance de l’IA. Elle décrit l’IA responsable comme un objectif, un concept qui aligne l’IA sur des valeurs culturelles, réglementaires et sociales. La gouvernance de l’IA, de son côté, est la feuille de route : les étapes concrètes et les stratégies employées pour atteindre cet état idéal d’IA responsable.
L’un des moments marquants de notre conversation a été l’exploration des dynamiques culturelles de l’IA responsable. Auxane souligne qu’il ne s’agit pas d’un concept universel, mais d’une notion étroitement liée aux valeurs sociales et aux normes de communautés précises. Cette observation montre toute la complexité et les multiples facettes de l’intégration de l’éthique à l’IA.
Nous avons aussi abordé l’équilibre délicat entre innovation et réglementation, un sujet au cœur des discussions mondiales sur l’IA. Les réflexions d’Auxane sur les approches opposées des États-Unis et de l’Europe apportent une perspective nuancée à ce débat toujours en cours.
[
The What’s AI Weekly par Louis-François Bouchard | Substack
Dans un monde où l’IA évolue rapidement et où la réglementation tente de suivre le rythme, l’expertise d’Auxane sert de guide. Elle se penche sur l’autoréglementation, le rôle des codes de conduite et les prochaines règles de l’Union européenne, ce qui offre une vue d’ensemble du paysage de l’éthique de l’IA.
J’ai très hâte que vous découvriez ces réflexions et bien plus encore. Regardez la conversation complète sur YouTube ou écoutez The What’s AI Podcast sur votre plateforme de streaming préférée. Vous ne voudrez pas manquer ce mélange de profondeur, de pertinence et de clarté !
Transcription complète :
Louis: [00:00:00]Voici une entrevue avec Auxane Boch, associée de recherche et doctorante à l’Institute for Ethics in AI. Auxane est aussi formatrice et consultante en IA responsable et en éthique des jeux vidéo. Elle est également membre de Women in AI et responsable de l’organisation à Munich. Ses principaux sujets de recherche sont l’éthique, l’IA responsable et les jeux vidéo, ainsi que la robotique sociale. Dans cette entrevue, vous en apprendrez beaucoup sur l’éthique de l’IA, sa gouvernance et l’IA responsable. J’espère que cette discussion démystifiera un peu tous ces sous-domaines de l’IA et montrera l’importance de créer des technologies responsables. Auxane partage aussi de nombreuses observations très utiles pour concevoir des produits d’IA plus responsables. Si vous aimez cet épisode, prenez une seconde pour laisser un j’aime et vous abonner sur YouTube, ou pour laisser un avis cinq étoiles sur Spotify ou Apple Podcasts. J’espère que vous aimerez cet épisode.
Louis: Je voulais simplement [00:01:00] commencer par vous demander ce qu’est l’IA responsable par rapport à la gouvernance de l’IA. Que sont ces deux concepts et quelle est leur différence ?
Auxane: D’accord, c’est une très bonne question, parce qu’on nous la pose souvent, même par des personnes dont c’est le métier. Je dois donc dire que nous nous la posons aussi très souvent.
Auxane: L’IA responsable est plutôt un concept, si je peux dire. Elle représente surtout l’objectif que vous voulez atteindre. C’est un peu comme atteindre la liberté. Vous voulez arriver à une IA culturellement acceptable, conforme à la réglementation et aux valeurs sociales de la communauté qui l’utilise.
Auxane: Elle sera bonne pour l’environnement, ou du moins pas trop mauvaise, et aidera à atteindre des objectifs sociaux, environnementaux et, plus largement, les ODD des Nations Unies. L’IA responsable [00:02:00] est donc vraiment un concept. La gouvernance de l’IA correspond plutôt à l’application de ce concept. Comment y arriver ?
Auxane: Quelles étapes devons-nous suivre ? Que voulez-vous voir, sur le plan technique, dans votre système d’IA ? Que voulez-vous également voir dans les processus de votre entreprise ? L’un est donc l’idée, et l’autre, la façon de l’atteindre.
Louis: Ah, c’est plus clair. Notre objectif ultime est donc l’IA responsable, mais nous ne cherchons pas directement à « être responsables », au sens où nous ne définissons pas des étapes pour le devenir.
Louis: Nous définissons plutôt des étapes pour, par exemple, recueillir des données de manière éthique et respecter les droits de la personne, entre autres. Ce n’est donc pas comme si nous finissions par « être responsables ». Nous ne devrions pas chercher des étapes permettant de devenir responsables d’une certaine manière, c’est bien ça ?
Auxane: Vous pouvez donc avoir de plus petits objectifs qui relèvent de décisions responsables en matière d’IA. Prenons, par exemple, l’évaluation des droits fondamentaux. « Droits fondamentaux » est le jargon de l’Union européenne pour parler des droits de la personne. On reste dans le même domaine. Les évaluations des droits fondamentaux dont il est question, notamment dans la loi européenne sur l’IA et dans le cadre des évaluations des systèmes d’IA à haut risque, contribuent à l’IA responsable par ces mesures précises. Je ne peux pas vous dire qu’il existe une [00:04:00] recette parfaite, ou du moins nous ne l’avons pas trouvée. Et je ne crois pas qu’il existe une recette parfaite pour le monde entier, puisque l’atteinte d’une IA responsable dépend énormément des cultures.
Auxane: Nous sommes toutefois très capables de reconnaître ce qui n’est pas de l’IA responsable. En psychologie, on fait souvent cela dans la recherche : on constate que quelque chose ne fonctionne pas correctement dans le comportement ou les processus cognitifs d’une personne, puis on apprend comment cette partie du cerveau fonctionne en observant comment elle ne fonctionne pas.
Auxane: Je pense qu’on retrouve aussi cet aspect dans l’IA responsable. Prenez la reconnaissance faciale utilisée à des fins policières. En Europe, nous ne considérerions pas vraiment cet usage comme responsable. Ailleurs, par contre, certaines cultures l’acceptent tout à fait. Nous revenons donc à l’idée que [00:05:00] l’IA responsable est profondément culturelle.
Louis: C’est donc très itératif, tout comme l’IA. On déploie une nouvelle technologie, puis on essaie essentiellement de corriger ce qui ne fonctionne pas.
Auxane: Exactement. Et je dirais qu’il existe aussi deux visions du monde très différentes à ce sujet en Occident. Quand je parle de l’Occident, je veux dire l’Amérique du Nord et l’Europe.
Auxane: Vous avez ce que j’appellerais personnellement le Far West, soit les États-Unis et le Canada, mais surtout les États-Unis. En réalité, le Canada tient lui aussi beaucoup à réglementer, ou au moins à établir des voies et des lignes directrices. L’approche consiste à lancer quelque chose, à voir ce qui se passe, puis à s’adapter. Mais on commence par l’essayer, n’est-ce pas ?
Auxane: Nous voyons maintenant qu’ils s’adaptent et tentent d’adopter certaines règles. En Europe, nous sommes beaucoup plus prudents, je dirais, face à ces technologies. Personnellement, je me reconnais dans cette approche [00:06:00] un peu plus prudente, mais je comprends qu’elle est aussi très culturelle : réglementons maintenant, puis adaptons les règles au besoin, mais commençons au moins par établir un cadre. Essayons de ne pas aller trop loin. De toute façon, la réglementation prend une éternité. Nous devons mettre 27 pays d’accord, ce qui demande déjà beaucoup de temps.
Louis: Mais pensez-vous que cela puisse ralentir les progrès dans le domaine ?
Auxane: C’est le grand débat du moment, n’est-ce pas ? L’innovation contre la réglementation. Je sais qu’il existe plusieurs opinions à ce sujet.
Auxane: Tout un discours affirme que l’innovation est plus importante que la réglementation et qu’on peut aussi réglementer d’une certaine façon à l’interne, en demandant par exemple aux entreprises de s’autoréglementer. À l’opposé, l’argument très prudent veut que les gouvernements et les organismes gouvernementaux s’en occupent, parce qu’on ne peut pas vraiment faire confiance aux individus et aux entreprises, [00:07:00] puisque les entreprises sont tout de même composées d’êtres humains.
Auxane: Je ne sais pas exactement où je me situe. Je sais que je crois fermement aux normes et aux certifications. C’est une approche à laquelle j’adhère vraiment : le droit souple, le travail de l’ISO, celui de l’IEEE, ce genre de certification et de normalisation. Je ne crois pas que ce soit parfait non plus, mais c’est là-dessus que j’aurais tendance à me concentrer le plus.
Auxane: Pour la réglementation générale, je crois qu’il faut au moins un cadre venant du gouvernement, oui. Il faut au moins un cadre, qu’on peut ensuite préciser au moyen de certifications et d’autres mesures.
Louis: Comment une entreprise peut-elle s’autoréglementer ? Est-ce que le processus peut être biaisé ? Peut-elle, par exemple, embaucher une personne comme vous pour vérifier son travail ? Est-ce risqué puisque l’entreprise gère elle-même le processus et peut donc essentiellement décider si son approche est responsable ou non ? Comment cela [00:08:00] fonctionne-t-il ?
Auxane: Je ne suis pas spécialiste des affaires. Je vais vous dire ce que j’en sais, mais il y a probablement beaucoup plus à dire. Les entreprises peuvent établir des codes de conduite et les rendre publics. Elles peuvent aussi, par exemple, effectuer depuis longtemps leur évaluation ESG. C’est semblable : économique, social et… je suis tellement mauvaise avec les acronymes.
Auxane: Bref, comme pour les ODD, il s’agit d’évaluations qui permettent de déterminer à quel point vous vous rapprochez de certains indicateurs, notamment dans votre chaîne d’approvisionnement. Les entreprises pouvaient donc réaliser ces évaluations, les présenter au public et lui dire : « Regardez, voici ce que dit notre évaluation. » Et la loi ne l’exigeait pas, du moins à ma connaissance.
Auxane: Les entreprises le faisaient quand même parce qu’elles voulaient montrer leurs bonnes intentions, n’est-ce pas ? Elles voulaient montrer que ce qu’elles faisaient était bien, pas seulement pour leur [00:09:00] réputation, même si cet aspect reste toujours présent en arrière-plan. Mais ce n’est pas la seule raison. Personnellement, je suis convaincue que les gens ne se réveillent pas en se disant qu’ils vont faire quelque chose de mal.
Auxane: Il y a toujours une forme de bonne intention derrière ce que les gens font. C’est pareil pour l’IA. Vous pouvez vous autoréglementer en adoptant ces codes de conduite, en allant chercher des certifications supplémentaires et en appliquant des normes qui ne vous sont pas imposées, mais que vous choisissez de suivre afin d’améliorer votre technologie.
Auxane: Et pourquoi ne pas élaborer vos propres normes, puis les rendre publiques, accessibles et à la fine pointe ? Nous avons discuté avec de nombreuses entreprises au fil des ans. J’ai participé à un projet visant à créer un cadre de responsabilisation pour les systèmes d’IA. Les sujets de l’autogouvernance et, plus largement, de la gouvernance de l’IA dans les entreprises étaient donc vraiment au cœur de ce travail.
Auxane: Nous avons tenu beaucoup d’ateliers [00:10:00] avec des acteurs de grandes et de petites entreprises. Je peux vous dire qu’ils n’étaient pas obligés d’être là ni de s’intéresser autant au sujet. Pourtant, ils étaient là. Ils voulaient vraiment en savoir davantage, comprendre comment procéder et nous expliquer leurs problèmes afin que nous puissions les aider à les résoudre.
Auxane: Je crois donc que l’intention est très bonne, et c’est cela, l’autoréglementation. Il s’agit d’une réglementation interne à votre entreprise que vous rendez idéalement publique, parce qu’il est logique que le public connaisse tout le bien que vous faites.
Louis: Je suppose donc que l’aspect public est assez important pour confirmer que vous suivez les bonnes étapes. C’est un peu comme en culturisme, lorsque vous faites des analyses sanguines ou, dans n’importe quelle compétition sportive, que vous passez volontairement un test sanguin pour prouver que vous ne prenez pas de stéroïdes. J’imagine que c’est relativement semblable : vous passez des tests ou, dans ce cas-ci, obtenez des certifications pour montrer [00:11:00] que vous faites les bonnes choses.
Auxane: Exactement. Cela sert vraiment à montrer que vous rendez des comptes, en quelque sorte, et que vous prenez des décisions responsables. Vous demandiez aussi qui élabore ces codes de conduite. Ce sont généralement les entreprises elles-mêmes. Elles peuvent demander à des tiers de travailler avec elles, et je suppose qu’il est toujours possible de faire appel à un tiers. J’ai rarement vu un poste d’éthicien dans une entreprise. Je sais que certaines en ont, mais il y a toujours des spécialistes de la conformité.
Auxane: Il y a les équipes juridiques, les équipes d’éthique ou de conformité. Ce sont généralement elles qui travaillent sur ces questions. Bien sûr, elles peuvent faire appel à des tiers. Oui, j’en profiterais pour dire que nous pouvons le faire. Évidemment. Mais, pour être juste, la décision revient à l’entreprise.
Auxane: Et si quelqu’un veut vendre un produit dans l’Union européenne au cours des prochaines années, il aura [00:12:00] bien d’autres problèmes à considérer que son code de conduite avec la nouvelle réglementation européenne. Donc…
Louis: Je sais que vous offrez un service qui aide à créer des IA plus responsables. Ma première question est donc la suivante : l’entreprise doit vouloir le faire et communiquer avec vous. Existe-t-il un cas où une entreprise serait obligée de travailler avec vous ou de faire vérifier si elle agit de manière responsable ?
Auxane: Non. Il n’est jamais obligatoire de travailler avec moi ou d’intégrer une personne comme moi à l’équipe. Nous sommes très loin de cela et je ne pense pas que ce sera le cas même à l’avenir. La personne qu’on vous oblige à avoir, c’est un avocat, pas un éthicien.
Auxane: Lorsque des entreprises viennent me voir, moi ou mes collègues, [00:13:00] elles le font toujours avec les meilleures intentions et, généralement, par intérêt aussi. Elles entendent beaucoup parler du sujet et constatent que c’est quelque chose qu’elles devraient ou voudraient faire, sans savoir comment. C’est notre travail, alors nous pouvons leur expliquer correctement et définir les étapes une par une, parce que j’imagine que vous allez aussi me demander comment on s’y prend.
Auxane: C’est du cas par cas. Nous avons des lignes directrices générales et nous connaissons très bien les droits de la personne, les droits fondamentaux, les cadres éthiques européens et ceux de différents pays. Nous avons donc plusieurs spécialités. Nous sommes aussi des chercheurs, n’est-ce pas ? Si nous ne maîtrisons pas un sujet, nous pouvons l’étudier et aller chercher l’information.
Auxane: Nous connaissons le cadre juridique, mais nous ne sommes pas juristes. Une équipe de conformité constitue donc toujours un bon soutien. Nous connaissons également les cadres dits normatifs, soit ceux qui ne sont pas juridiques [00:14:00], mais plutôt fondés sur des valeurs. Ensuite, nous définissons le contexte : où voulez-vous déployer votre produit ? Que voulez-vous qu’il fasse ?
Auxane: Pourquoi voulez-vous qu’il le fasse ? Quel est le but ? Quel est l’objectif ? Une fois ce cadre établi avec l’entreprise, nous savons pourquoi elle agit, ce qu’elle fait, pour qui elle le fait et qui sera touché. Nous pouvons alors décider s’il faut réaliser une étude de marché. Devons-nous aller voir ces populations pour comprendre précisément ce qu’elles veulent, comment elles accueilleraient le produit et quelles valeurs propres à leur contexte nous devons respecter ? Ou pouvons-nous nous en tenir aux cadres plus généraux, qui sont parfois amplement suffisants ?
Auxane: De plus, je suis aussi psychologue. Je dispose donc de plusieurs méthodologies, tout comme mes collègues, et ensemble, nous pouvons appliquer toutes celles qui sont nécessaires. J’ai également une compréhension plus individuelle. Ma [00:15:00] spécialité au sein de notre équipe est donc vraiment l’humain : au bout du compte, qu’est-ce que la personne veut obtenir du produit ?
Auxane: Ensuite, nous définissons le chemin à suivre. Dressons la liste de toutes les obligations à respecter. Dressons la liste des valeurs. Essayons aussi de comprendre les compromis, parce que nous savons que, techniquement, l’idéal ne peut jamais être atteint. Alors, que pouvons-nous atteindre ?
Auxane: Que ne pouvons-nous pas atteindre ? Pourquoi et comment ? Où plaçons-nous la limite ? Oui, c’est beaucoup de travail, mais c’est toujours très amusant. Chaque fois, c’est comme résoudre un casse-tête pour obtenir le meilleur résultat possible pour tout le monde.
Louis: Rencontrez-vous de la réticence lorsque vous faites ce travail ? Les entreprises refusent-elles souvent d’appliquer ce que vous soulevez ? Y a-t-il des éléments avec lesquels elles ne sont pas d’accord ?
Auxane: Comme elles viennent généralement nous voir de leur propre initiative, il s’agit davantage d’une discussion [00:16:00]. Nous définissons les choses ensemble. Je ne leur dis pas : « Vous devez absolument faire cela. » En réalité, elles n’y sont pas obligées. Juridiquement, rien ne les contraint à le faire.
Auxane: C’est donc beaucoup plus une discussion. Habituellement, tout se passe assez bien. En fait, je dirais que toutes les discussions que j’ai eues étaient positives et visaient à trouver ensemble la meilleure solution. Oui.
Louis: Parlez-vous habituellement aux hauts dirigeants et aux fondateurs, ou aussi aux développeurs et aux chercheurs qui créent les algorithmes ?
Auxane: Oui, habituellement, je ne parle pas à une seule personne. J’en rencontre plutôt trois, quatre ou cinq. Pour nous, je pense que c’est nécessaire, parce qu’une seule personne n’a jamais les réponses à toutes mes questions. C’est quelque chose que j’ai longtemps imaginé autrement avant de travailler étroitement avec des entreprises [00:17:00], puisque je viens vraiment du milieu universitaire.
Auxane: Avant de commencer à travailler avec des entreprises dans le cadre de mes recherches, j’étais un peu loin de cette réalité. Je pensais que ce serait simple : les gens me remettraient une sorte de livre contenant tout ce qu’il faut savoir sur leur outil, et je pourrais ensuite tout comprendre. Ce n’est vraiment pas ainsi que cela fonctionne. Nous parlons donc à beaucoup de personnes différentes.
Auxane: Et il faut toujours adapter son langage à la personne avec qui on parle. Je crois que c’est ce que j’ai le plus appris : adapter le langage.
Louis: Je suppose que, pour l’IA responsable, surtout dans les startups, on se retrouve souvent devant un cas où l’on ne sait pas ce que l’on ignore.
Louis: Elles ne savent pas qu’elles n’agissent pas de manière responsable, alors elles ne chercheront pas vraiment à le devenir davantage. Comment les entreprises peuvent-elles en prendre conscience ? Comment savent-elles qu’elles doivent s’améliorer ? [00:18:00] Faut-il mieux les former à ce sujet ? Que doit-on faire pour aider les startups qui veulent devenir plus responsables ?
Auxane: Si nous parlons précisément des startups, il faut aussi parler de l’argent qu’elles n’ont pas. Oui. C’est un problème auquel nous faisons souvent face en ce moment avec l’arrivée de la loi européenne sur l’IA. La grande question concerne les startups et les petites et moyennes entreprises : comment trouveront-elles l’argent nécessaire pour s’y adapter ?
Auxane: L’Union européenne tente donc de prévoir un plan pour elles. Mais, dans tous les cas, le problème reste le financement. Être responsable coûte beaucoup d’argent et, dernièrement, se conformer aux règles semble aussi coûter très cher. Pour revenir à la formation, je crois que l’Europe possède un écosystème très particulier, d’abord parce que les questions d’éthique, d’acceptabilité sociale et ainsi de suite y sont très présentes.
Auxane: Et maintenant, avec la loi européenne sur l’IA [00:19:00], je suis toujours surprise de rencontrer quelqu’un qui travaille en IA sans en avoir entendu parler, tellement le sujet est partout. On voit maintenant tout le monde réagir. La Chine adopte de nouvelles règles et met en place ses sandboxes. Aux États-Unis, quelques États commencent aussi à réglementer, et je crois même que la Maison-Blanche prépare maintenant des règles, ce qui est assez rare en technologie. Je les ai rarement vus faire cela. À l’Est comme à l’Ouest, les discussions se multiplient. Tout cela découle de la décision de l’Union européenne de réglementer comme elle l’a fait avec le GDPR.
Auxane: Et je ne connais aucune startup qui ignore le GDPR, soit la loi sur la protection des données, juste au cas où. J’ai donc l’impression que, d’ici [00:20:00] un an ou deux, il deviendra rare de ne pas connaître au moins l’idée de l’IA responsable, parce qu’ici, tout le monde en entend parler. En Europe, nous savons que le sujet existe. Beaucoup d’entreprises ne savent pas exactement ce que c’est, ce qui est compréhensible, mais elles savent qu’elles devraient y réfléchir.
Auxane: Habituellement, elles ne réalisent pas que leur secteur est considéré comme très risqué par la réglementation, et aussi de façon générale. Ou encore que leur application précise présente un risque élevé. Elles ne comprennent donc pas que cela demande un peu plus que de simplement vérifier si le produit risque de tuer quelqu’un, vous voyez.
Auxane: Oui, vous devez examiner chaque élément plus en détail pendant tout le cycle de vie. Maintenant, si vous quittez l’Europe, la discussion devient tout autre. Je dirais qu’il y a beaucoup de méconnaissance et que, de façon générale, la formation est plus que nécessaire. Je défends fortement l’idée d’imposer des cours dans les programmes destinés aux ingénieurs, aux informaticiens, aux data scientists et à toutes les personnes [00:21:00] qui travaillent sur les aspects techniques.
Auxane: Il faudrait leur donner des cours d’éthique, ne serait-ce que pour les sensibiliser et leur fournir un premier outil, une introduction à l’éthique en technologie. Au moins, ils en auront conscience et cela restera avec eux. Lorsqu’ils créeront leur startup, ils auront une base sur laquelle construire. Je ne m’attends pas à ce que tout le monde veuille le faire, d’abord, ni à ce que tout le monde puisse payer pour des services consacrés à quelque chose qui n’est pas obligatoire.
Auxane: J’espère tout de même que les gens prendront le temps d’en apprendre davantage s’ils ne peuvent pas payer quelqu’un pour le faire à leur place. Je ne crois pas que personne d’autre puisse faire mon travail. Au contraire, je pense que tout le monde pourrait le faire. Je ne crois simplement pas que les gens aient le temps nécessaire. Mais si une startup veut le faire elle-même pour son propre produit, elle le peut. C’est simplement beaucoup de travail.
Louis: À quoi ressemblerait un tel programme [00:22:00] sur l’éthique de l’IA ? Que peut-on enseigner aux développeurs et aux créateurs de ces modèles d’IA pour qu’ils les construisent de façon responsable et qu’ils agissent eux-mêmes de façon responsable ? Si l’on suppose que les développeurs sont des êtres humains éthiques qui agissent de manière responsable dans la société, les choses qu’ils créent ne devraient-elles pas être responsables par nature ?
Auxane: La première couche est la personne qui utilise votre outil. La deuxième est sa communauté immédiate. Quand je parle de communauté, il peut s’agir de la famille avec laquelle elle vit, de ses amis [00:23:00], de tout un quartier ou d’une ville. Ensuite vient la société, qui peut être un pays, l’Union européenne comme région du monde ou même le monde entier, selon votre cas d’usage.
Auxane: Il ne suffit donc pas d’éviter de nuire à cet utilisateur. Il faut s’assurer que l’outil convient à l’utilisateur, à sa communauté, puis à la vision d’ensemble. C’est aussi pour cela que les considérations environnementales sont très importantes. Elles relèvent de la troisième couche, l’aspect social. Et si l’outil consomme beaucoup d’énergie, vous devez penser à l’utilisateur qui recevra une facture élevée, puis à la communauté qui pourrait connaître une pénurie selon les circonstances.
Auxane: Vous voyez, chaque question et chaque point comportent de nombreuses considérations différentes. Bien sûr, certaines valeurs de base en Occident nous semblent inhérentes aux gens [00:24:00]. Nous imaginons donc qu’ils réfléchiront rationnellement ainsi : « Je vais créer un outil et je ne veux pas qu’il fasse cela. »
Auxane: Mon expérience personnelle me montre que beaucoup de gens n’y pensent pas. Ce n’est pas qu’ils s’y opposent. L’idée que cet outil auquel ils consacrent tant d’eux-mêmes, de cœur et de temps puisse mal agir ne leur vient simplement pas à l’esprit, sauf s’il s’agit d’un problème technique.
Auxane: Et pas seulement dans les systèmes scolaires. En général, ce serait formidable d’avoir des programmes ouverts et gratuits sur [00:25:00] l’IA responsable 101. Je suis certaine qu’il en existe. En fait, je sais qu’il en existe, puisque l’institut où je travaille à la TUM en offre un avec notre réseau mondial d’éthique de l’IA.
Auxane: Il existe un cours en ligne gratuit. Il n’est toutefois pas axé sur les entreprises. Il est très universitaire et porte beaucoup sur les discussions. J’aimerais voir des cours en ligne gratuits et accessibles dans plusieurs langues, pas seulement en anglais. J’aime l’anglais. C’est une langue facile. Mais je suis allée au Brésil rendre visite à certains de nos collègues et participer à une conférence avec eux.
Auxane: Toute la discussion portait sur la nécessité de l’offrir en portugais brésilien pour que les gens puissent réellement le soutenir. C’est un problème. Vous êtes francophone, je suis francophone, et nous savons tous les deux que les francophones sont terribles en anglais. Dans de nombreuses langues et de nombreux pays, les gens n’approfondissent pas toujours leur maîtrise de l’anglais comme langue seconde, et c’est tout à fait légitime.
Auxane: Nous devrions donc [00:26:00] tout rendre accessible, quelle que soit la définition de l’accessibilité. C’est aussi un enjeu majeur.
Louis: Je suppose aussi qu’un tel programme serait différent pour le propriétaire de l’entreprise, les gestionnaires et les développeurs, puisque chaque personne participe différemment à l’algorithme ou au produit en cours de création.
Auxane: Oui, vous soulevez un autre très bon point. Nous ne pouvons pas nous adresser de la même façon à tout le monde. Au bout du compte, nous devons transmettre la même information, ou au moins une partie commune et les mêmes bases. Ensuite, chacun peut approfondir les aspects propres à son travail. Mais je ne peux pas donner le même cours à une classe d’ingénierie et à une classe de gestion.
Auxane: J’enseigne aux deux groupes et je peux vous dire que c’est très différent, ce qui est tout à fait correct. C’est aussi la beauté de l’IA : sa [00:27:00] multidisciplinarité. Je crois également que les équipes de création de produits doivent être beaucoup plus multidisciplinaires. Ce n’est pas parce qu’une personne ne sait pas coder qu’elle ne devrait pas participer. L’implication des parties prenantes est très importante.
Auxane: C’est aussi quelque chose que nous pouvons faire, mais cela revient à expliquer aux gens à quoi ressemblerait un processus responsable. Bref, oui, il faut créer des cours et des ateliers. Le côté pratique de l’IA responsable échappe souvent aux gens. Ils ne réalisent pas qu’il s’agit en fait d’un sujet très concret, parce qu’on en parle à un niveau très abstrait. Pourtant, tout se ramène aux tâches que vous mettrez en place pour atteindre cette responsabilité.
Louis: Ici, au Canada, nous avons la CSST, si je me souviens bien, qui s’occupe de la santé et de la sécurité des travailleurs. Essentiellement, les [00:28:00] grandes entreprises ont une équipe qui veille à ce que tout soit sécuritaire dans l’usine ou dans des environnements semblables.
Louis: Bien sûr, les gens pensent à la sécurité, mais l’équipe les forme. Ils suivent de petits cours à l’intérieur de l’entreprise. C’est surtout l’équipe de sécurité qui cherche à rendre toute l’entreprise plus sécuritaire. Pensez-vous qu’on pourrait faire la même chose avec l’éthique, ou est-ce que la démarche doit vraiment venir de toutes les personnes impliquées ?
Auxane: Les deux. Je crois que les grandes entreprises, et les entreprises en général, finiront par avoir un responsable de l’éthique à l’interne. Pas seulement un responsable de la conformité de l’IA, c’est aussi ce que je veux dire. Son rôle couvrira la conformité et bien plus encore, évidemment. Cette personne ou cette équipe d’éthique de l’IA devra [00:29:00] poser toutes ces questions et participer au cycle de vie de l’IA.
Auxane: Cela dit, je crois aussi qu’il faut donner du pouvoir à l’équipe, à chaque personne qui la compose, puis former tout le monde. Beaucoup de gens ne réalisent pas le pouvoir qu’ils ont. Et comme le dit cet excellent film, Spider Man : « Un grand pouvoir implique de grandes responsabilités. » C’est tout à fait vrai. Prenons un ingénieur qui crée un modèle algorithmique.
Auxane: S’il ne considère pas les risques de l’algorithme, ne les analyse même pas et publie simplement son travail en se disant que son modèle est cool, sans avertir les gens, alors il n’a pas assumé sa responsabilité. À mon avis, le problème est qu’il ne savait pas qu’il devait, ou devrait, le faire. Je ne peux pas vraiment lui en vouloir, n’est-ce pas ?
Auxane: On ne peut pas, c’est compréhensible. Je pense donc qu’il faut aussi donner du pouvoir aux personnes qui occupent des postes plus techniques [00:30:00], leur dire qu’elles sont capables et qu’elles ont le droit de se poser des questions éthiques sur ce qu’elles produisent. La réflexion ne revient pas seulement aux gens qui pensent à un niveau élevé. Elle ne concerne pas uniquement le milieu universitaire, la gouvernance ou les politiques.
Auxane: Il faut aussi se demander : êtes-vous mal à l’aise avec ce qui se passe ici ? Comme ingénieur, avez-vous l’intuition que quelque chose ne va pas pendant que vous construisez le produit ? Dans ce cas, donnons aux gens des outils pour évaluer ces intuitions et des personnes avec qui en discuter. Je crois que c’est très important.
Louis: Je veux revenir à un élément connexe que vous avez mentionné plus tôt : certaines startups et certains produits présentent un risque plus élevé. Qu’est-ce que cela signifie ? Qu’est-ce qui est risqué ? S’agit-il [00:31:00], par exemple, d’un modèle lié à des sujets sensibles ? Les fondateurs savent-ils, ou devraient-ils savoir, que leur produit présente un risque élevé ? Savent-ils par défaut qu’il est considéré ainsi ?
Auxane: Cela dépend. Si vous me demandez la définition réglementaire du haut risque dans la loi européenne sur l’IA, je vous dirai qu’il existe une liste. Une annexe y est consacrée, ce qui vous permet d’évaluer vous-même si votre outil présente un risque élevé.
Auxane: Mais si vous parlez du reste du monde, je crois que le haut risque est un concept très culturel lorsqu’il ne touche pas à la vie ou à la mort. Si nous parlons de vie et de mort, oui, nous savons que le risque est élevé. Les voitures autonomes peuvent tuer des gens. [00:32:00] Mourir, c’est un risque élevé. Tout ce qui, dans les soins de santé, peut mener à la mort d’une personne aussi.
Auxane: C’est à haut risque. D’autres éléments relèvent beaucoup plus de la culture et de la morale sociale. En Europe, nous avons interdit certains types d’IA. La réglementation contient une courte liste, mais il s’agit tout de même d’une liste de choses ou d’usages que nous ne voulons jamais voir sur notre territoire. Les IA de notation du crédit social en sont un exemple.
Auxane: Elles arrivent vraiment au premier rang des IA interdites. Dans d’autres pays du monde, cet usage est loin d’être socialement inacceptable. Voilà une différence culturelle très concrète. Le haut risque est donc lui aussi très culturel. L’une des discussions actuelles consiste à demander si [00:33:00] une IA utilisée en éducation présente, par nature, un risque élevé.
Auxane: C’est une grande question. Personnellement, je crois qu’il faut évaluer beaucoup de ces cas individuellement. Mais je peux comprendre qu’on considère comme risqué tout ce qui touche un enfant, puisque les enfants forment une population vulnérable. Vous voyez, ce sont toujours ces équilibres et ces compromis qui posent problème en éthique. Tout est gris. Toujours.
Louis: Oui. C’est comme la psychologie. Vous travaillez dans ce domaine, mais la situation varie d’une entreprise à l’autre, ce qui rend les choses très compliquées. Comme vous l’avez dit, on ne peut pas simplement établir une marche à suivre unique pour être responsable. Il faut s’adapter à l’entreprise, et l’entreprise doit réfléchir à ses propres produits et à ce qu’elle fait.
Louis: Elle doit ensuite penser à ce qui pourrait mal tourner, faire une erreur [00:34:00], puis la corriger. C’est un processus très long, complexe et itératif qu’on ne peut pas simplement automatiser pour n’importe qui, ni pour tout le monde.
Auxane: C’est exactement cela. On ne peut pas l’automatiser. Vous avez tout à fait raison, c’est un très bon terme. Nous avons tout de même une liste 101, qui sera publiée dans un livre blanc ouvert au cours des prochains jours.
Auxane: Elle sera peut-être déjà accessible lorsque ce podcast sortira. Elle vient de notre projet de cadre de responsabilisation, sur lequel nous travaillons depuis quelques années. Nous avons défini, pour le cycle de vie, les étapes qu’il faut au moins considérer. L’approche est holistique, indépendante du secteur et indépendante du type d’IA.
Auxane: Elle est aussi indépendante du modèle. Elle ne dépend de rien. C’est une sorte de trousse de départ pour pratiquer l’IA responsable et rendre des comptes comme entreprise. Elle permet de vérifier que votre modèle a du sens [00:35:00] sur le plan éthique ou responsable, et que vos processus sont eux aussi responsables. Sur certains points, elle reste très peu précise.
Auxane: Par exemple, elle dira de vérifier les lois de votre secteur et celles de votre région sur un enjeu précis. Cela peut sembler stupide à écrire, mais ce ne l’est pas, puisque cette vérification fait partie de votre processus. C’est même par là que votre travail de conformité devrait commencer. Ne commencez pas votre modèle avant d’avoir défini vos KPI.
Auxane: Savez-vous exactement d’où viennent vos données ? Avez-vous éliminé tous les biais ? Êtes-vous certain que les biais qui restent sont acceptables ? Il existe beaucoup d’étapes différentes. Bref, nous avons une trousse de départ, mais ses détails et son application exigent ensuite des recherches et un travail propres au contexte. Cette trousse sera offerte à tout le monde. Après cela, l’évaluation se fait [00:36:00] au cas par cas.
Louis: En travaillant avec des entreprises, avez-vous observé une pratique fréquente qui n’est pas responsable, sans qu’elles en aient conscience ? Y a-t-il quelque chose que vous voyez souvent ?
Auxane: Habituellement, les entreprises respectent très bien la loi. Le principal problème que je rencontre est leur manque de compréhension de tout le reste. Il ne s’agit pas seulement d’éthique ou d’IA responsable comme sujet. La question fondamentale est plutôt la suivante : avez-vous seulement demandé à votre population si elle voulait ce produit ?
Auxane: Ou lancez-vous simplement quelque chose dont personne n’a besoin ? Les gens me répondent : « Non, mais mon idée est très bonne. » Super. Je suis certaine qu’il y a eu une foule de très bonnes idées qui n’ont jamais fonctionné parce que ce n’était pas le bon moment, la bonne cible ou autre chose [00:37:00]. Ici, c’est davantage la psychologue en moi qui parle que l’éthicienne, même si éviter de produire quelque chose d’inutile comporte aussi une dimension éthique. La psychologue demande surtout : avez-vous parlé aux gens ?
Auxane: Savez-vous ce que les gens veulent ? Je crois que le biais fréquent des entreprises consiste à penser qu’elles le savent mieux que les autres. D’après mon expérience, celles qui réussissent sont celles qui s’adaptent aux attentes des gens. Il ne s’agit pas toujours de créer un besoin. Parfois, il faut simplement répondre aux besoins existants.
Louis: Diriez-vous que cela vient peut-être du fait que les nouvelles technologies sont tellement accessibles ? Par exemple, lorsque vous travaillez sur du hardware ou sur quelque chose de très appliqué qui exige des coûts de départ élevés, vous commencez forcément par valider le product-market fit. Vous cochez toutes ces cases pour vous assurer qu’il y a bien un problème et que votre solution [00:38:00] le règle.
Louis: Mais est-ce parce qu’il est maintenant tellement facile d’utiliser l’API d’OpenAI et de créer une application cool que vous ne vérifiez même plus si elle répond à un problème existant ?
Auxane: Oui, je suppose que cela joue. Tout est vraiment plus facile maintenant lorsqu’on ne crée pas un produit hardware. Je ne vais pas généraliser, parce que le hardware coûte directement de l’argent. Mais si vous pouvez créer quelque chose seul ou avec un ami et simplement le lancer, il ne répond pas forcément à une question. Il existe, c’est tout. Et si vous ne vous attendez pas à gagner beaucoup d’argent avec, honnêtement, faites-le. Si vous trouvez cela amusant et que vous en avez envie, c’est très bien.
Auxane: Mais si vous voulez créer un véritable produit, je suppose que le business 101 consiste à recueillir d’abord l’opinion de votre population cible. Nous avons mené une étude, ou plutôt des amis ont mené une étude, sur [00:39:00] l’acceptation de la conduite autonome dans une région précise d’Allemagne. En Allemagne, vous savez, la loi encadrant la conduite autonome existe déjà.
Auxane: Nous sommes le seul pays dont la loi est prête, mais la technologie ne l’est pas encore. Nous avons la technologie, mais elle n’est pas déployée avec une autonomie complète. Ils ont donc mené cette étude de marché pour comprendre pourquoi les gens n’étaient pas prêts. C’était vraiment intéressant.
Auxane: J’ai été très surprise de constater qu’il n’existait presque aucune autre donnée aussi précise, alors que cette recherche ne nous avait pas pris tellement de temps. Je pense que les gens devraient le faire beaucoup plus souvent, mais ce n’est que mon expérience personnelle. Un deuxième grand problème que j’observe vient encore une fois de la psychologue en moi.
Auxane: Il s’agit de tous ces bots de soutien en santé mentale, alors que nous n’avons ni normes, ni réglementation, ni aucun cadre dans ce domaine. Habituellement [00:40:00], il y a peut-être un psychologue dans l’équipe, mais où sont les psychiatres ? Où sont vos tests après le déploiement ? Avez-vous assuré la sécurité des patients ? Avez-vous même le droit d’avoir des patients ?
Auxane: Toutes ces questions. Je crois qu’il existe aussi une grande zone grise où les gens veulent faire le bien, mais où nous manquons d’un cadre pour les guider. Ils pensent qu’ils vont faire le bien et, en réalité… je ne suis pas certaine que ce sera le cas. Je doute fortement des bienfaits à long terme de ces systèmes lorsqu’ils ne sont pas supervisés.
Louis: En supposant que la plupart des auditeurs sont des étudiants, des chercheurs ou des développeurs, quelle est une chose simple dont ils devraient prendre conscience ou qu’ils devraient intégrer à leur processus de travail pour améliorer la gouvernance de l’IA, ou simplement devenir plus responsables ?
Auxane: Je crois que le point de départ de l’IA responsable consiste à vous asseoir [00:41:00], seul ou avec votre équipe, et à vous demander : pourquoi faisons-nous cela ?
Auxane: Quel est le but ? Qu’essayons-nous d’atteindre ? Pourquoi ? Si vous pouvez répondre très précisément à ce « pourquoi », avec toutes vos bonnes intentions et votre volonté de faire du bien dans le monde, vous partez déjà d’un très bon point. Encore une fois, je ne crois pas que les gens veulent faire du mal. Je pense qu’ils essaient toujours de régler un problème.
Auxane: À partir de là, cherchez sur Google. Cherchez la réglementation qui vous concerne. Consultez Internet. Pour tous les éléments rationnels qui vous viennent à l’esprit et que vous devriez vérifier, posez des questions aux gens. Mais avant tout, demandez-vous pourquoi, dans quel but et comment.
Louis: Oui, c’est tout à fait logique. Je me demande simplement si, évidemment, [00:42:00] cela prend du temps et s’il faut vraiment prendre ce temps.
Louis: La plupart des gens, surtout dans ce domaine, évoluent dans une compétition extrêmement intense et cherchent à lancer leurs produits le plus vite possible. Ils peuvent casser des choses et simplement les réparer ensuite. Cela peut sembler un peu négatif, mais je suppose qu’il faudra peut-être les obliger à vérifier qu’ils agissent de façon responsable. La concurrence est tellement forte et ils travaillent parfois 70 heures par semaine uniquement pour sortir leur produit aussi vite que possible. Je ne pense donc pas qu’ils prendront le temps de remettre leur travail en question.
Auxane: C’est un gros problème. Une grande partie du processus d’IA responsable consiste à s’asseoir et à poser les bonnes questions, ce qui est difficile. Je suis certaine qu’il est très difficile de coder [00:43:00] et de résoudre tous ces bugs.
Auxane: Beaucoup de mes amis ingénieurs et développeurs m’ont parlé de toutes les difficultés que le code peut entraîner. Mais l’autre partie difficile consiste vraiment à s’asseoir, et à le faire avec tout le monde. Pas seulement avec l’équipe de direction. Demandez l’avis de votre stagiaire, parce qu’il pourrait avoir une intuition.
Auxane: Vous ne le savez pas. L’intuition vient de l’expérience et des connaissances. La manière dont le stagiaire l’exprime est peut-être irrationnelle, mais il y a peut-être quelque chose à approfondir. Écoutez donc toujours l’opinion de tout le monde, parce que l’éthique n’est pas une question de diplômes. Elle concerne surtout l’expérience, les valeurs et la morale. Il faut essayer d’agir de la façon la plus morale possible. Tout le monde possède une forme de moralité.
Louis: Oui, je suppose que c’est comme entraîner un algorithme. Vous voulez [00:44:00] le dataset le plus diversifié possible pour représenter…
Auxane: Ça dépend.
Louis: …la population et généraliser autant que possible. Le principe est donc assez semblable. Vous voulez obtenir l’opinion de toutes sortes de personnes afin de vous assurer que vous respectez tout le monde.
Auxane: Exactement. C’est tout à fait vrai. Et comme pour l’entraînement d’un algorithme, lorsque vous travaillez sur quelque chose de très précis, des datasets très spécialisés sont aussi pertinents. Si vous bloquez sur un point précis, consultez un expert. Il existe des experts pour tout.
Auxane: Consultez des experts. J’anime maintenant beaucoup d’ateliers avec eux. Une grande partie de mon travail consiste à parler aux gens, à recueillir leur opinion, puis à examiner les données scientifiques, à collecter des données par d’autres méthodes et à réunir le tout. Nous obtenons ainsi l’avis des experts, celui du grand public selon les sondages, les résultats d’autres types de recherche [00:45:00] et les conclusions de la littérature.
Auxane: Où ces perspectives se rejoignent-elles ? Quel est le juste milieu ? Comment faisons-nous fonctionner le tout ? Je crois que c’est la partie difficile, mais aussi la plus amusante. Comme responsable de produit, si vous résolvez ce problème, vous avez vraiment trouvé la clé. Ce doit être tellement satisfaisant et libérateur de se dire : « D’accord, nous avons compris. » Il faut écouter l’opinion de tout le monde, y compris les avis reconnus et ceux auxquels vous n’accorderiez habituellement pas autant de valeur.
Auxane: C’est ce qu’on appelle l’implication des parties prenantes, et c’est un excellent processus pour l’IA responsable. Faites aussi participer les personnes qui utiliseront votre technologie, pas seulement pendant la conception UX ou les tests UX. Intégrez-les dès l’idéation, parce qu’elles apporteront des éléments auxquels vous ne vous attendez pas.
Auxane: Et cela rendra le résultat bien meilleur. Pour conclure sur l’IA responsable [00:46:00], je dirais qu’elle repose énormément sur l’humilité. C’est la partie difficile : entrer dans une pièce sans ego et accorder à l’opinion de chaque personne la même valeur qu’à la vôtre. C’est très difficile pour tout le monde. Oui, il s’agit beaucoup d’humilité. Je dirais que c’est une expérience humaine.
Louis: Essentiellement, ce domaine est-il complexe parce que la technologie est nouvelle et très différente ? Ou ces questions ont-elles toujours été compliquées dans toutes les industries ?
Auxane: Je crois que ce n’est ni l’un ni l’autre. C’est la première fois que nous avons quelque chose d’aussi mondial.
Auxane: L’IA ne crée pas nécessairement les problèmes, mais elle les amplifie. Elle amplifie le bien autant que le mal, et pas seulement à un seul endroit. Oui, elle les fait aussi passer à l’échelle, énormément. Je crois que c’est ce qui explique [00:47:00] pourquoi nous avons maintenant besoin de personnes qui possèdent une expertise dans ce domaine.
Auxane: Mais si vous regardez les soins de santé, les questions éthiques y ont toujours existé. L’éthique est au cœur de la formation des médecins. En psychologie, je l’ai compris lorsque j’ai changé de domaine pour aller vers la recherche multidisciplinaire : nous sommes façonnés et formés pour agir de façon éthique et réfléchir à l’éthique, parce que nous travaillons avec des humains.
Auxane: Notre domaine, ce sont les humains. J’imagine que c’est pareil dans toutes les sciences humaines. Les soins de santé possèdent donc déjà beaucoup de cadres éthiques, pas seulement des règlements, mais aussi des devoirs. Je crois que nous avons énormément à apprendre de ce secteur sur ce point [00:48:00], notamment parce que ses problèmes passent eux aussi à l’échelle.
Auxane: Ce sont des problèmes qui peuvent se propager très rapidement, comme nous l’avons vu avec la COVID. Oui, le domaine existait donc déjà, mais avec l’IA, les problèmes ne s’arrêtent jamais vraiment et prennent toujours plus d’ampleur. Voilà pourquoi l’éthique y est si importante.
Louis: Lorsque vous essayez d’aider d’autres entreprises, sur quoi vous appuyez-vous ? Essentiellement, comment trouvez-vous des solutions ou des moyens de rendre leur travail plus responsable ?
Louis: Vous appuyez-vous sur d’autres secteurs, comme les soins de santé que vous venez de mentionner ? Ou le sujet est-il si nouveau et différent qu’il faut étudier chaque entreprise, y réfléchir et mener des recherches sur son cas d’usage très précis ? Comment trouvez-vous habituellement des solutions ou des façons d’agir de manière plus responsable ?
Auxane: Les deux. D’abord [00:49:00], vous apprenez du secteur dans lequel l’entreprise évolue. Si une entreprise des soins de santé vient me voir, c’est assez simple. C’est l’une de mes spécialités naturelles. Je connais aussi très bien l’éthique des sciences médicales. L’éthique médicale est un domaine à part entière, et je le maîtrise bien.
Auxane: Ensuite, l’éthique de l’IA possède elle aussi ses propres cadres. Vous commencez donc par là. La première chose à déterminer est le terrain de jeu : où est-ce que je me situe ? Quel est l’outil ? Que veut l’entreprise, et que fait réellement cet outil ? Il faut ensuite mener beaucoup de recherches.
Auxane: Que savons-nous des répercussions de ce type d’outil ou des outils qui accomplissent ce genre de tâches ? Une fois que nous connaissons les conséquences reconnues ou validées par la recherche, positives comme négatives, ainsi que les [00:50:00] différents facteurs qui les modifient, je peux revenir et dire : « D’accord, j’ai maintenant une vue d’ensemble du terrain. »
Auxane: Je comprends votre outil et ce que des outils ou des situations semblables ont produit dans le passé, y compris sans IA. Il faut se rappeler que l’IA automatise généralement des activités qui existaient déjà. Que savons-nous donc de cette activité ? Une fois toutes ces informations réunies, je comprends très précisément le sujet d’un point de vue scientifique, et nous pouvons passer à l’aspect commercial.
Auxane: Ce que j’appelle l’aspect commercial consiste surtout à discuter, puis à vous dire ce qui devrait idéalement se produire et ce qui ne devrait pas arriver. Nous développons aussi des outils précis, mais je ne sais pas exactement jusqu’où je peux en parler. Un outil sortira bientôt [00:51:00] et les entreprises pourront l’utiliser sans nous afin d’avoir au moins un point de départ.
Auxane: Quand je dis « nous » dans ce contexte, je parle de mes collègues en consultation et de moi, pas de l’université. Cet outil donnera déjà une première idée aux entreprises.
Louis: Je repense au fait que les gens créent maintenant beaucoup de produits logiciels qui ne sont pas faciles, mais qui sont tout de même beaucoup plus simples à démarrer et à lancer.
Louis: Et puisque, comme vous l’avez mentionné dans cet épisode, beaucoup des personnes qui créent ces produits sont des étudiants ou de très jeunes gens, je me demandais s’il existait beaucoup de problèmes éthiques qui ne sont même pas liés à l’IA, simplement parce qu’ils connaissent mal l’industrie à laquelle ils s’attaquent.
Louis: Ils n’agissent donc [00:52:00] pas de façon responsable par rapport à cette industrie, sans que le problème vienne nécessairement des nouvelles technologies ou de l’utilisation de l’IA.
Auxane: Absolument. Vraiment, absolument. Je dirais que la plupart des problèmes liés à l’IA ne viennent pas de l’IA elle-même, mais du cas d’usage. Comment l’utilisez-vous ? Pourquoi l’utilisez-vous ?
Auxane: Prenons un exemple : les tests de personnalité avec l’IA. De véritables tests cliniques de personnalité peuvent être administrés par des systèmes d’IA. Ce sont littéralement des questionnaires, donc c’est tout à fait possible. Les IA peuvent également effectuer les calculs très rapidement et avec beaucoup de précision. Mais ce sont des outils cliniques et des outils de recherche.
Auxane: Il ne faut pas les détourner de leur usage. Si vous prenez cette IA et l’intégrez à un processus d’embauche, vous transmettez beaucoup trop de données de santé à une entreprise. L’entreprise [00:53:00] sait probablement qu’elle fait quelque chose de mal, mais les participants au processus d’embauche, eux, ne le savent pas. C’est un mauvais usage.
Auxane: Les mauvais usages sont donc fréquents. Les gens ont une idée et se disent : « Ah, cela rendra tout plus facile. » Ce serait probablement le cas, mais nous vivons aussi dans un monde où la vie privée doit être respectée. Ne nous précipitons donc pas. Vérifions d’abord si le cas d’usage est acceptable. Ensuite, oui, un autre problème fréquent est la nécessité d’avoir une équipe diversifiée.
Auxane: L’IA responsable ne peut pas être atteinte en vase clos. Il faut faire participer beaucoup de personnes. Si tous les membres de votre équipe se ressemblent, parlent de la même façon et viennent du même milieu, quel que soit le milieu en question, votre biais sera fort. Peu importe sa nature, ce biais représente aussi un problème majeur dans le développement de l’IA [00:54:00] en général.
Auxane: Il faut donc penser aux équipes diversifiées et aux cas d’usage. Et nous n’avons même pas abordé l’aspect juridique, que beaucoup de gens connaissent très peu, ou du moins pas assez. Je comprends qu’il est très difficile pour une startup d’avoir une équipe ou un responsable de la conformité. Tous ces aspects entrent en jeu. Le manque d’expérience compte, bien sûr, mais je crois qu’une jeune personne déterminée à bien faire les choses peut tout à fait y parvenir.
Auxane: C’est donc une multitude de petites choses qui, une fois additionnées, donnent une IA capable de faire des choses insensées dans des contextes où elles ne devraient jamais se produire.
Louis: Le principal conseil pour toute personne qui veut créer un nouveau projet ou un nouveau produit serait donc de commencer par réfléchir à la raison pour laquelle elle le fait et à la manière dont elle s’y prendra.
Louis: Il faut simplement essayer d’y réfléchir [00:55:00] avant et pendant la création de la technologie.
Auxane: Oui. Et une fois votre cas d’usage très bien défini, n’improvisez pas. C’est un point très important. N’essayez pas d’improviser. Ne dites pas : « Ah, nous verrons les détails plus tard. » Non. Planifiez les détails. Planifiez tout. D’après ce que nous observons, votre processus de planification devrait être beaucoup plus long qu’il ne l’est actuellement.
Auxane: N’improvisez pas. Prenez le temps nécessaire. Vous en perdez peut-être au début, mais c’est autant de temps que vous n’aurez pas à passer devant un tribunal. C’est aussi beaucoup d’argent que vous ne perdrez pas à cause d’un produit illégal ou des répercussions sur votre réputation. Oui. Une entreprise peut perdre de l’argent de nombreuses façons à cause d’un produit.
Auxane: Mais il n’existe pas tant de façons d’améliorer votre produit, non seulement sur le plan technique, mais aussi sur celui de son acceptabilité.
Louis: [00:56:00] Merci beaucoup de vous être jointe à moi. J’ai une dernière question, et c’est la plus simple à répondre. D’accord, non, je viens de mentir. Une autre question vient de me passer par la tête. Mais pour l’instant, où les gens devraient-ils se renseigner davantage sur l’éthique de l’IA ?
Louis: Devraient-ils consulter votre plateforme ? Vous avez dit qu’il existait des ressources sur l’IA responsable. Avez-vous des noms à proposer que je pourrais ajouter à la description ? Quel est actuellement le meilleur endroit pour en apprendre davantage ?
Auxane: Je ne sais pas s’il existe un seul meilleur endroit, mais j’ai certainement un endroit préféré.
Auxane: Ce serait le site Web de l’institut où je travaille, qui contient beaucoup de ressources. Je vous enverrai le lien. J’essaie de retrouver le cours dont je parlais [00:57:00] plus tôt. Oui, le voilà : le cours sur l’éthique de l’IA. Je trouve fantastique qu’il existe. Des gens du monde entier y parlent d’éthique de l’IA dans des panels, des présentations et d’autres formats très accessibles.
Auxane: Je crois que tout est en anglais. Certains éléments ont peut-être été traduits et je pense que nous avons aussi des sous-titres. Mais oui, c’est un excellent point de départ. Par ailleurs, la plupart des instituts de recherche ont un site Web où ils publient généralement du contenu accessible, en plus du contenu universitaire.
Auxane: Les articles scientifiques sont cool, mais, honnêtement, ils sont assez ennuyants. Vous pouvez donc trouver des ressources bien meilleures si vous voulez simplement lire sur le sujet sans entrer trop profondément dans les détails. Je vous enverrai aussi le lien vers notre page de résumés de recherche. C’est là [00:58:00] que nous publions du contenu accessible, non universitaire et très appliqué.
Auxane: Sur YouTube, vous pouvez aussi trouver beaucoup de conférences et de présentations vraiment intéressantes. Oui, j’aime beaucoup YouTube pour cela. Cherchez simplement « IA responsable » sur Google et je suis certaine que beaucoup de contenu apparaîtra. Je sais que quelques vidéos de mes conférences se trouvent sur YouTube, alors vous pourrez certainement trouver beaucoup d’autres présentations du même genre.
Louis: Oui. Ma dernière question était la suivante : si un étudiant ou toute autre personne développe actuellement un produit, quand et comment devrait-il communiquer avec vous ?
Auxane: Ils peuvent communiquer avec moi sur mon site Web personnel. Le moment idéal est celui où vous savez que vous allez créer quelque chose, avant même de commencer tout le processus d’idéation. Dès que vous avez votre première idée et que vous pouvez répondre aux questions « pourquoi » et « quoi », vous [00:59:00] m’appelez. Nous pouvons alors commencer à discuter et à mettre les étapes en place une par une.
Louis: Je crois que c’est un domaine très important dont on ne parle manifestement pas assez. Il existe du contenu sur YouTube, mais je ne sais pas si les gens ne s’y intéressent pas vraiment parce que cela ne rapporte pas d’argent, ou si le contenu n’est simplement pas assez accessible ou diffusé. Vous avez vous-même dit qu’il est déjà disponible et qu’il existe des vidéos YouTube, mais je suis certain que la plupart d’entre elles obtiennent environ 10 ou 100 vues. Peu de gens les regardent, même si elles sont là.
Louis: Je ne sais donc pas ce que nous pouvons faire à ce sujet.
Auxane: Ces vidéos sont aussi très mal référencées. Ce ne sont pas de grands YouTubers qui en parlent ni des personnes très visibles. Le contenu vient généralement du milieu universitaire. Je crois qu’il n’est pas encore vraiment prêt pour la caméra. Les présentations ne sont pas jolies et elles ne sont pas accessibles non plus.
Louis: Oui, comment rendriez-vous cela [01:00:00] prêt pour la caméra et passionnant ? J’ai l’impression que, même pour moi, depuis novembre 2023, beaucoup de vidéos YouTube parlent de « Comment j’ai gagné 10 000 $ avec ChatGPT » ou de « Comment j’ai utilisé ChatGPT pour faire X ». Je ne crée pas du tout ce genre de vidéos et j’ai vu ma portée diminuer. Les gens veulent simplement regarder ces vidéos sur ChatGPT. Alors, comment pourrions-nous rendre l’éthique plus passionnante ou intéressante ? J’aimerais essayer d’aider et de faire une vidéo sur le sujet, mais comment créer quelque chose qui donne envie de se dire : « Ah, c’est intéressant, je veux en savoir plus » ?
Auxane: Je crois qu’il faut partir du cas d’usage. Au lieu de commencer par les concepts éthiques, il faut les placer au second plan.
Auxane: Ils restent certainement présents en arrière-plan, mais je crois qu’il faudrait commencer [01:01:00] par examiner les choses qui ne fonctionnent pas, expliquer pourquoi elles échouent et poser les bonnes questions. Au début de chaque semestre, lorsque je rencontre mes étudiants, il y en a toujours plusieurs qui sont là simplement parce qu’ils sont là, vous voyez. Je leur demande alors : « D’accord, qu’est-ce qui vous intéresse ? »
Auxane: [01:02:00] Je crois que c’est par là qu’il faut commencer. Il faut partir de ce que les gens connaissent et leur montrer concrètement ce que signifie l’éthique. D’une certaine façon, l’éthique est simple. Elle est difficile, bien sûr, mais elle est aussi simple. Elle fait partie du quotidien. Les gens ne réalisent pas qu’ils font de l’éthique toute la journée. Devrais-je répondre à ce message maintenant ou plus tard ?
Auxane: Allez-vous adopter une approche conséquentialiste ? Déontologique ? Utilitariste ? Quel sera votre processus de décision ? Il faut donc rendre le sujet beaucoup plus concret pour les gens. Je crois que c’est ce qui manque.
Louis: Oui. Encore une fois, merci beaucoup. C’était vraiment intéressant d’en apprendre davantage sur le sujet.
Louis: Oui, j’ai vraiment adoré parler avec vous. Cela en valait vraiment la peine.
FAQ
Qu’est-ce que l’IA responsable en pratique ?
C’est le processus qui consiste à identifier les personnes touchées, les risques, les preuves, les contrôles et les responsabilités pendant tout le cycle de vie d’un système d’IA.
Pourquoi commencer par le problème plutôt que par l’API ?
Un accès facile aux modèles peut mener à une fonctionnalité soignée qui ne répond pas à un besoin utilisateur pertinent ou approprié.
Comment une équipe peut-elle reconnaître un cas d’usage de l’IA à haut risque ?
Il faut chercher les données sensibles, les utilisateurs vulnérables, les décisions lourdes de conséquences, les recours limités, les répercussions sur la sécurité ou les obligations légales.
À qui revient le travail sur l’IA responsable ?
Les équipes produit et d’ingénierie, la direction, les juristes, les experts du domaine et les utilisateurs touchés y contribuent tous. Ce n’est pas le travail d’une seule personne chargée de l’éthique.
Que faut-il faire avant le lancement ?
Il faut documenter l’usage prévu, tester les préjudices et la performance, définir les procédures d’escalade, limiter l’accès, surveiller les résultats et offrir un recours humain.
Quelle est la différence entre l’IA responsable et la gouvernance de l’IA ?
L’IA responsable décrit les valeurs et les résultats recherchés par une équipe, tandis que la gouvernance les transforme en processus, contrôles et exigences techniques concrets.
La réglementation de l’IA freine-t-elle nécessairement l’innovation ?
Les règles peuvent ajouter des contraintes et demander du temps, mais des limites claires peuvent aussi prévenir les déploiements nuisibles et forcer les équipes à créer des produits auxquels les gens peuvent faire confiance.
Qu’exige une autoréglementation crédible de la part d’une entreprise ?
Elle peut comprendre des codes de conduite publics, des évaluations fondées sur des critères clairs, des normes ou certifications volontaires et assez de transparence pour que le public puisse demander des comptes à l’entreprise.
Pourquoi le cas d’usage peut-il représenter un plus grand risque éthique que le modèle ?
Même un modèle performant peut causer du tort s’il résout le mauvais problème, cible un groupe vulnérable ou automatise une décision qui exige du contexte et une possibilité de recours.