If you're seeing this message, it means we're having trouble loading external resources on our website.

Si vous avez un filtre web, veuillez vous assurer que les domaines *. kastatic.org et *. kasandbox.org sont autorisés.

Contenu principal

Comprendre les biais de l'IA : Plan de cours

Comment les biais de l'IA se produisent-ils ?

Comprendre les biais de l'IA : Plan de cours

ÉLÈVES DE 11 À 18 ANS
20 minutes
L'intelligence artificielle est entraînée à partir de données du monde réel que les gens lui ont fournies, et si ces données contiennent des préjugés (ou sont incomplètes), l'IA peut finir par être biaisée elle aussi. Dans cette leçon, les élèves porteront un œil critique sur les données de formation qui déterminent de quoi les outils d'IA sont capables et envisageront des moyens possibles de réduire les biais de l'IA.

Objectifs

  • Définir les biais de l'IA.
  • Comprendre comment les biais de l'IA se produisent.
  • Réfléchir aux moyens de réduire les préjugés liés à l'IA.

Vocabulaire

  • Biais de l'IA : Lorsqu'un outil d'IA prend une décision erronée ou problématique parce qu'il a appris à partir de données de formation qui ne traitaient pas toutes les personnes, tous les lieux et tous les éléments avec précision.
  • Données de formation : Informations données à une IA pour lui permettre d'apprendre à effectuer des tâches spécifiques.
  • Données de test : Informations utilisées pour vérifier si l'IA est fiable et précise.

Ce dont vous aurez besoin

Avant la leçon

Nous vous encourageons à enseigner les leçons suivantes en amont pour établir une compréhension fondamentale du fonctionnement de l'IA :

Étape par étape

  1. Dites : Lors du développement d’une IA, les informaticien·nes utilisent deux types de données différents : les données de formation et les données de test (diapositive 4).
Les données de formation sont les informations fournies à une IA pour lui permettre d'apprendre à effectuer des tâches spécifiques (diapositive 5). Les données de test sont les informations utilisées pour vérifier si l'IA est fiable et précise (diapositive 6).
  1. Dites : Imaginez : Nous sommes des informaticien·nes en train d’élaborer une application d’IA. L’objectif de l’outil est d’identifier les différents types de fruits. Nous disposons de quelques données de formation pour commencer (diapositive 7).
  2. Demandez : Sur la base des données de formation dont nous disposons, quels types de fruits notre IA pourrait-elle identifier ? (Diapositive 8)
  3. Montrez la diapositive 9 et expliquez que les images présentées ici sont des exemples de données de test utilisées pour vérifier le bon fonctionnement de l'IA. Les étiquettes sous chaque image correspondent au nom que l'IA attribue à chaque fruit.
Demandez : Remarquez-vous certaines erreurs ? Selon vous, pourquoi l'IA commet-elle ces erreurs ? (Diapositive 10)
  1. Expliquez que les erreurs commises par l'IA sont un exemple de biais de l'IA, soit lorsqu'un outil d'IA prend une décision erronée ou problématique parce qu'il a appris à partir de données de formation qui ne traitaient pas toutes les personnes, tous les lieux et tous les éléments avec précision (diapositive 11).
Montrez la diapositive 12 et dites : Dans les données de formation, les pommes étaient le seul exemple de fruit rouge. Les données de test montrent que l’IA a appris à identifier tout ce qui est rouge comme étant une pomme. En d'autres termes, notre IA a tendance à penser que tous les fruits rouges sont des pommes (diapositive 12).
  1. Dites : Quels sont les moyens de réduire les biais de cet identificateur de fruits alimenté par l’IA ? (Diapositive 13)
Invitez les élèves à échanger, puis commentez les réflexions sur la diapositive 14.
  1. Dites : Bien qu'il soit presque impossible d'éliminer complètement les biais de l'IA d'un outil, nous pouvons faire de notre mieux pour les réduire en obtenant un ensemble de données de formation aussi diversifié et complet que possible (diapositive 15).
  2. Si le temps le permet, lisez la diapositive 16 et demandez aux élèves de travailler seul·es pour dresser une liste de descriptions d'image. Ensuite, demandez-leur de se mettre par deux pour comparer leurs listes et continuer à ajouter d'autres descriptions d'image.
Passez en revue les descriptions sur la diapositive 17 et continuez à en ajouter à la liste en vous basant sur toutes les autres idées que les élèves ont.
  1. Dites: N'oubliez pas que derrière chaque outil d'IA se trouvent des êtres humains qui prennent des décisions sur les données de formation que l'outil utilisera. Comprendre comment les biais de l'IA se produisent peut nous aider à réfléchir de manière critique à leurs impacts potentiels (diapositive 18).

Vous souhaitez rejoindre la discussion ?

Pas encore de posts.
Vous comprenez l'anglais ? Cliquez ici pour participer à d'autres discussions sur Khan Academy en anglais.