Éducation : lutter de toute urgence contre les biais de l’IA !

Par Anthony Hié
Directeur de la transformation digitale chez Excelia Group

L’intelligence artificielle (IA) est certainement l’une des avancées technologiques les plus significatives de notre ère. Elle a révolutionné la manière dont nous interagissons avec la technologie, en influençant des domaines allant de la médecine à la finance, en passant par le divertissement et l’éducation. Derrière l’omniprésence de l’IA accentuée par l’arrivée des IA génératives, les biais de l’IA restent un défi majeur. Il est impératif que l’éducation, dans toutes ses dimensions, s’attaque à cette problématique de manière proactive et éclairée.

Comprendre les biais de l’IA
Les biais dans l’IA se forment au stade de l’entraînement des modèles. Si les données d’entraînement comportent des préjugés ou des discriminations, l’IA peut les reproduire sans discernement. Par exemple, les systèmes de reconnaissance faciale ont été accusés de présenter des taux d’erreur plus élevés pour les personnes de couleur, en partie à cause des ensembles de données biaisés utilisés pour les former. Cela souligne l’importance cruciale de s’attaquer à cette question. Pour comprendre les biais de l’IA, il est essentiel de saisir comment ils émergent. Les modèles d’IA apprennent à partir de données réelles, qu’ils utilisent pour prendre des décisions ou faire des recommandations. Si ces données sont imprégnées de stéréotypes, d’injustices, ou de discriminations, l’IA peut reproduire ces mêmes problèmes. Par conséquent, il est essentiel de s’attaquer aux biais à la source, c’est-à-dire les données d’entraînement.

Un projet «Gender Shades» instructif
Le projet “Gender Shades” évalue la précision des logiciels de classification de genre alimentés par l’IA. Cette étude a révélé que les entreprises soumises à ces évaluations obtenaient des résultats de reconnaissance faciale nettement meilleurs pour les hommes que pour les femmes, avec une différence de 8,1% à 20,6% dans les taux d’erreur. Cette étude du MIT (Massachusetts Institute of Technology) concernant l’examen du logiciel d’analyse faciale révèle également un taux d’erreur surprenant de 0,8% pour les hommes à la peau claire et de 34,7% pour les femmes à la peau foncée (*). Les conclusions du projet mettaient en évidence le potentiel d’abus de la technologie de l’analyse faciale, que ce soit aux mains de gouvernements autoritaires, d’individus malveillants ou d’entreprises opportunistes. En fin de compte, le projet soulignait la vulnérabilité des algorithmes à la corruption et à la partialité.

Le rôle de l’éducation sur l’impact sociétal face aux biais de l’IA
L’éducation joue un rôle crucial dans la sensibilisation aux biais de l’IA. Les institutions éducatives, des écoles primaires aux établissements d’enseignement supérieur, peuvent intégrer des modules sur l’IA et l’éthique dans leurs programmes scolaires. Cela permet aux étudiants d’acquérir une compréhension profonde des implications des biais de l’IA et de leur impact sur la société. En développant cette compréhension, les élèves sont mieux préparés à relever les défis éthiques qui se posent à mesure que l’IA devient omniprésente. De plus, l’éducation peut encourager une culture de responsabilité dans le développement de l’IA. Les futurs développeurs et utilisateurs d’IA doivent être conscients des conséquences potentielles de leurs actions. L’apprentissage de l’éthique de l’IA devrait être incontournable pour ceux qui entrent dans le domaine de l’informatique et de la science des données. Ils doivent comprendre qu’ils ont un rôle essentiel à jouer pour éviter que les biais de l’IA ne deviennent un problème encore plus grand.

La promotion de la diversité dans l’IA
Un autre aspect crucial dans la lutte contre les biais de l’IA est la promotion de la diversité. Actuellement, il existe un déséquilibre évident en termes de genre, de race et de contextes socio-économiques parmi les développeurs d’IA. Cette homogénéité peut contribuer à l’émergence de biais involontaires dans les systèmes d’IA. L’éducation doit jouer un rôle de premier plan en encourageant la diversité dans le domaine de l’IA. Les institutions éducatives, en partenariat avec le monde de l’entreprise et les organisations, peuvent prendre des mesures pour recruter davantage de personnes sous-représentées dans le secteur de l’IA. Les initiatives de mentorat, de bourses d’études et de sensibilisation peuvent contribuer à attirer un large éventail de talents vers les carrières en IA.

Former les développeurs d’IA à concevoir  des systèmes équitables
Les business schools et les écoles d’ingénieurs ont un rôle essentiel à jouer en introduisant des cursus communs qui mettent l’accent sur l’éthique de l’IA et la réduction des biais. Les étudiants en informatique doivent apprendre à concevoir des systèmes IA équitables et à évaluer les données d’entraînement pour repérer les préjugés potentiels. Ils doivent être en mesure de développer des modèles d’IA qui ne se limitent pas à maximiser la précision des prédictions mais qui tiennent compte de l’éthique.

Encourager les enseignants à former à l’éthique de l’IA
Pour que l’éducation soit véritablement efficace dans la lutte contre les biais de l’IA, les enseignants doivent être accompagnés et formés pour enseigner l’éthique de l’IA aux élèves de tous âges. Les étudiants devraient être incités à poser des questions sur la façon dont l’IA affecte leur vie quotidienne et comment ils peuvent contribuer à atténuer les biais. Les enseignants peuvent jouer un rôle essentiel en guidant les élèves dans la réflexion sur l’IA et en les aidant à développer des compétences critiques pour évaluer les systèmes automatisés. Pour cela ils peuvent s’entraîner avec les réponses fournies par les IA génératives et challenger leur véracité et la pertinence des informations en retour.

Agir sans attendre
L’éducation joue un rôle clé dans la lutte contre les biais de l’IA. L’omniprésence visible ou non de l’IA dans notre société signifie que les décisions qu’elle prend et les recommandations qu’elle émet ont un impact considérable. Si nous ne prenons pas des mesures pour atténuer les biais, nous risquons de perpétuer les inégalités et les injustices de manière consciente ou inconsciente. Nous ne pouvons pas attendre pour agir, les effets bénéfiques attendus des formations sur le sujet peuvent mettre du temps à se révéler. L’éducation doit s’attaquer à cette question complexe et garantir que l’IA soit utilisée de manière éthique et équitable pour une société plus responsable.

(*) Joy Buolamwini, Timnit Gebru Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification – Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 2018.