Contenus :

• Définition et typologie des biais dans les systèmes d'IA : biais dans les données d'entraînement (données historiques discriminatoires, échantillons non représentatifs), biais algorithmiques (conception inadéquate, objectifs mal définis), biais d'interprétation (utilisation inappropriée des résultats), biais de confirmation.
• Origines des biais : données historiques reflétant des inégalités sociales, absence de diversité dans les équipes de conception, manque de prise en compte des contextes locaux.
• Exemples concrets de discriminations algorithmiques : recrutement (Amazon), justice prédictive (COMPAS), reconnaissance faciale (erreurs différenciées selon l'origine ethnique), crédit bancaire, accès aux soins.
• Conséquences des biais : renforcement des inégalités, exclusion de groupes vulnérables, perte de confiance dans les systèmes automatisés.
• Stratégies d'atténuation : audit des données et des modèles, diversité dans les équipes, conception participative, régulation et exigence de transparence.
• Étude de cas : analyse du système COMPAS utilisé aux États-Unis pour évaluer le risque de récidive et les biais raciaux mis en évidence.

Objectifs pédagogiques :

• Identifier et catégoriser les différents types de biais dans les systèmes d'IA.
• Analyser les origines et les conséquences des discriminations algorithmiques.
• Proposer des stratégies pour atténuer les biais et promouvoir l'équité.