Vous n’avez pas les permissions requises pour voir les discussions de ce forum.
Résumé de section
-
1. Description détaillée du cours
Le cours CSC 384 – Ethics in Artificial Intelligence a pour objectif de fournir aux étudiants une compréhension approfondie, critique et structurée des enjeux éthiques, moraux, sociaux et politiques soulevés par l'intégration croissante de l'intelligence artificielle dans tous les domaines de la société moderne. Il ne s'agit pas uniquement d'un cours sur les aspects techniques de l'IA, mais d'un cours sur ses implications humaines, ses dilemmes et ses responsabilités.
Ce cours développe chez l'étudiant une réflexion systémique et interdisciplinaire en abordant les dimensions suivantes :
- Les fake news générées par l'IA et leurs impacts sur la démocratie, l'opinion publique et la cohésion sociale ;
- L'utilisation de modèles de langage tels que ChatGPT et leur influence sur l'éducation, l'apprentissage et l'intégrité académique ;
- Les biais implicites dans les algorithmes et les discriminations qu'ils peuvent perpétuer ou amplifier ;
- L'équilibre fragile entre les bénéfices collectifs de l'IA et la protection des droits fondamentaux des individus (vie privée, autonomie, dignité) ;
- Le manque de transparence et d'explicabilité dans les systèmes d'IA, en particulier lorsqu'ils prennent des décisions critiques affectant la vie des citoyens ;
- Les dilemmes moraux posés par les véhicules autonomes et la répartition de la responsabilité en cas d'accident ;
- L'automatisation croissante de professions essentielles telles que la médecine, la justice, l'éducation ou le journalisme ;
- Le développement et l'utilisation d'armes autonomes dans le domaine militaire et les questions de responsabilité morale et juridique ;
- Les perspectives futuristes liées aux humains cyborgs, à l'intimité artificielle et à l'intelligence hybride homme-machine ;
- La crise de la reproductibilité face aux systèmes propriétaires et aux boîtes noires algorithmiques ;
- Les situations où il devient non-éthique de ne pas utiliser l'IA, notamment dans les domaines de la santé, de la sécurité et de la gestion des crises.
Le cours vise à permettre aux étudiants de comprendre comment les décisions en matière de conception, de déploiement et de gouvernance de l'IA engagent des responsabilités éthiques et juridiques, et comment ces décisions façonnent l'avenir de nos sociétés.
Il intègre également les notions fondamentales de justice, d'équité, de responsabilité, de transparence et de respect des droits humains, qui sont au cœur des réflexions contemporaines sur une IA éthique et digne de confiance.
Le cours s'appuie sur une approche pédagogique interactive combinant des conférences théoriques, des études de cas concrets, des débats argumentés et des analyses de scénarios réels ou hypothétiques.
2. Objectifs généraux du cours
À l'issue de ce cours, l'étudiant devra être capable de :
a. Identifier et expliquer les principaux enjeux éthiques, sociaux et politiques liés à l'intelligence artificielle ;
b. Analyser de manière critique les dilemmes moraux posés par l'automatisation et l'IA dans divers secteurs (santé, éducation, justice, armée, transport, médias) ;
c. Évaluer les impacts sociétaux et individuels de l'intégration de l'IA et proposer des solutions équilibrées ;
d. Discuter des limites, des biais et des manques de transparence des systèmes d'IA ;
e. Débattre des responsabilités des concepteurs, des utilisateurs et des décideurs face aux défis éthiques de l'IA ;
f. Développer une réflexion autonome et argumentée sur l'avenir de l'IA et de ses implications éthiques.3. Positionnement stratégique du cours à IPNET
Ce cours est stratégique pour les filières suivantes :
- Intelligence Artificielle et Data Science
- Informatique et Systèmes d'Information
- Cybersécurité
- Droit et Sciences Politiques
- Sciences Sociales et Humanités Numériques
- Management et Gouvernance des Technologies
Il constitue un socle essentiel pour former des professionnels capables de concevoir, déployer et gérer des systèmes d'IA de manière responsable, éthique et conforme aux valeurs fondamentales de nos sociétés.
-
Voir le syllabus
-
Voir le syllabus
-
Voir le syllabus
-
Voir le syllabus
-
Contenus :
- Présentation du cours, des objectifs, des modalités d'évaluation et des attentes.
- Définition et périmètre de l'éthique de l'IA : qu'est-ce que l'éthique ? Qu'est-ce que l'IA ? Pourquoi ces deux domaines sont-ils désormais indissociables ?
- Les grands cadres éthiques : utilitarisme, déontologie, éthique des vertus, éthique du care, et leur application aux technologies numériques.
- Les principes fondamentaux de l'IA éthique : transparence, explicabilité, équité, non-discrimination, respect de la vie privée, responsabilité, bienveillance, non-malfaisance.
- Présentation des grandes régulations et chartes éthiques : principes de l'OCDE, règlement européen sur l'IA (AI Act), chartes éthiques des grandes entreprises technologiques.
- Étude de cas introductive : l'affaire du scandale Cambridge Analytica et ses implications éthiques pour l'utilisation des données et des algorithmes.
Objectifs pédagogiques :
- Comprendre la notion d'éthique appliquée à l'IA et son importance dans la société contemporaine.
- Connaître les grands cadres éthiques et les principes fondamentaux de l'IA digne de confiance.
- Prendre conscience de l'ampleur des enjeux éthiques liés à l'IA à travers un cas concret.
-
Contenus :
- Définition et typologie des fake news : désinformation, mésinformation, malinformation.
- Technologies de génération de contenu : deepfakes, textes générés par IA (GPT, etc.), images et vidéos synthétiques.
- Impacts des fake news sur la démocratie, l'opinion publique, la cohésion sociale et la confiance dans les institutions.
- Mécanismes de propagation : réseaux sociaux, algorithmes de recommandation, chambres d'écho et bulles de filtres.
- Responsabilité des plateformes, des créateurs de contenu et des utilisateurs : qui est responsable de la diffusion de fausses informations ?
- Stratégies de lutte contre la désinformation : fact-checking, éducation aux médias, régulation, détection automatique des deepfakes.
- Étude de cas : analyse de campagnes de désinformation lors d'élections (États-Unis, Brésil, France, etc.) et rôle de l'IA.
Objectifs pédagogiques :
- Comprendre les mécanismes de génération et de propagation des fake news par l'IA.
- Analyser les impacts sociopolitiques de la désinformation algorithmique.
- Discuter des responsabilités et des solutions pour contrer ce phénomène.
-
Contenus :
- Présentation des modèles de langage (LLM) : fonctionnement, capacités, limites.
- Utilisation de ChatGPT et des IA génératives dans le domaine éducatif : tutorat personnalisé, assistance à la rédaction, génération de contenu pédagogique, évaluation automatisée.
- Enjeux éthiques : intégrité académique et plagiat, dépendance à l'outil, perte d'autonomie intellectuelle, équité d'accès, qualité des apprentissages.
- Redéfinition des compétences : quelles compétences humaines restent irremplaçables ? (créativité, pensée critique, empathie, jugement éthique).
- Rôle de l'enseignant à l'ère de l'IA : facilitateur, guide, évaluateur des processus plutôt que des résultats.
- Étude de cas : expérimentations d'utilisation de ChatGPT dans des universités (interdiction, autorisation encadrée, intégration pédagogique) et analyse des résultats.
Objectifs pédagogiques :
- Comprendre le fonctionnement et les capacités des modèles de langage comme ChatGPT.
- Analyser les opportunités et les risques de l'IA générative dans le domaine éducatif.
- Développer une réflexion sur l'évolution des métiers de l'éducation et des compétences nécessaires.
-
Contenus :
- Définition et typologie des biais dans les systèmes d'IA : biais dans les données d'entraînement (données historiques discriminatoires, échantillons non représentatifs), biais algorithmiques (conception inadéquate, objectifs mal définis), biais d'interprétation (utilisation inappropriée des résultats), biais de confirmation.
- Origines des biais : données historiques reflétant des inégalités sociales, absence de diversité dans les équipes de conception, manque de prise en compte des contextes locaux.
- Exemples concrets de discriminations algorithmiques : recrutement (Amazon), justice prédictive (COMPAS), reconnaissance faciale (erreurs différenciées selon l'origine ethnique), crédit bancaire, accès aux soins.
- Conséquences des biais : renforcement des inégalités, exclusion de groupes vulnérables, perte de confiance dans les systèmes automatisés.
- Stratégies d'atténuation : audit des données et des modèles, diversité dans les équipes, conception participative, régulation et exigence de transparence.
- Étude de cas : analyse du système COMPAS utilisé aux États-Unis pour évaluer le risque de récidive et les biais raciaux mis en évidence.
Objectifs pédagogiques :
- Identifier et catégoriser les différents types de biais dans les systèmes d'IA.
- Analyser les origines et les conséquences des discriminations algorithmiques.
- Proposer des stratégies pour atténuer les biais et promouvoir l'équité.
-
Contenus :
- Concepts de transparence, explicabilité et interprétabilité en IA : définitions et distinctions.
- Problème de la "boîte noire" algorithmique : les modèles complexes (réseaux de neurones profonds) et l'opacité de leurs décisions.
- Enjeux de l'explicabilité dans les décisions critiques : justice, santé, finance, recrutement. Droit à une explication (RGPD, AI Act).
- Responsabilité morale et juridique : qui est responsable en cas de dommage causé par un système d'IA ? Distinction entre responsabilité des concepteurs, des opérateurs, des utilisateurs, des décideurs.
- Théories de la responsabilité morale appliquée à l'IA : responsabilité individuelle, collective, partagée.
- Étude de cas : accident de véhicule autonome (Tesla, Uber) et analyse des responsabilités en présence.
Objectifs pédagogiques :
- Comprendre les enjeux de la transparence et de l'explicabilité des systèmes d'IA.
- Analyser les questions de responsabilité morale et juridique en cas de dommage.
- Discuter des solutions pour améliorer l'explicabilité et la responsabilité.
-
Contenus évalués :
- Introduction à l'éthique appliquée à l'IA (concepts fondamentaux, cadres éthiques, principes).
- Fake news générées par IA et manipulation de l'information.
- ChatGPT, éducation et avenir des apprentissages.
- Biais implicites et discriminations algorithmiques.
- Transparence, explicabilité et responsabilité morale.
-
Contenus :
- Présentation des technologies de véhicules autonomes : niveaux d'autonomie, fonctionnement, enjeux techniques et sécuritaires.
- Dilemmes moraux : le fameux "dilemme du trolley" appliqué aux véhicules autonomes (choix entre plusieurs victimes potentielles, protection du passager vs des piétons, etc.).
- Responsabilité en cas d'accident : qui est responsable ? Le constructeur, le développeur logiciel, le propriétaire du véhicule, le législateur ?
- Questions éthiques sur l'acceptabilité sociale des véhicules autonomes : confiance des usagers, acceptation des risques, assurance.
- Comparaison des approches éthiques (utilitariste, déontologique) pour résoudre les dilemmes de la conduite autonome.
- Étude de cas : analyse des accidents de véhicules autonomes et des réponses des constructeurs (Tesla, Waymo, Uber).
Objectifs pédagogiques :
- Comprendre les enjeux éthiques spécifiques aux véhicules autonomes.
- Analyser les dilemmes moraux et les questions de responsabilité.
- Discuter des solutions pour concilier sécurité, éthique et acceptabilité sociale.
-
Contenus :
- Panorama des professions menacées par l'automatisation et l'IA : médecins, juges, enseignants, journalistes, comptables, conseillers juridiques, etc.
- Cas de la médecine : IA pour le diagnostic, la chirurgie assistée, la médecine personnalisée. Enjeux de déshumanisation des soins, de confiance dans les diagnostics automatisés, de responsabilité en cas d'erreur.
- Cas de la justice : algorithmes de justice prédictive pour évaluer les risques de récidive, assister les juges. Enjeux de biais, de transparence, de droit à un procès équitable.
- Cas de l'éducation : tutorat personnalisé par IA, évaluation automatisée. Enjeux de perte de la dimension humaine de l'enseignement.
- Cas du journalisme : rédaction automatisée d'articles, curation de contenu. Enjeux de qualité de l'information, de pluralisme, de manipulation.
- Réflexion sur l'avenir du travail : quels métiers émergeront ? Quelles compétences seront valorisées ? Comment accompagner les transitions professionnelles ?
Objectifs pédagogiques :
- Identifier les professions menacées par l'IA et les enjeux spécifiques à chaque secteur.
- Analyser les impacts sur la qualité des services et sur les relations humaines.
- Proposer des stratégies pour accompagner les transitions professionnelles et préserver l'humain.
-
Contenus :
- Présentation des systèmes d'armes autonomes : drones, robots militaires, systèmes de défense automatisés. Distinction entre systèmes automatisés, autonomes et intelligents.
- Enjeux éthiques : perte du contrôle humain sur la décision de tuer, responsabilité en cas de dommage, respect du droit international humanitaire, proportionnalité et distinction.
- Positions internationales : campagnes pour l'interdiction des armes autonomes (Campagne pour l'arrêt des robots tueurs), positions des États (Chine, États-Unis, Russie, Europe).
- Questions de responsabilité morale et juridique : qui est responsable des actions d'une arme autonome ? Le commandant, le programmeur, le fabricant, l'État ?
- Conséquences potentielles sur la sécurité internationale : course à l'armement, déstabilisation stratégique, banalisation de la violence.
- Étude de cas : utilisation de drones armés dans les conflits récents (Yémen, Libye, etc.) et analyse des implications éthiques et juridiques.
Objectifs pédagogiques :
- Comprendre les enjeux éthiques et juridiques des armes autonomes.
- Analyser les positions internationales et les arguments pour ou contre leur interdiction.
- Discuter des responsabilités et des conséquences potentielles pour la sécurité internationale.
-
Contenus :
- Définition et exploration des concepts de cyborgs, d'intelligence hybride homme-machine, d'amélioration humaine (human enhancement).
- Technologies émergentes : implants cérébraux (Neuralink), exosquelettes, prothèses intelligentes, interfaces cerveau-ordinateur.
- Enjeux éthiques : identité personnelle, autonomie, consentement, intimité artificielle, inégalités d'accès à l'amélioration, distinction entre soin et amélioration.
- Questions sur la nature humaine : qu'est-ce qu'être humain ? Où se situe la frontière entre l'humain et la machine ?
- Scénarios prospectifs : société post-humaine, augmentation cognitive, relations intimes avec des IA.
- Étude de cas : analyse des enjeux éthiques soulevés par les implants cérébraux et les interfaces cerveau-ordinateur (expériences, régulation, acceptabilité sociale).
Objectifs pédagogiques :
- Explorer les perspectives futuristes de l'IA et des technologies d'amélioration humaine.
- Analyser les enjeux éthiques liés à l'intimité artificielle et à l'intelligence hybride.
- Développer une réflexion sur la nature humaine et les limites de l'augmentation technologique.
-
Contenus :
- Réflexion sur l'obligation morale d'utiliser l'IA dans certaines situations où elle peut sauver des vies, prévenir des catastrophes ou améliorer significativement le bien-être collectif.
- Domaines concernés : santé (diagnostic précoce, prévention des épidémies), sécurité (prévention des accidents, gestion des crises), environnement (optimisation des ressources, lutte contre le changement climatique), recherche scientifique (accélération des découvertes).
- Tensions entre le principe de précaution et l'obligation d'agir : quand le risque de ne pas utiliser l'IA l'emporte-t-il sur le risque de l'utiliser ?
- Exemples concrets : utilisation de l'IA pour détecter précocement des cancers, pour prévoir des catastrophes naturelles, pour optimiser les réseaux énergétiques, pour accélérer la recherche de médicaments.
- Conditions éthiques pour justifier l'usage obligatoire de l'IA : efficacité prouvée, absence d'alternatives, respect des droits humains, transparence, contrôle humain.
- Étude de cas : analyse de la gestion de la pandémie de COVID-19 et du rôle de l'IA dans le suivi des contacts, la prédiction des pics épidémiques et le développement des vaccins.
Objectifs pédagogiques :
- Identifier les situations où l'utilisation de l'IA peut devenir une obligation morale.
- Analyser les tensions entre précaution et obligation d'agir.
- Développer des critères éthiques pour justifier l'usage obligatoire de l'IA.
-
Contenus évalués :
- Véhicules autonomes et dilemmes moraux.
- Professions remplacées par l'IA (médecine, justice, éducation, journalisme, etc.).
- IA militaire et armes autonomes.
- Cyborgs, intimité artificielle et intelligence hybride.
- Cas où il devient non-éthique de ne pas utiliser l'IA.
- Synthèse de toutes les thématiques du cours.
- Débat final : "L'IA va-t-elle sauver ou détruire l'humanité ?" – les étudiants doivent mobiliser l'ensemble des connaissances acquises pour argumenter leur position.
Objectifs pédagogiques :
- Évaluer l'ensemble des connaissances et compétences développées durant le semestre.
- Synthétiser les enjeux éthiques liés à l'IA et proposer une vision prospective.
- Développer une capacité à débattre de manière argumentée et constructive sur des sujets complexes et controversés.