Contenus :

• Concepts de transparence, explicabilité et interprétabilité en IA : définitions et distinctions.
• Problème de la "boîte noire" algorithmique : les modèles complexes (réseaux de neurones profonds) et l'opacité de leurs décisions.
• Enjeux de l'explicabilité dans les décisions critiques : justice, santé, finance, recrutement. Droit à une explication (RGPD, AI Act).
• Responsabilité morale et juridique : qui est responsable en cas de dommage causé par un système d'IA ? Distinction entre responsabilité des concepteurs, des opérateurs, des utilisateurs, des décideurs.
• Théories de la responsabilité morale appliquée à l'IA : responsabilité individuelle, collective, partagée.
• Étude de cas : accident de véhicule autonome (Tesla, Uber) et analyse des responsabilités en présence.

Objectifs pédagogiques :

• Comprendre les enjeux de la transparence et de l'explicabilité des systèmes d'IA.
• Analyser les questions de responsabilité morale et juridique en cas de dommage.
• Discuter des solutions pour améliorer l'explicabilité et la responsabilité.