Actualité - Annonce de Thèse/HDR

Date : 26 novembre 2026 13:30 - Type : Thesis - Rim EL CHEIKH - Amphi 3 - Pôle commun

Ad-Hoc Concept-Based Explainability for Deep Neural Networks

Les réseaux de neurones profonds ont atteint des performances prédictives remarquables dans de nombreuses tâches. Cependant, la complexité de leurs mécanismes internes rend souvent leurs décisions difficiles à comprendre et à vérifier. L’intelligence artificielle explicable (XAI) répond à ce défi en développant des méthodes visant à rendre le comportement des modèles plus transparent. Parmi celles-ci, l’explicabilité ad-hoc fondée sur les concepts vise à intégrer des concepts dans l’architecture neuronale ou dans le processus d’apprentissage afin d’exprimer les prédictions au moyen de propriétés compréhensibles par l’humain, décrivant les données ou la tâche. Néanmoins, l’intégration de concepts dans un modèle ne garantit pas nécessairement leur utilisation interprétable dans le processus de décision.

Dans cette thèse, nous étudions l’explicabilité ad-hoc fondée sur les concepts, en nous concentrant sur l’amélioration de la relation entre les concepts prédits et les décisions finales des réseaux de neurones profonds. Premièrement, nous présentons une revue structurée et une taxonomie des méthodes existantes, en examinant leurs architectures, leurs stratégies d’apprentissage des concepts, leurs formats d’explication et leurs pratiques d’évaluation. Deuxièmement, nous introduisons le KL-Guided Concept Bottleneck Model (KL-CBM), qui encourage la cohérence entre les prédictions d’un classifieur flexible et une référence structurée et transparente fondée sur les concepts, au moyen d’un objectif de divergence de Kullback-Leibler. Troisièmement, nous proposons le Prior-Anchored Concept Bottleneck Model (PACBM), qui vise à stabiliser et à rendre plus interprétables les relations entre concepts et classes grâce à un mécanisme d’ancrage dynamique fondé sur leurs associations empiriques.

Nous évaluons les approches proposées sur des jeux de données de classification d’images, en considérant les performances prédictives, la qualité de prédiction des concepts, la stabilité des explications, leur fidélité fonctionnelle et la possibilité d’intervenir sur les concepts. Les résultats expérimentaux montrent que la structuration de la correspondance entre concepts et classes peut améliorer la reproductibilité et l’interprétabilité des explications tout en maintenant des performances de classification compétitives. Ces travaux soulignent ainsi l’importance de rendre les concepts accessibles à l’humain, mais aussi de veiller à ce que leur influence sur les décisions du modèle soit structurée, porteuse de sens et évaluée empiriquement.

 

Composition du jury :
  • Donato MALERBA, Professeur, University of Bari, Rapporteur
  • Antoine CORNUÉJOLS, Professeur, AgroParisTech / Université Paris-Saclay, Rapporteur
  • Aikaterini TZOMPANAKI, Maîtresse de conférences, CY Cergy Paris Université, Examinatrice
  • Wassila OUERDANE, Professeure, CentraleSupélec, Examinatrice
  • Vincent BARRA, Professeur, Université Clermont Auvergne, Examinateur
  • Engelbert MEPHU NGUIFO, Professeur, Université Clermont Auvergne, Directeur de thèse
  • Issam FALIH, Maître de conférences, Université Clermont Auvergne, Co-encadrant de thèse.