Séminaire Hénoïk Willot
Explications certifiées pour modèles robustes
27 mars 2025 - 15:00L'utilisation croissante des systèmes d'aide à la décision crée le besoin de les rendre fiables et transparents pour un utilisateur final. Tandis que le rôle des méthodes d'explicabilité est généralement d'augmenter la transparence, la fiabilité peut être obtenue en fournissant des explications certifiées, dans le sens qu'elles sont garanties d'être vraies, et en considérant des modèles robustes, définis à l’aide d’un ensemble de modèle obtenu par élicitation des préférences de l’utilisateur ou par apprentissage statistique robuste. L’intérêt de ces modèles réside dans leur capacité à s'abstenir quand l'information disponible est trop insuffisante, plutôt que de forcer une décision dans l'unique but d'éviter l'indécision. Une décision n’est alors prise que si et seulement si tous les modèles de l’ensemble prennent cette décision, autrement dit grâce à une "inférence sceptique".
Les explications que nous étudierons seront définies pour deux contextes de décision :
-
le premier se focalise sur un modèle classique de décision utilisé pour intégrer de l'équité : les Sommes Pondérées Ordonnées (Ordered Weighted Averaging – OWA) à poids décroissants. Les explications seront construites à partir des propriétés axiomatiques du modèle, qui sont habituellement utilisées uniquement afin de justifier le choix de la famille de modèles. Ce faisant, nous proposons aussi un cadre unifiant les dominances de Lorenz restreintes et généralisées, les OWA décroissants précis ainsi qu’une axiomatique complète des OWA robustes.
-
le second se focalise sur le cas où la règle de décision est un classifieur obtenu à partir d'une procédure d'apprentissage sous la forme d'un ensemble convexe de probabilités. Nous étudierons le problème de fournir des impliquants premiers comme explication de la dominance ou de l’incomparabilité entre deux classes, avec un traitement dans le cas du classifieur naïf crédal.