EXPlainable artificial intelligence: a KnowlEdge CompilaTion FoundATION

Le projet EXPEKCTATION concerne le développement d’approches pour un apprentissage automatique interprétable et robuste, en utilisant la compilation de connaissances : nous recherchons des techniques de prétraitement capables d’associer à un prédicteur boîte noire une boîte blanche, pouvant être utilisée pour fournir diverses formes d’explication et répondre à des requêtes de vérification sur la boîte noire. Nous prévoyons de nous concentrer sur le problème de l’interprétabilité post-hoc : on examinera des modèles d’apprentissage qui ne sont pas interprétables intrinsèquement et on analysera les modèles une fois appris. Nous nous concentrerons sur la question de l’interprétabilité globale (i.e., d’expliquer le comportement du modèle dans son ensemble).

Clairement, la traduction de la boîte noire en une boîte blanche peut être coûteuse en calcul. De plus, dériver des explications à partir d’un modèle boîte blanche peut se révéler également difficile (les problèmes d’abduction ont une complexité élevée). Toutefois, une fois le modèle boîte noire appris, il n’a pas à être modifié à chaque fois qu’une nouvelle entrée doit être prise en compte. Ainsi, la boîte blanche correspondante peut être prétraitée afin de faciliter la génération d’explications des prédictions, indépendamment des entrées associées. La compilation de connaissances apparaît comme une approche très prometteuse à cet égard.

L’objectif principal du projet EXPEKCTATION est de tirer parti des techniques de compilation de connaissances, dont nous possédons une expertise importante, afin de traiter des problèmes fondamentaux pour l’IA explicable et robuste. Deux questions principales seront examinées :

  • Quels langages de représentation admettent des algorithmes « efficaces » pour dériver des explications et prendre en charge des requêtes de vérification ?
  • Comment extraire une représentation traitable d’un prédicteur boîte noire ?