ANR PRCE DesiRes

Designing Artificial Reasoners for Communication

Projet porté par l’IRIT.

Les systèmes intelligents actuels, notamment les grands modèles de langage (LLM), sont capables d’accomplir des tâches considérées irréalisables par des machines il y a quelques années. Toutefois, ils présentent encore plusieurs limitations dans les tâches déductives complexes, comme le raisonnement moral et le raisonnement sur les émotions humaines. L’absence d’une théorie de l’esprit (ToM « théorie of mind ») ce traduit dans une incapacité de représenter l’état mental de son interlocuteur ainsi que d’inférer ses croyances, désires et intentions.

L’objectif du projet DesiRes est d’équiper les LLM avec ToM. Le projet est à la fois théorique et pratique, allant de la conception formelle des algorithmes à l’implémentation des solutions combinant raisonnement logique et LLM dans des agents conversationnels, ainsi que l’évaluation des agents dans les interactions avec des humains.