1!A. Cornuéjols!

Inférence et raisonnement!dans les systèmes experts

Antoine Cornuéjols !

(antoine.cornuejols@agroparistech.fr) !AgroParisTech !

2!A. Cornuéjols!

Plan général "

•  I- Introduction aux systèmes experts

•  II- Fondements : organisation et fonctionnement des SE

•  III- Le raisonnement incertain

!  Introduction

!  Grandes approches

•  IV- Les réseaux bayésiens

•  V- L’acquisition des connaissances

3!A. Cornuéjols!

1. Caractéristiques d’un système expert"

•  Expression des connaissances et raisonnement au niveau symbolique (! réseaux de neurones)

•  Base de connaissances explicite (! Mathematica) !  Séparation du raisonnement

!  Expression déclarative

•  Raisonnement analysable !  Fonctionnement très interactif

!  Possibilités de questions et d’explication

•  Utilisation de connaissances heuristiques

•  Capacité de raisonnement incertain et approximatif

•  Une modélisation du raisonnement humain

4!A. Cornuéjols!

1. Quelle utilisation : les tâches d’analyse"

5!A. Cornuéjols!

1. Quelle utilisation : les tâches de synthèse"6!A. Cornuéjols!

1. Quelle utilisation : les tâches mixtes"

7!A. Cornuéjols!

1. Historique : DENDRAL"

•  Le système DENDRAL !  Pour la NASA : 1965 - …

!  Y a-t-il de la vie sur Mars ?

!  Spectrographie de masse

masse!

intensité!

8!A. Cornuéjols!

1. Historique : DENDRAL"

•  D’abord en Fortran

•  Évolution rapide des connaissances impossible à suivre

"  Séparation :

!  des méthodes d’inférence : assez stables

!  de la connaissance : en évolution

9!A. Cornuéjols!

1. Historique : DENDRAL"

•  Exemples de connaissances !  Règle :

Si le spectre de la molécule présente deux pics x1 et x2 tels que : 1.  x1 - x2 = M + 28

2.  x1 - 28 est un pic élevé 3.  x2 - 28 est un pic élevé 4.  au moins l’un des pics x1 et x2 est élevé Alors la molécule contient un groupe cétone

C C

R1

R2

O C

R1 (x1)

R2

O C

R1

R2 (x2)

Se décompose!en :!

ou en :!

10!A. Cornuéjols!

1. Historique : MYCIN"

•  Système de diagnostic de maladie bactérienne du sang

•  Stanford (1972-1985)

•  Premier vrai système expert

11!A. Cornuéjols!

1. Historique : MYCIN - exemple de dialogue"

Mes recommandations thérapeutiques seront basées sur les infections probables et les organismes infectieux potentiels suivant :

L’organisme peut être : 1° pseudomonia aeruginosa, 2° klebsiellia pneumoniae, 3° escherichia coli, 4° bacteroides fragilis, 5° enterobactoriaceae, 6° proteus non mirabilis

Voulez-vous me donner la gravité de la maladie de M. Fred Smith sur une échelle de 0 à 4 ?

3

M. Fred Smith présente-t-il des réactions allergiques à un quelconque agent microbien ?

Non

Quel est son poids en kilos ?

70

MYCIN :!

MYCIN :!

MYCIN :!

Médecin :!

Médecin :!

Médecin :!

12!A. Cornuéjols!

1. Historique : MYCIN - exemple de dialogue"

Ma recommandation thérapeutique sera en premier choix : pour couvrir les points <1 2 3 5 6>, prescrire de la Gentamicine, dose 119 mg 98 h IV, pendant 10 jours;

Pour couvrir le point 4, prescrire de la Clindamycine, dose 595 mg 96 h IV, pendant 14 jours.

Désirez-vous éventuellement éliminer certains médicaments ?

Oui, la Clindamycine.

Pour couvrir les points <2 3 4 5 6> donner du Chloramphénicol, dose 1 g 96 h IV, pendant 14 jours;

** Surveiller le taux de globules blancs du patient.

Pour couvrir le point 1, donner de la gentamicine, dose 119 mg 98 h IV, pendant 10 jours.

** Modifier la dose en cas de faiblesse rhénale.

MYCIN :!

MYCIN :!

Médecin :!

13!A. Cornuéjols!

1. Historique : MYCIN - exemple d’explication"

L’infection du malade a t-elle été contractée à l’hôpital ?

Pourquoi ?

[Pourquoi est-ce important de savoir cela ?]

Cela aidera à déterminer la catégorie à laquelle appartient l’organisme responsable de l’infection :

-  il a déjà été établi que 1° l’organisme est à Gram négatif, 2° c’est un bâtonnet, 3° il se développe à l’air ou sans air.

-  Donc si l’infection par cet organisme n’a pas été contractée lors du séjour à l’hôpital

Alors il est presque certain (0,8) que l’organisme est de la catégorie des enterobactoriaceae; de plus, il se peut (0,1 ; règle 37) que ce soit de la pseudomonia aeruginosa.

Pourquoi n’avez-vous pas envisagé la possibilité que l’organisme soit un streptocoque ?

La règle 33 aurait du être utilisée pour identifier l’organisme comme un streptocoque, mais la seconde clause « la morphologie est de type coque » était déjà connue comme fausse et la règle 33 n’a jamais été essayée.

MYCIN :!

TEIRESIAS :!

Médecin :!

TEIRESIAS :!

Médecin :!

14!A. Cornuéjols!

1. Structure des systèmes experts"

Mémoire !de travail!

Base de !connaissances!

Module !d’interface!

Module!d’explication!

Module !d’acquisition !

des connaissances!

15!A. Cornuéjols!

2. Représenter ..."16!A. Cornuéjols!

2. Que représenter ?"

•  Catégories

•  Mesures

•  Objets composites

•  Temps, espace, changements

•  Evènements et processus

•  Objets physiques

•  Substances

•  Objets mentaux, croyances, ...

•  ...

17!A. Cornuéjols!

2. Des niveaux de représentation"

•  Le niveau de la connaissance ou niveau épistémologique !  Le plus abstrait. On décrit ce que l’agent sait.

!  (E.g. le chauffeur de taxi sait que le Golden Bridge permet d’aller de San Francisco au Marin County)

•  Le niveau logique !  Niveau auquel la connaissance est encodée en phrases

!  (E.g. connecte(GGBridge, SF, Marin_County))

•  Le niveau physique ou de l’implémentation !  Niveau de l’exécution du code

!  (E.g. “Connecte(GGBridge,SF,Marin_County)” ou un 1 dans une matrice de connections entre lieux, etc...)

18!A. Cornuéjols!

2. Des représentations"

•  Logiques –  Logique des propositions –  Logique des prédicats –  Logique temporelle –  ...

•  Structurées –  Ontologies –  Réseaux sémantiques

•  Degrés de croyances –  Réseaux bayésiens –  Logique floue

•  ...

19!A. Cornuéjols!

2. La logique"

•  Attrait : normatif, bien étudié

•  Les logiques se définissent par : !  leur syntaxe

!  leur règles d’inférence

!  leurs sémantiques (de la vérité, de la preuve)

20!A. Cornuéjols!

2. La logique des propositions"

Porte sur les faits (vrais ou faux) désignés par extension

•  Théorie des modèles (et conséquence logique |=)

•  Théorie de la démonstration (déduction |-)

!  Règle du modus ponens :

!  Résolution :

!  …

A , A ! B!B!

A " B , ¬B " C!A " C!

21!A. Cornuéjols!

2. La logique des prédicats"

Porte sur les objets et leurs relations (vraies ou fausses)

Permet de parler d’un ensemble d’objets ou de faits

!  Variable & quantificateurs, prédicats, fonctions, connecteurs

!  Interprétation, modèle d’une formule, …

!  Procédure de preuve

•  Rq. sur les logiques d’ordre supérieur : !  Raisonnement déductif non automatisable, encore très mal comprises

22!A. Cornuéjols!

2. Représentation à base de règles"

23!A. Cornuéjols!

2. Représentation à base de règles"24!A. Cornuéjols!

2. Expressivité des règles "

•  Ordre 0 : logique des propositions

!  Si Ferrari et Michael alors rapide

•  Ordres 0+ : logique des propositions typée (attribut-valeur)

!  Si voiture = ferrari et pilote=michael alors vitesse=rapide

•  Ordre 1 : logique des prédicats

!  # X,Y : Si voiture(X) et X=ferrari et pilote(X,Y) et Y=michael alors rapide(X)

•  Ordre 2 : logique d’ordre 2

!  # R, X,Y : Si type(R)=symétrique et R(X,Y) alors R(Y,X)

25!A. Cornuéjols!

2. Représentations à base de schémas"

•  Notion d’ontologie

!  Catégories. Héritage. Notion de généralité. …

•  Réseaux sémantiques

!  Utilisation d’opérateurs non logiques

–  Héritage avec exceptions, propagation de marqueurs ou de degrés d’activation ...

–  Peuvent être rendus aussi expressifs que la logique d’ordre 1

•  Représentation du temps, de l’espace …

26!A. Cornuéjols!

3. Le raisonnement : règles d’inférence"

•  Modus ponens

•  Modus tollens

•  Résolution

•  …

A , A ! B!B!

A " B , ¬B " C!A " C!

¬B , A ! B!¬A!

27!A. Cornuéjols!

3. Le raisonnement : le cycle de base"

DETECTIONDétermine les règles et les faitspertinents au moyen d'unifications

"pattern matching"

CHOIXDécide parmi les règles applicablescelle qu'il convient de déclencher

effectivement

EXECUTION

Exécute la partie action de la règleen tenant compte des substitutions

trouvées à l'étape 1. Met à jour la Base de Données ou

Mémoire de Travail.

Ensemble de conflit

Règle sélectionnée

28!A. Cornuéjols!

3. Phase de détection"

Généralement la plus coûteuse (en ordre 1)

•  Complexité :

!  Coût d’appariemment : une règle - un fait

–  Coûteux en ordre 1

!  Multiplié par 1/2 [# règles x # faits] en moyenne

•  Méthodes pour y remédier :

!  Méthodes de filtres

!  Méthode de compilation de base de règles

–  La méthode RETE

29!A. Cornuéjols!

3. La phase de sélection"30!A. Cornuéjols!

3. Exemples de metarègles"

•  Metarègle 1 : Si (1) le patient est un hôte à risque et (2) il existe des règles qui mentionnent des pseudomonias dans une prémisse et (3) il existe des règles qui mentionnent des klesiellas dans une prémisse alors il est probable (0,4) qu’il faille utiliser les premières avant les secondes

•  Metarègle 2 : Si l’on cherche une thérapie

alors, dans cet ordre, considérer les règles qui permettent de : 1.  acquérir des informations cliniques sur le patient 2.  trouver quels organismes, s’il en existe sont cause de l’infection 3.  identifier les organismes les plus vraisemblables 4.  trouver tous les médicaments potentiellement utiles 5.  choisir les plus adatés en plus petit nombre

31!A. Cornuéjols!

•  Varie en fonction du contexte !  Déclenchement d’une caméra, d’un moteur, …

!  Réalisation d’une inférence

–  Le modus ponens

•  Types de chaînage !  Chaînage avant

!  Chaînage arrière

!  Chaînage mixte

–  Chaînage avant ou arrière en cours de raisonnement

3. La phase de déclenchement"

A , A ! B!B!

B , A ! B!A!

32!A. Cornuéjols!

3. Raisonnement : un exemple"

R1 : Si A alors E

R2 : Si B alors D

R3 : Si H alors A

R4 : Si E & G alors C

R5 : Si E & K alors B

R6 : Si D & E & K alors C

R7 : Si G & K & F alors A

Faits initiaux : H, K

But : C

33!A. Cornuéjols!

3. Systèmes à règles de production"!R1 :!Si A alors E "!R2 :!Si B alors D "

!R3 :!Si H alors A "

!R4 :!Si E et G alors C "

!R5 :!Si E et K alors B "

!R6 :!Si D et E et K alors C "

!R7 :!Si G et K et F alors A "

34!A. Cornuéjols!

3. Les stratégies de contrôle du raisonnement"

Fréquent! Possible!

Possible! Possible!

35!A. Cornuéjols!

Avantages apparents des SE"

•  Des « boîtes de verre » !  Les connaissances sont explicites

!  Le SE peut « expliquer / justifier » son raisonnement

•  Questions que l’on peut poser !  Comment es-tu arrivé à telle conclusion ?

!  Règles mises en jeu et faits utilisés

!  Pourquoi as-tu utilisé telle règle ?

!  Buts poursuivis

36!A. Cornuéjols!

Questions "

•  Sur le contenu de la base de connaissances

!  !"#$%"&'#()'*+$,-."/*&$,0#,1.,%."2#3&%&11&3#,-*+",1#$,&3/#%4*3$,

-.",-$#+0*5*3.$,6,

7  89:1#$,%*3%#"3;#$,<,"9:1#,=>?@,"9:1#,=AB@,"9:1#,CDB,

7  E#$F+#11#$,0;$&"#()'*+$,#G.5&3#",6,

37!A. Cornuéjols!

Questions "

•  De type « comment ? »

!  H*55#3I,$.'&#()'*+$,F+#,1#,-.4#3I,3J.'.&I,-.$,#+,0#,$I;"*K0#$,6,

7  E.,"9:1#,DLM,.,;I;,+41&$;#,-*+",%*3%1+"#,F+#,N*O3,P5&IO,3J.'.&I,-.$,#+,0#,

%*"4%*$I;"*K0#$,<,

Q  P&,N*O3,P5&IO,3J#$I,-.$,.R.&21&,$+",1#,-1.3,&55+3&I.&"#,

S1*"$,&1,$T",F+#,N*O3,P5&IO,3J.,-.$,"#U+,0#,%*"4%*$I;"*K0#$,

!  H*55#3I,$.'&#()'*+$,F+#,1#,-.4#3I,3J;I.&I,-.$,.R.&21&,$+",1#,-1.3,&55+3&I.&"#,6,

7  E.,"9:1#,DM=,.,;I;,+41&$;#,V,

38!A. Cornuéjols!

Questions "

•  De type « pourquoi ? »

7  N*O3,P5&IO,#$I)&1,+3,OWI#,X,"&$F+#,6,

!  !*+"F+*&,6,Y-*+"F+*&,#$I)&1,&5-*"I.3I,0#,0;I#"5&3#",$&,N*O3,P5&IO,#$I,+3,OWI#,X,"&$F+#,6Z,

7  H#1.,.&0#".,X,0;I#"5&3#",$&,N*O3,P5&IO,#$I,.R.&21&,$+",1#,-1.3,&55+3&I.&"#,,

Q  P&,N*O3,P5&IO,3J#$I,-.$,+3,OWI#,X,"&$F+#,

S1*"$,&1,#$I,$T",YC[=Z,F+#,N*O3,P5&IO,3J#$I,-.$,.R.&21&,$+",1#,-1.3,&55+3&I.&"#,

\"9:1#,D?D],

!  !*+"F+*&,6,

7  !*+",0;I#"5&3#",$&,N*O3,P5&IO,.,"#U+,0#$,%*"I*%*$I;"*K0#$,

Q  P&,N*O3,P5&IO,3J#$I,-.$,.R.&21&,$+",1#,-1.3,&55+3&I.&"#,

S1*"$,&1,#$I,$T",YC[=,F+#,N*O3,P5&IO,3J.,-.$,"#U+,0#,%*"4%*$I;"*K0#$,\89:1#,DLM],

39!A. Cornuéjols!

Questions "

•  De type « pourquoi ? » (suite),

!  !*+"F+*&,6,

7  !*+",0;I#"5&3#",1#$,*":.3&$5#$,%.+$#$,0#,1J&3/#%4*3,

Q  ^1,.,0;_X,;I;,;I.21&,F+#,,

7  EJ&3/#%4*3,F+&,"#F+&#"I,+3#,IO;".-&#,#$I,+3#,5;3&3:&I#,,

7  EJ&0#34I;,0#,1J*":.3&$5#,3J#$I,-.$,%*33+#,.'#%,%#"4I+0#,

7  E.,5;3&3:&I#,#$I,0#,I`-#,2.%I;"&#3,

Q  P&,0#,-1+$,

7  N*O3,P5&IO,.,"#U+,0#$,%*"4%*$I;"*K0#$,,

Q  S1*"$,,

7  &1,#$I,-*$$&21#,F+#,1J*":.3&$5#,%.+$#,0#,1J&3/#%4*3,$*&I,<,a[H*1&,Y=[?Z,*+,b1#2$&#11.)

-3#+5*3&.#,Y=[>Z,,\89:1#,M?D],

40!A. Cornuéjols!

Côté illusoire de cette transparence"

•  Étude critique de Tom Clancey

41!A. Cornuéjols!

EJ.%F+&$&4*3,0#$,%*33.&$$.3%#$,

42!A. Cornuéjols!

Acquisition des connaissances : Méthodes d’extraction"

•  Méthode des tâches familières

•  Entretiens !  non structurés

!  structurés

•  Tâches sous contraintes de ressources !  Information limitée

!  Temps limité

!  ....

•  Méthode des cas difficiles

43!A. Cornuéjols!

Construire un système expert si :"

•  Il existe une justification claire

•  Caractéristiques tâche et domaine : !  Expertise atteinte en 3 à 5 ans

!  Tâche cognitive (vs. eg. tâches proprioceptives)

!  L’expert peut être consulté par téléphone (par les utilisateurs)

•  Caractéristiques expert : !  Il y a un expert

!  Un seul expert suffit (sinon attention ...)

!  L’expert est disponible (6 mois à 2 ans, " 1/2 journée / semaine)

!  L’expert possède des cas pour analyse