intelligence artificielle et innovation : possible · un livre blanc 3 / 22 allons, la cause...

Un livre blanc 1 / 22

INTELLIGENCE ARTIFICIELLE ET INNOVATION : POSSIBLE ?

ENQUÊTE AU PAYS DU DEEP LEARNING

Jacques BAUDRON - [email protected]

Février 2017

Petites considérations sur l’Intelligence Artificielle, ses versions faible et forte, le transhumanisme en s’appuyant sur une enquête autour de la mécanique

du Deep Learning.


Tabledesmatières

INTELLIGENCE ARTIFICIELLE ....................................................................... 3APPRENTISSAGE ............................................................................................................................. 6NEURONES .................................................................................................................................... 6LEARNING EN VERSION MACHINE ET DEEP ............................................................................................ 7ALPHAGO A MONTE-CARLO ............................................................................................................ 11INTELLIGENCE ARTIFICIELLE ET INNOVATION, C’EST POSSIBLE ? ............. 13LE TEST DE TURING ....................................................................................................................... 15HAWKING, GATES ET MUSK ONT PEUR. ET VOUS ? ............................................................................... 16QU’EN CONCLURE ? ..................................................................................... 21A PROPOS DE L’AUTEUR .............................................................................. 22


Allons, la cause semblait pourtant entendue : l’Intelligence Artificielle dans sa version courante dite faible est incapable d’innovation ou de création.

Par construction.

L’Intelligence Artificielle s’épanouit dans la reproduction de comportements appris, et il est vrai que nous assistons là à des prodiges. Mais d’innovation, point. Ce n’est pas pos-sible. Elle ne sait que répéter. Elle ne sait pas créer. Elle ne sait que reproduire ce qu’elle a ingéré dans la phase d’apprentissage.

Sauf qu’une Intelligence Artificielle dédiée au jeu de Go vient de jouer avec succès des « coups » absents du catalogue.

AlphaGo, développement de DeepMind maintenant propriété de Google a gagné quatre parties dans un tournoi de cinq le sud-coréen Lee Sedol, un des meilleurs joueurs de Go au monde. A priori rien d’extraordinaire : il y a bientôt vingt ans que Deep Blue a fait de même face à Garry Kasparov aux échecs et le poker lui-même s’est récemment incliné.

La particularité est que par deux fois au moins la machine a surpris l’humain en se pla-çant dans des positions que quatre millénaires d'usage avaient définitivement classées au rang d’erreurs de débutant. Surprise : ces positions bannies ont mené à la victoire de la machine.

Nous voilà bien dans une situation où l’Intelligence Artificielle aurait innové. Alors, ca-pable ou pas d’innover ? Qu’en est-il ? Faut-il craindre l’Intelligence Artificielle ?

INTELLIGENCE ARTIFICIELLE

À tout hasard on a jugé prudent de définir une Intelligence Artificielle « forte » et une « faible ». La « forte », capable de sentiments est celle de l’homme et la « faible » élève docile à même de répéter nos comportements est celle de l’automate. La jonction entre les deux est baptisée singularité. Quoique incapables de conceptualisation, les performances atteintes par l’Intelligence Artificielle faible aujourd’hui sont proprement époustou-flantes. Tout est dans l’apprentissage.

Penchons-nous sur la mécanique de l’Intelligence Artificielle.

La démarche est en deux phases : construction d’un modèle par apprentissage à partir d’exemples puis utilisation des modèles ainsi élaborés pour prévoir ou décider. Les pro-grès fulgurants de l’Intelligence Artificielle dès ces dernières années sont liés aux per-formances de l’apprentissage.


La période d’apprentissage est l’assise sur laquelle se construit le modèle. Celui-ci peut être une simple droite obtenue par régression linéaire, une courbe plus élaborée, avoir plusieurs sorties, par exemple dix lors de la reconnaissance des chiffres, intégrer votre profil d’usage de carte bancaire et détecter ainsi une anomalie lorsqu’un débit est effectué depuis un grand hôtel à Bangkok, proposer la description d’une image qui aura été recon-nue, activer le freinage d’une voiture autonome, suggérer un « coup » à porter dans une partie de Go.

De fait les applications sont extrêmement étendues. L’homme peut globalement en user pour tout ce qui se rapproche d’un automatisme. Comme souvent lorsque la technologie n’est pas encore mature on a grand mal à imaginer les possibilités.

Dès aujourd’hui, on peut lire sur les lèvres. DeepMind a fait ce que peu d’humains sau-raient faire : visionner cinq mille heures de programmes télévisés de la BBC et absorber les quelque cent dix-huit mille phrases pour apprendre à lire sur les lèvres. La machine reconnaît près d’un mot sur deux contre un sur huit pour un professionnel. Quel usage ? Espionnage, surveillance ? Mais non voyons, uniquement assistance pour les malenten-dants.

Google Brain exploite de rudimentaires pixels d’une image huit sur huit pour se rappro-cher de l’original.

Construction et utilisation d’un modèle


Le traitement se fait en trois phases. Dans un premier temps on part d’images haute réso-lution que l’on pixellise pour tenter de se rapprocher de l’image à traiter. Puis on part de l’original pour ajouter des détails. Ces deux premières étapes sont construites sur des ré-seaux neuronaux, moteur de l’Intelligence Artificielle faible. Enfin on utilise les deux ré-sultats pour en déduire l’image suggérée.

Dans le domaine de la retouche d’images fixes ou animées, l’Intelligence Artificielle faible est parfaitement à son aise.

Smile Vector sait susciter les larges sourires qui ont fait défaut lors de la prise de vue.

Les universités de Stanford, de Erlangen-Nuremberg et le Max-Planck-Institute for Informatics travaillent sur l’application Face2Face qui modifie les expres-sions du visage en fonction de celles d’un modèle. Le tout en temps réel. L’original de Georges Jr en bas à gauche est modifié sous la directive du modèle en haut à gauche pour un résultat à droite. Si vous sou-haitez en savoir plus, la lecture de thies2016face.pdf vous comblera.

La détection de trucage dans des images qui s’appuie sur des anomalies d’éclairage est maintenant menacée. La voix elle-même peut être éditée. Bilan : une vidéo criante de vé-rité peut tout à fait être le résultat d’un montage. Il va être possible de faire dire n’importe quoi à n’importe qui. Urgent : une application de l’IA pour détecter les « fakes » créés par l’IA !

Skype Translator vise à permettre à deux interlocuteurs de dialoguer chacun dans leur langue.

La voiture autonome postule pour être en bonne place parmi les applications férues d’Intelligence Artificielle notamment pour la reconnaissance d’images. Détecter un objet sur la route, déceler une bicyclette mal éclairée, discerner une plaque de verglas, deviner un piéton, distinguer un obstacle passent avant tout par une bonne vue au volant.

L’application qui me semble la plus révélatrice de la puissance du Deep Learning reste cependant les conférences de Yann LeCun avec ses démonstrations d’une webcam qui

L’Intelligence Artificielle fait grimacer Georges Jr.

Un petit click pour un grand sourire


balaie l’espace et légende en temps réel les éléments rencontrés : mug, téléphone portable …

On peut même affirmer que la tâche accomplie par l’Intelligence Artificielle sera souvent mieux accomplie par la machine que par l’homme : la machine est attentive en perma-nence, ne connaît pas de période de fatigue et ne se laisse pas distraire. Les fautes hu-maines coupables suivant les statistiques courant dans la presse de neuf accidents auto-mobiles sur dix pourraient disparaître au « profit » des bugs de la machine dont le taux, peut-on espérer, serait bien moindre.

La pertinence de la réponse apportée par l’Intelligence Artificielle est directement liée à la richesse et au bien fondé du modèle. C’est bel et bien lui qui crée « l’intelligence ». Comment se déroule l’apprentissage ?

APPRENTISSAGE

Trois méthodes d’apprentissage ont les faveurs des experts : l’apprentissage supervisé, l’apprentissage non supervisé et l’apprentissage renforcé.

Dans le cadre de la reconnaissance d’images, un expert montre à la machine un objet en lui indiquant son nom : ceci est une pipe. C’est de l’apprentissage supervisé. À l’inverse lorsque la machine crée d’elle même des classes de regroupements qui lui semblent perti-nentes, l’apprentissage devient non supervisé. Une classe d’objets, par exemple des chats comme l’a fait en 2012 Goggle Brain se crée en isolant des formes récurrentes. Enfin l’apprentissage renforcé est guidé par la récompense. Ce sera par exemple le score à un jeu.

Les techniques d’apprentissage utilisent comme élément de base le neurone artificiel. Attention : le nom est flatteur, mais « artificiel » est plus propre à définir la chose que « neurone ». Petit aperçu sur les neurones.

NEURONES

Le fonctionnement du cerveau humain a toujours fasciné les chercheurs en Intelligence Artificielle. Notamment la brique de base, le neurone. Il faut compter dans un cerveau humain aux environs de cent milliards neurones.


Le neurone active la ou les sorties en fonction des niveaux d’entrée et sa mise en réseau donne au cerveau ses capacités tant sur le plan de l’intelligence pur que sur celui des émotions ou sentiments. L’Intelligence Artificielle forte cherche à retrouver ces caracté-ristiques.

Les réseaux neuronaux artificiels vont reprendre peu ou prou cette architecture en se con-tentant d’un embryon de sa puissance.

Le neurone artificiel prend en compte plusieurs entrées, les pondère et propose une sortie. C’est une fonction non linéaire à seuil, comme le rappelle Jean-Claude Heudin du Pôle universitaire Léonard de Vinci, vocable assurément moins prestigieux que neurone. Les rudimentaires performances d’un neurone artificiel sont très loin d’autoriser la comparai-son avec un neurone naturel. Soyons plus précis : il n’est absolument pas acquis que ce soit à partir de la « fonction linéaire à seuil » qu’on pourra éventuellement un jour recréer un neurone biologique. La technologie n’est proche ni prête à la concurrence avec le cer-veau et ses 100 000 000 000 neurones, chacun d’entre eux disposant de quelque 1 000 voire 10 000 connexions.

LEARNING EN VERSION MACHINE ET DEEP

La puissance de l’Intelligence Artificielle s’appuie sur la construction d’un modèle par apprentissage. Pour fixer les idées si la courbe que l’on cherche à utiliser est une simple

Le neurone biologique et sa structure en réseau

Le neurone artificiel et sa structure en réseau


droite (quantité de matière et poids par exemple), deux paramètres définiront le modèle : la pente de la droite et le décalage. On ajuste ces valeurs en intégrant le plus grand nombre possible d’exemples en entrée du neurone.

Les neurones sont agencés en réseau. Les premiers réseaux ont été réalisés avec une seule couche de neurones insérée entre entrées et sorties, le niveau caché. La technologie ne permettait pas alors d’aller plus loin. Puissance de calcul aidant, les étages cachés se sont étoffés.

Cette évolution est à l’origine des deux techniques : Machine Learning et Deep Learning.

Jusqu’en 2012 tous sauf quelques uns étaient persuadés qu’il était illusoire voire contre productif d’avoir plus qu’un niveau de neurones cachés entre les entrées d’un système et les sorties. Gardons bien en tête que l’apprentissage consiste à ajuster les paramètres de chacune des entrées des neurones, tâche devenant rapidement gourmande en moyens. Deux obstacles de taille se dressaient : la quantité d’informations pour alimenter le réseau de neurones et la puissance de calcul pour faire les traitements.

Le Machine Learning fonctionne avec un seul niveau intermédiaire de neurones et un homme du métier accompagne l’entrée des données dans le réseau, alors que le Deep Learning dispose de plusieurs étages intermédiaires (d’où le qualificatif de « deep »). Une quantité « phénoménale » de données en entrée assure l’apprentissage en Deep Learning.

Geoffrey Hinton a résumé les raisons pour lesquels un apprentissage purement supervisé était limité : la quantité de données renseignées était des milliers de fois trop faible, la puissance des ordinateurs était beaucoup trop faible, le paramétrage des poids n’était pas suffisamment astucieux et les modèles de non-linéarité étaient erronés.

En 2012, le Deep Learning a marqué son arrivée avec le Google Brain et son fondateur Andrew Ng. Dix millions de captures d’écran aléatoires et non renseignées ont nourri la

Apprentissage


machine pendant trois jours et celle ci a généré d’elle-même différentes catégories d’objets dont la catégorie « chat ».

Puis nouveau coup d’éclat : le « challenge ImageNet » est le théâtre annuel de mise à l’épreuve des algorithmes de reconnaissance d’images. L’algorithme construit sur le Deep Learning avec Geoffrey Hinton obtient des taux d’erreurs deux fois plus faibles que ses concurrents. La cause est d’ailleurs entendue : seul le Deep Learning est utilisé depuis dans la compétition.

Pour faire du Deep Learning, il faut une grande quantité d’informations en entrée. Le Big Data est là pour pourvoir au besoin. Pour faire du Deep Learning il faut de la puissance de calcul. Les cartes graphiques sont là pour supporter les calculs. Pour faire du Deep Learning, il faut des algorithmes. Les chercheurs dont le français Yann LeCun sont là pour permettre des « choses » comme les réseaux convolutionnels indispensables en re-connaissance d’images. Ils étaient d’ailleurs prêts bien avant l’émergence des moyens de calculs adéquats.

La reconnaissance d’image est un domaine où les réseaux convolutionnels excellent.

Très schématiquement, les caractéristiques élémentaires sont extraites de l’image. Ce sont des formes géométriques obtenues avec les contrastes. Ces caractéristiques sont regrou-pées pour être comparées à des objets issus de l’apprentissage et classés en éléments : voiture, arbre …

Pour l’extraction de caractéristiques, le réseau de neurones convolutif est doté de plu-sieurs étages. Le premier ne s’intéresse qu’aux pixels pour extraire les contrastes. Des motifs élémentaires sont alors détectés et éventuellement regroupés pour obtenir des lignes, des angles des arcs de cercle. Et ainsi de suite, avec une abstraction croissante en remontant les étages. Les stades supérieurs permettent d’avancer et de reconnaître un vi-sage, une auto ou un arbre. Et c’est là un atout certain du Deep Learning face au Machine Learning : les données sont directement hiérarchisées ce qui simplifie d’autant les traite-ments futurs.

Description d’une image


Le Deep Learning engrange une immense quantité de données pour apprendre. Le pro-cessus d’apprentissage est proche de celui du cerveau humain. Mais attention : cette proximité ne nous ouvre pas pour autant les capacités du cerveau. Le fait d’appeler « neu-rone » une fonction certes élaborée de comparateur ou d’appeler « Intelligence » la mise en mémoire certes automatique de processus ne nous met pas sur un pied d’égalité avec le cerveau des êtres vivants. L’imagination, la conceptualisation sont encore loin et les dé-veloppements aujourd’hui seraient bien en peine d’en proposer une voie de recherche.

Le succès du Deep Learning est immense. On le retrouve chez tous les « grands ». Il permet de générer des phrases qui décrivent une image (double performance), de recon-naître des visages, de reconnaître la race d’un chien, de lire sur les lèvres. Les noms de produits sont révélateurs : DeepMind chez Google avec la victoire au jeu de Go, DeepFace chez FaceBook avec 97 % de taux de reconnaissance faciale, Watson chez IBM. Chez IBM sur la base de puces maison, un réseau de quatre milliards de neurones interconnectés par mille milliards de synapses est sur les tables du labo.

DeepMind a confronté son noyau d’Intelligence Artificielle aux jeux proposés par ATARI dans les années 1980. L’approche est amusante car une seule consigne était donnée au logiciel : obte-nir un gain toujours plus élevé au jeu. Et c’est tout. On ne donne même pas les règles du jeu. Le résultat est spectaculaire. Sur le jeu de briques avec raquette et balle, il suffit de quatre cents parties pour que le logiciel maîtrise le jeu. Après six cents par-ties il a même une stratégie : faire un couloir sur un côté pour détruire les briques à revers. Ces résultats que vous pouvez re-trouver sur https://www.youtube.com/watch?v=Q70ulPJW3Gk sont un bel exemple de l’apprentissage par renforcement.

L’Intelligence Artificielle a avec le Deep Learning de quoi faire encore des progrès subs-tantiels. Mais rien dans ces caractéristiques n’explique comment l’Intelligence Artificielle a pu imaginer un coup venu d’ailleurs au jeu de Go. Il nous faut maintenant poursuivre nos investigations en amont et nous intéresser aux données qui alimentent l’apprentissage.

Pour cela, prenons la route de Monte Carlo.

Le Big Data pour alimenter le Deep Learning


ALPHAGO A MONTE-CARLO

Question préliminaire : comment joue-t-on au jeu de Go ? Les règles sont en fin de compte plutôt simples. Deux joueurs ont des pions blancs ou noirs nommés des pierres et une grille de dix-neuf lignes sur dix-neuf colonnes, le Goban. Chaque joueur pose ses pierres sur le Goban de telle sorte qu’il arrive à encercler un maximum de pierres ad-verses. Le gagnant est celui qui a encerclé un maximum de pierres de son adversaire. De-puis quatre mille ans les combats se déroulent en Corée, en Chine ou au Japon.

La puissance d’AlphaGo repose sur trois algorithmes : apprentissage « Deep Learning », apprentissage par renforcement et Monte-Carlo.

AlphaGo a beaucoup joué au jeu de Go. Il a commencé par jouer contre des humains ou plus exactement contre des parties enregistrées. Puis tout comme le joueur d’échec de Stefan Zweig il s’est battu contre lui-même – apprentissage par renforcement. Sans re-lâche. Mais cette stratégie ne permet à AlphaGo que de piocher dans les exemples qui lui sont fournis. Proposer une position c’est bien mais encore faut-il l’évaluer, tâche qui sera demandée à l’algorithme de Monte Carlo. L’évaluation se fait en épluchant l’arbre des possibles.

Dans le jeu du morpion, on dispose à la base de trois possibilités différentes pour ouvrir le jeu. La complexité – nombre de configurations possibles - est évaluée à 103. Aux échecs, il y a en moyenne entre vingt et trente choix. La complexité est évaluée à 1050. Sur un plateau de Go qui est un carré de dix-neuf lignes de côté, le « goban », ce sont entre deux et trois cents possibilités de jeu. La complexité est évaluée à 10170. Cette va-leur est souvent rapprochée du nombre d’atomes dans l’univers observable : 1080. Impos-sible de travailler en « force brute » autrement dit en enregistrant des scenarii.

L’évaluation est relativement accessible avec le jeu d’échec où chaque pièce à son poids. Au jeu de Go, toutes les pièces ont le même poids. Il faut atteindre et attendre la fin de la partie pour pouvoir évaluer une position.

L’impressionnant arbre de décision du jeu de Go


Alors il a fallu ruser et utiliser une méthode mise au point en 2006 par Rémi Coulom pour simplifier les arborescences, méthode elle-même fille de la méthode de Monte Carlo de 1947 élaborée par Nicholas Metropolis. L’idée est de prendre la même technique que pour les sondages. On étudie qu’un échantillon de la population. On joue des positions au hasard, et pour chaque configuration on termine la partie en simulant divers scénarios. On fait ça des dizaines de milliers de fois et les statistiques de victoires permettent de va-loriser le coup. Lorsque qu’une position permet d’obtenir un bon score de victoires, alors elle est enregistrée comme positive.

Vous noterez que « au hasard » est mis en gras. J’aurais pu voire dû le souligner, le mettre en rouge, avec une police de caractère de cent cinquante : nous tenons enfin le cou-pable. C’est en testant au hasard les combinai-sons que les positions jugées interdites depuis des millénaires ont été réhabilitées par de bons résultats à ces tests. Notons qu’en parallèle la seule partie perdue l’a été pour la même rai-son. Une position prise par Lee Sedol avait été

négligée par AlphaGo car évaluée peu intéres-sante.

Voilà donc l’origine de ces coups que la longue pratique du jeu de Go avaient déclaré « à bannir » et dont l’usage fut déterminant dans la victoire de la machine sur l’homme : le hasard.

C’est parce que la machine a pioché au petit bonheur la chance dans l’immense réservoir de combinaisons, qu’elle a été au bout des simulations jusqu’à la sanction binaire « je gagne » ou « je perds » et ce sans relâche des milliers de fois qu’elle a été en mesure d’affirmer que statistiquement, telle ou telle position peut amener à la victoire. Effectuant des choix sans idées pré-conçues ni critères particuliers, la ma-

chine a le plus souvent enfoncé des portes ouvertes en se précipitant sur des

échecs prévisibles. Mais de temps en temps : pépite. Un point de départ imaginé par per-sonne auparavant mène à des résultats plutôt favorables. La méthode a de plus l’avantage de placer l’adversaire dans un contexte de surprise et d’expectative : cette situation n’avait pas été prévue.

Le pouvoir créateur du hasard ne doit pas nous étonner. Les mutations génétiques de l’ADN sous l’effet des rayons cosmiques ont participé à la diversité des espèces, la sensi-bilité aux conditions initiales des systèmes non linéaires génère un large panorama de re-présentations fractales.

Lee Sedol vs AlphaGo

Monte Carlo


Le hasard pourrait représenter une voie pour concilier innovation et Intelligence Artifi-cielle. Cela posé, deux obstacles se présentent. Le premier est lié au non déterminisme de la fonction. On ne sait pas en combien de temps une innovation pourrait arriver. On n’est même pas sûr qu’elle arrive et encore moins que la solution ne mène pas à la catastrophe. L’évolution humaine est ainsi passée par des hauts et des bas et l’émergence du Sapiens Sapiens depuis le buissonnement de nos cousins aurait pu se produire bien plus tôt, bien plus tard voire pas du tout.

Le deuxième obstacle réside dans le fait que le hasard dans ce cas « pioche » dans l’ensemble des combinaisons répertoriées en mémoire et ne pourra jamais générer autre chose que ce qui est dans la mémoire. On rejoint donc la configuration de départ où on pioche dans un immense, mais fini, réservoir de possibilités.

Peut-on dès lors parler d’innovation à propos de ce coup porté par AlphaGo ? Hélas non, la position était présente en mémoire, elle a été détectée par force brute. La puissance de calcul et l’algorithme de Monte Carlo ont permis de révéler au hasard quelques positions qui statistiquement sont susceptibles de victoire. Pour évoquer l’innovation il aurait fallu que cette position provienne d’une intuition et non pas d’une recherche à l’aveugle.

INTELLIGENCE ARTIFICIELLE ET INNOVATION, C’EST POSSIBLE ?

L’innovation demande capacité d’abstraction, de conceptualisation, voire de sentiment. C’est la différence entre IA forte et IA faible. Le cerveau humain le peut, mais la consti-tution des neurones, leur mise en réseau et leur quantité en font des machines totalement différentes de celles disponibles aujourd’hui pour l’Intelligence Artificielle faible. Dans Intelligence Artificielle le mot important est « Artificielle ». Le mot « Intelligence » n’est là que pour une analogie.

Illustrons une différence entre les deux intelligences à l’aide de deux boules de billard. La consigne est de les placer l’une par dessus l’autre. La machine n’aura de cesse d’enchainer les essais sans se lasser jusqu’à un éventuel « Ctrl Alt Del » libérateur alors que l’humain aura tôt fait de déclarer vain l’effort. Où se situe l’Intelligence ?

Lors de l’apparition de nouvelles technologies, les premières applications se cantonnent bien souvent à reproduire ce qui existait auparavant en utilisant les dites nouvelles tech-nologies. Exemple : le babyphone version « talky walky » cède le pas au babyphone ver-sion « Wi-Fi». La création, l’innovation ne se montreront que dans un deuxième temps.

Pour illustrer ce que peut être la différence entre copie et création, je me permets de re-prendre un exemple qu’amène fort bien l’ingénieur philosophe Luc de Brabandère dans ses conférences pleines d’humour et de pédagogie sur Youtube : le clignotant.

Aux premiers temps de l’automobile le bras du chauffeur indiquait la direction qu’il sou-haitait emprunter. Avec quelques inconvénients au rang desquels la météo pluvieuse ou les virages à droite.


Heureusement les avancées de l’électrotechnique ont permis de ne plus se mouiller grâce à la flèche électromécanique. Un bras s e lève en réponse à une commande du conducteur. Le comportement ancien est ainsi reconduit avec des moyens modernes. C’est souvent le lot des premières applications des nouvelles technologies que de calquer les mécanismes préexistants pour les moderniser. L’Intelligence Artificielle faible est parfaitement capable de faire ce type de proposition, de construire l’avenir à partir du passé sans avoir à imaginer quoi que ce soit de nouveau.

Rapidement la flèche a cédé la place à lumière clignotante. Cette étape n’a été possible qu’en conceptualisant l’idée de « signaler un changement de direction ». Ce concept abs-trait aboutit à une simplification, faire clignoter une lampe du côté où l’on va tourner. Nous sommes là en présence d’un mécanisme d’innovation que l’Intelligence Artificielle faible, conçue sur la base apprentissage/reproduction est incapable d’intégrer. En aucun cas la mécanique de l’Intelligence Artificielle faible n’a la possibilité de cette abstraction. Apprendre et reproduire sont ses seules possibilités.

Les débuts de l’aviation nous fournissent un autre exemple. Clément Ader, après avoir innové dans les cadres de vélo, les machines à poser les rails ou le service de théâtro-phone, s’est penché longuement sur les chauves-souris pour dessiner les ailes de l’Éole. Las, l’observation et la copie de la nature permettront de décoller mais pas de déboucher sur une machine stable et manœuvrable.


Passant outre le modèle offert par la nature, les frères Wright ont innové avec des ailes qui exploitaient les notions de portance ouvrant la voie aux machines capables non seu-lement de décoller mais aussi d’être dirigées. Là encore l’innovation est arrivée dès que l’on a cessé de copier l’existant.

Petit aperçu sur l’an 2000 imaginé depuis 1910 sous l’impulsion de la toute jeune fée électricité : les tâches quotidiennes sont méca-nisées. De nouveau, on part des tâches exis-tantes et on regarde comment la nouvelle technologie pourrait les soulager sans imagi-ner les feux tricolores, les automatismes à base de relais et encore moins l’électronique.

Un petit exemple pour démentir le propos. Oui, il y a des domaines où il serait bénéfique de pouvoir copier la nature. Prenons le processus de fabrication de l’émail. Il suppose de porter à 800 ° des morceaux de verre pilé. Et pourtant un autre processus existe dans la nature. Et un enfant de six mois en est capable … quand il fait ses dents !

Il y a moyen de faire de l’industrie en se passant des hautes températures mais il y a en-core du boulot !

L’Intelligence Artificielle pourra probablement innover mais seulement en version forte. Aujourd’hui avec la version faible ce n’est malheureusement pas le cas.

LE TEST DE TURING

Déjà en 1950 Alan Turing se penchait sur la distinction entre Intelligence Artificielle forte et Intelligence Artificielle faible. Bien entendu ces appellations n’avaient pas encore cours mais Alan Turing avait imaginé un test toujours d’actualité aujourd’hui : si l’homme dans un dialogue ne sait pas s’il a affaire à un autre homme ou à une machine alors c’est que le niveau d’intelligence de la machine rejoint celui de l’homme.

Le test de Turing a fait l’objet de beaucoup de travaux. Le professeur Jean-Paul Delahaye rappelle que si les champions d’échec ne sont pas toujours à l’aise pour affirmer qu’ils sont face à un homme ou une machine et que Watson d’IBM a remporté des victoires au

Fabrication de l’émail : 800 ° ou 37 ° ?


« Jeopardy », jeu de culture générale, ces victoires ne le sont que dans une version res-treinte du test de Turing.

Il souligne également que la machine veillera à ne pas répondre trop rapidement 78.953.589 si on lui demande « quelle est la valeur de 429 à la puissance 3 ? », mais qu’elle pourrait être mise en défaut si on lui demande un commentaire sur la une du Ca-nard Enchaîné : répondre suppose à la fois une bonne assimilation de l’actualité et … le sens de l’humour.

Le philosophe John Searle a décrit en 1980 dans un article « Minds, Brains, and programs » une expérience de pensée connue sous le nom de chambre chinoise. Cette expérience montre que la syntaxe, propre aux programmes informatiques, est dissociée de la séman-tique qui relève de la pensée. Dit autrement : le mot « piano » peut-être associé par une machine à l’image d’un piano mais pourra évoquer pour un humain une sonate, un meuble voire Rome et la piazza Venezia suivant son humeur. Ce n’est pas parce qu’une machine passe le test de Turing qu’elle peut être qualifiée de machine pensante. D’ailleurs Siri ou Cortana ne nous semblent-ils pas familiers ?

Sa conclusion est que la machine n’a pas la capacité de passer le test de Turing.

Alors que Searle considère que le test de Turing n’est pas une condition suffisante pour qu’on puisse affirmer qu’un ordinateur pense, Robert French va plus loin et soutient que passer le test Turing n’est pas une condition nécessaire d’intelligence.

Si le test de Turing conserve toute sa pertinence et si comme l’avançait Turing une ma-chine pourrait bien un jour le passer, est-ce pour autant le franchissement de la frontière Intelligence Artificielle faible/forte ?

HAWKING, GATES ET MUSK ONT PEUR. ET VOUS ?

Le 2 décembre 2014, Stephen Hawking exprimait ses craintes à Rory Cellan-Jones sur les ondes de la BBC : « Les formes primitives d'intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d'une intelligence artifi-cielle complète pourrait mettre fin à l'humanité ». Notons que Stephen Hawking précise bien que cette Intelligence Artificielle doit être complète, ce qui dénote bien qu’il se place dans une perspective à très long terme, au delà de l’Intelligence Artificielle disponible


aujourd’hui. Je ne pense pas dénaturer les propos de Stephen Hawking en assimilant In-telligence Artificielle complète à Intelligence Artificielle forte.

En janvier 2015, cent cinquante personnalités dont Stephen Hawkins, Bill Gates, Elon Musk et des experts incontestés en Intelligence Artificielle ont écrit une lettre ouverte pour demander des « recherches sur les conséquences de l’Intelligence Artificielle ». Il est vrai qu’une Intelligence Artificielle forte aurait en principe la capacité de se repro-duire et d’avoir une autonomie, et c’est à tout le moins préoccupant. Hal es-tu là ?

Fin septembre 2016, Google (DeepMind), Face-book, IBM, Microsoft et Amazon se sont groupés pour créer Partnership on AI (partnershipo-nai.org), plateforme « pour étudier et formuler les meilleures pratiques sur les technologies de l'IA, faire progresser la compréhension du public de l'IA et servir de plateforme ouverte pour la discussion et l'engagement concer-nant l'IA et ses influences sur les personnes et la société ». Apple les a rejointes début 2017.

Le 7 janvier 2017 une conférence s’est tenue à Asilomar en Californie pour formaliser ce point de vue. Organisée par Future of Life Institute (FLI) dont la raison d’être est de « catalyser et appuyer la recherche et les initiatives visant à sauvegarder la vie et à déve-lopper des visions optimistes du futur », elle se penche particulièrement sur les risques du développement de l’Intelligence Artificielle pour l’avenir de l’humanité.

Le succès de la conférence est attesté aussi bien par la quantité que par la qualité des par-ticipants. Le but est de créer la réflexion et la discussion comme le précise l’association : « En ouvrant le débat autour de l’IA à une communauté plus large, nous espérons cons-truire de nouveaux modèles d’engagement, de collaboration ; engager la responsabilité de tous ceux qui touchent à ce domaine afin qu’ils le fassent d’une manière réfléchie, posi-tive et éthique qui profite aux personnes et à la société. ». Plus de deux mille chercheurs parmi lesquels bien entendu Ray Kurzweil, Elon Musk mais également Yann LeCun ont signé une charte de vingt-trois principes que vous pouvez retrouver sur https://futureoflife.org/ai-principles/.

Photo souvenir de la conférence d’Asilomar 2017


En première lecture, ces principes semblent à la fois généraux et généreux. Par exemple le numéro 18 précise que « une course [aux] armements dans les armes autonomes mor-telles basées sur l'IA devrait être évitée » et le numéro 11 que « les systèmes d'IA de-vraient être conçus et exploités de manière à être compatibles avec les idéaux de la digni-té humaine, les droits, les libertés et la diversité culturelle ». Ces principes sont bien en-tendu sortis de leur contexte et il sera intéressant d’en faire une analyse plus fine.

À l’origine de cette émotion : l’accroissement ininterrompu de la puissance de l’Intelligence Artificielle.

Ray Kurzweil est célèbre pour son esprit inventif. Professeur au MIT, reconnu depuis plusieurs décennies pour ses travaux en reconnaissance de caractères, ingénieux dans la création de machines d’aide aux handicapés, le voici maintenant Directeur de l’Ingénierie chez Google, chargé notamment de l’intelligence artificielle.

Et surtout visionnaire futurologue et transhumaniste.

Les transhumanistes prônent depuis maintenant soixante ans l’utilisation des technologies pour améliorer l’être humain dans sa tête et dans son corps. Je reprends le discours du philosophe Luc Ferry La Révolution transhumaniste. Comment la technomédecine et l’ubérisation du monde vont bouleverser nos vies (Plon, 2016). La médecine passe du thérapeutique à l'augmentatif. Le thérapeutique : pour guérir une rétinite pigmentaire qui fait perdre la vue on greffe une puce électronique derrière la rétine. L’augmentatif : on greffe cette même puce en décuplant ses performances à quelqu’un doté d’une bonne vue pour qu’il acquiert une vision d’aigle. « Ce n'est qu'un exemple symbolique, mais, n'en doutez pas, la compétition entre les armées nous conduira sur ce genre de voie, qu'on le veuille ou non... ».

La devise des transhumanistes est « From chance to choice » car ils corrigent le hasard qui distribue les handicaps ou maladies grâce à la technologie et une hybridation homme/machine. L’évolution humaine est beaucoup plus lente à l’échelle du million d’années que la technologie qui suit un rythme quasi exponentiel. D’où l’idée de « com-pléter » l’homme avec la technologie.

Selon Ray Kurzweil la mort elle-même devra s’incliner face à l’innovation technologique et sa croissance exponentielle. Lui-même s’y prépare avec une alimentation incluant … une centaine de pilules par jour. Les imprimantes 3D permettront de générer des pièces de rechange pour le corps humain, elles « impriment » déjà des cartilages. Les machines seront plus « intelligentes » que les hommes. Dès 2029, la machine aura franchi le cap de l’Intelligence Artificielle forte puisqu’elle aura le sens de l’humour, des sentiments et des émotions, en 2030 le cerveau sera relié au cloud et en 2045 on sera en mesure de sauve-garder le cerveau, étape essentielle pour la vie éternelle. Le calendrier est précis.

La série « Black mirror » diffusée par Netflix reprend ces thèmes. On y retrouve le thème de la vie éternelle, de la tech-nologie pour augmenter la mémoire et autres thèmes.

Ray Kurzweil n’est pas n’importe qui et son charisme est tel que Bill Gates comme le Wall Street Journal ne jurent que par lui pour prévoir l’avenir. Peter Thiel, co-fondateur de Paypal


l’assiste et le soutient dans ses travaux qui ne sont pas pour rien dans la pétition. En sim-plifiant, son raisonnement repose sur l’extrapolation de la loi de Moore. Il voit ainsi la puissance de calcul dépasser permettre de dépasser l’intelligence de l’insecte, rattraper celle de la souris, se frotter à celle de l’humain en 2030 avant d’asseoir sa suprématie sur l’intelligence de l’ensemble de l’humanité en 2045.

En France Laurent Alexandre écrit La mort de la mort en 2011. Les nouvelles technolo-gies notamment NBIC (Nanotechnologie, Biotechnologie, Informatique, Cognitique) pourraient dès nos générations faire exploser l'espérance de vie, le tout étant accompagné d’une baisse des coûts. La loi de Moore s’applique non seulement à l’électronique mais également aux nanotechnologies et aux biotechnologies. Les coûts de séquençage et de manipulation de l’ADN sont plusieurs milliers de fois moindre qu’au cours de la décennie passée.

Cela étant, la rigueur des travaux de Ray Kurzweil ne suscite pas l’unanimité au sein de la communauté scientifique et philosophique. Kurzweil « évalue » le cerveau humain à un million de lignes de code contre, à titre indicatif près de trois millions pour Windows 3.1, douze millions pour Android, quarante quatre millions pour office 2013 et quatre vingt cinq millions pour Mac OS « Tiger ». La duplication du cerveau humain serait donc à notre portée. Paul Zachary Myers, biologiste à l’université du Minnesota, souligne une faille majeure dans l’hypothèse de base : selon Kurzweil les séquences de protéines du génome suffiraient à définir le cerveau, alors que leur tâche est de gérer l’interaction des cellules avec leur environnement. Il faudrait commencer par modéliser au sein de chaque cellule les interactions d’une protéine avec ses quelques dizaines de milliers de voisines, tâche aujourd’hui hors de portée. Il y a encore du boulot, même si Myers n’exclut pas que ça puisse se réaliser un jour. Je vous conseille l’écoute de l’émission de France Culture du 09 mai 2014 https://www.franceculture.fr/emissions/ce-qui-nous-arrive-sur-la-toile/le-cerveau-ce-nest-pas-1-million-de-lignes-de-code dont sont issues ces considérations.

Pour le philosophe Bernard Stiegler, "le programme du transhumanisme, c'est la proléta-risation de tous au service d'une oligarchie", car si la santé était auparavant beaucoup liée à notre patrimoine génétique et un peu à la médecine elle devient maintenant tributaire du progrès médical et de son accessibilité.

Ray Kurzweil et la loi de Moore


Impressionnante, l’approche de Ray Kurzweil repose sur deux prémisses dont la tangibi-lité reste à prouver : la loi de Moore et notre aptitude à doter l’Intelligence Artificielle de capacités d’abstraction.

La loi dite de retour accéléré étend la loi de Moore et se réclame d’une croissance expo-nentielle de toutes les activités humaines, à l’image de la croissance des ordinateurs de-puis 1965.

La loi de Moore est empirique. C’est une conjecture proposée en 1965 par Gordon Moore un des fondateurs d’Intel qui extrapolait le doublement de la complexité des semi-conducteurs à coût constant depuis 1959. En 1975, il actualise sa « loi » en proposant que la densité de transistors sur un microprocesseur double tous les deux ans. Ce qui fut avé-ré. Notons que la traduction dans le domaine du grand public s’en éloigne curieusement : la puissance des processeurs double tous les dix-huit mois. Pourquoi dix-huit ? Je n’en sais ma foi rien.

La « loi » de Moore est bâtie sur l’observation des technologies à base de silicium et s’essouffle depuis plus de dix ans, les problèmes physiques tels que l’échauffement deve-nant insolubles. Les gravures d’aujourd’hui sont de l’ordre de quatorze nanomètres et si on peut espérer encore gagner en performance, l’unité de mesure à utiliser se rapprochera dangereusement de la taille d’une dizaine d’atomes : l’indétermination quantique va alors introduire de l’aléa dans les résultats. Non la loi de Moore ne permettra pas l’avènement de machines « plus puissante que le cerveau humain » en utilisant des technologies à base de silicium.

Il faut se tourner vers les technologies qui pourraient succéder au silicium : quantique ? neuromorphique ? inversion du spin ? Les pistes ne manquent pas. Je serais bien inca-pable de vous décrire ces voies, mais on n’imagine pas comment l’une d’entre elles serait prête à temps pour assurer la continuité de la loi de Moore. Personne ne s’avance à pro-poser une date pour leur arrivée. Comment alors imaginer que la puissance de calcul sera aux rendez-vous de Ray Kurzweil ?

La loi de retour accéléré s’appuie de même sur une extrapolation des progrès déjà réalisés en nanotechnologie et en biotechnologie. Peut-être seront ils effectivement exponentiels. Nous n’avons pas de signes tangibles, seule cette extrapolation nous le promet. Ces pro-grès seraient complétés par une Intelligence Artificielle forte.

L’autre point concerne l’état de la recherche sur la conceptualisation dans le cerveau bio-logique. D’où proviennent les sentiments, les émotions, la compassion, l’imagination ? Sans une parfaite maitrise du sujet, pas d’Intelligence Artificielle forte. À ma connais-sance, la seule avancée récente est de proposer la présence de ces propriétés au niveau du neurone biologique, chaque neurone étant lui-même difficilement dissociable du reste du corps humain. Le gouffre avec notre rudimentaire neurone artificiel, simple comparateur à seuil, semble d’autant plus criant. Notre niveau de connaissance, sauf erreur de ma part, doit être sensiblement identique à ce qu’il était au début du siècle dernier. John Searle donne l’exemple du billet de banque qui a de la valeur non pour les propriétés du papier mais pour le regard que les humains portent dessus. Il précise que le seul moyen de don-ner de la conscience aux machines serait de dupliquer le mode de pensée du cerveau, et


que nous ne savons pas comment il marche. Donc quel algorithme utiliser pour l’Intelligence Artificielle forte ? A-t-on seulement des pistes ?

Dit autrement quand bien même disposerait-on de la puissance de calcul, aurait-on le lo-giciel à mettre dans la machine ?

Je rejoins Hawking, Gates et Musk pour dire qu’une Intelligence Artificielle forte serait un sacré problème pour l’humanité. La machine pourrait prendre le pas sur l’homme et se reproduire. Il faudra alors réglementer une nouvelle entité : le robot doté d’une Intelli-gence Artificielle forte. Mais je ne vois pas quelle avancée technologique nous fait dire qu’on s’en approche ? Peut-on seulement statuer qu’on y arrivera un jour ? La proximité d’autres périls n’est-elle pas plus critique ?

QU’EN CONCLURE ?

Il serait présomptueux de prétendre apposer une conclusion à un thème aussi nouveau et aussi porteur de changements. On n’en devine pas encore les limites. On ne sait pas où va nous mener l’Intelligence Artificielle.

On peut déjà sans risque envisager qu’Elle va proposer des outils qui faciliteront notre quotidien. Où sont mes lunettes ? Où sont mes clefs ? Voilà des questions auxquelles pourrait répondre un jeu de caméras installées dans la maison. La voiture autonome pour-rait-elle s’en passer ? Assurément non. La détection de comportements singuliers est déjà active pour nos mails ou nos relevés bancaires. La télésurveillance, critiquée pour son incapacité à porter son attention sur autant d’écrans trouvera là des opérateurs dont la concentration ne faiblira pas.

Et l’innovation, alors ? En version faible, l’Intelligence Artificielle ne peut sortir du car-can du « déjà connu ». La situation est déjà connue avec les bulles « Facebook » ou « Amazon » : le fil d’information de Facebook sera toujours dans le droit … fil de vos informations déjà consultées, les ouvrages proposés par Amazon resteront désespérément dans la continuité de vos choix précédents. Le tome II après le tome I. L’intelligence Ar-tificielle faible ne peut pas innover ; AlphaGo a pu en donner l’illusion en introduisant dans l’algorithme le hasard, mais on pioche au sein d’une quantité certes gigantesque mais finie de possibilités.

La voie empruntée par le Deep Learning est couronnée par les résultats spectaculaires de l’Intelligence Artificielle faible. Ce n’est pas le gage que c’est par ce chemin que l’on aboutira à l’Intelligence Artificielle forte. Les neurones artificiels de nos jours n’ont que peu de points communs avec les neurones biologiques. Que faudra-t-il inventer pour être capable de doter l’Intelligence Artificielle de l’humour, de l’amour, du sentiment, du concept ?

En serons-nous seulement capables un jour ? La question est ouverte.


A PROPOS DE L’AUTEUR

Créateur de la société iXTEL société spécialisée en architecture de réseau et qualité de service auprès des opérateurs et de l’IUT-T, membre fondateur de Forum ATENA, intervenant dans diverses écoles d’ingénieurs dont le groupe Télécom, l’Université de Lille et l’Institut Léonard de Vinci, Jacques Baudron se penche sur l’impact des nouvelles plateformes reposant sur internet : blockchain, big data, Intelligence Artificiel, « bulles » des réseaux sociaux … Il a organisé avec le Forum ATENA le colloque « La Blockchain a-t-elle les moyens de ses ambitions » Les idées émises dans ce livre blanc n’engagent que la responsabilité de leurs auteurs et pas celle de Forum ATENA. La reproduction et/ou la représentation sur tous supports de cet ouvrage, intégralement ou partiellement est autorisée à la condition d'en citer la source comme suit :

© Forum ATENA 2017 – Intelligence Artificielle Licence Creative Commons

- Paternité - Pas d’utilisation commerciale - Pas de modifications

L'utilisation à but lucratif ou commercial, la traduction et l'adaptation sous quelque support que ce soit sont interdites sans la permission écrite de Forum ATENA.

intelligence artificielle et innovation : possible · un livre blanc 3 / 22 allons, la cause...

Documents