Face la gouvernementalit algorithmique, repenser le sujet de droit comme puissance.

Antoinette Rouvroy, National Fund for Scientific Research (FNRS) and Information Technology & Law Research Centre, University of Namur (CRID)

AbstractTABLES DES MATIERES:

I - Produire la ralit mme le monde : une nouvelle stratgie de gestion de l'incertitude.

1.Gouvernementalit algorithmique et capitalisme.

2.Mise en (n)ombres de la vie mme.

II - La gouvernementalit algorithmique et le comportementalisme numrique, au-del de la gouvernementalit nolibrale: des dispositifs qui dispensent.

1. Les "big data": nouveaux usages de la statistique.

2. Le comportementalisme numrique: le perfectionnement des dispositifs de scurit dcrits par Michel Foucault.

3. Anticipation et dispense d'interprtation.

4. L"objectivit" de la gouvernementalit algorithmique est-elle un gage de justice ?

III- Lprouvante inoprationnalit du droit comme occasion de surgissement du sujet de

droit comme puissance.

1. Lprouvante inoprationnalit du droit.

2. Le sujet de droit comme puissance.

IV- Ressources pour une critique de la rationalit algorithmique : loge du commun.

1. La rcalcitrance plutt que le contrle.

2. Il faut organiser le pessimisme.

V-Envoi :Raconter pour suspendre.

ARGUMENT

Le tournant numrique manifest, depuis une dizaine dannes, par le dploiement intensif dune multitude dappareils lectroniques fonds sur la technologie numrique, vritables prothses cognitives, mmorielles, affectives, communicationnelles plus addictives les unes que les autres (ordinateurs, iphones, ipads, smartphones, gps, ). Nous baignons depuis lors dans une multitude de flux informationnels amniotiques-hypnotiques qui nous immergent dans lenvironnement contrl-personnalis de la ralit numrique et nous immunisent du monde. Ce faisant ces appareils en rseau, nourris de nos requtes, envois, interactions, transcrivent le monde et ses habitants sous forme de donnes numriques, mtabolisables par les systmes informatiques. De cette transcription systmatique, a-signifiante, dcontextualisante, neutralisante, rsultent des masses gigantesques de donnes brutes, disponibles pour une multitude doprations statistiques. Lidologie accompagnant la croissance de ces big data , est qu condition de disposer de quantits massives de donnes brutes (disponibles dans des entrepts de donnes, ou datawarehouses), il deviendrait possible de prvoir, avec une relative prcision, la survenue de la plupart des phnomnes (en ce compris les comportements humains), grce des algorithmes relativement simples permettent, sur une base purement statistique, inductive, dinfrer des profils (patterns ou modles de comportements) sans plus avoir se proccuper de leurs causes.

Cette intelligence des donnes apparat aujourdhui comme une nouvelle stratgie de gestion de lincertitude, suscitant lengouement dans la plupart des secteurs dactivit et de gouvernement, en en renforant au passage la managrialisation. Le gouvernement algorithmique est un mode de gouvernement nourri essentiellement de donnes brutes, signaux infra-personnels et a-signifiants mais quantifiables, oprant par configuration anticipative des possibles plutt que par rglementation des conduites, et ne s'adressant aux individus que par voie dalertes provoquant des rflexes plutt qu'en sappuyant sur leurs capacits d'entendement et de volont. La reconfiguration constante, en temps rel, des environnements informationnels et physiques des individus en fonction de lintelligence des donnes - quon lappelle personnalisation ou mtabolisme de scurit - est un mode de gouvernement indit. Le type de savoir qui le nourrit et quil faonne, les modalits suivant lesquelles il affecte effectivement les conduites individuelles et collectives, les modes dindividuation qui peuvent linflchir ou lui rsister mritent dtre trs soigneusement tudis. C'est prcisment l'enjeu de cet ouvrage.

La gouvernementalit algorithmique y est explore d'une manire qui combine trois types d'enjeux troitement imbriqus:

1) les enjeux smiotiques et pistmologiques ( quel type de "savoir" donne donc lieu l'"intelligence des donnes"?), quelles sont les conditions de la critique face ce type de "savoir"?

2) les enjeux de pouvoir (en quoi les "big data" modifient-ils les modes d'exercice du pouvoir ? En quoi le datamining et le profilage sont ils une nouvelle manire de gouverner?)

3) Les enjeux de subjectivation ou d'individuation (comment "devenir sujet" dans ce monde de donnes?), qui sont insparables des enjeux de la rcalcitrance et de la critique face la rationalit algorithmique.

Le premier plan - pistmologique et smiotique - fait entrevoir que les algorithmes de corrlations statistiques permettent de produire automatiquement une certaine intelligence au dpart de masses gigantesques de donnes brutes, a-signifiantes, fonctionnant la manire de signaux, quantifiables mme privs de toute signification, plutt qu' la manire de signes (les donnes brutes ne font signe ni par la ressemblance, ni par lien physique qu'elles auraient avec ce dont elles faonnent l'ombre numrique, ni par convention). Le savoir , non plus produit mais immanent aux banques de donnes et dcouvert par les algorithmes, est particulier notamment en ce quil se dispense de tout type dpreuve. Inductif plutt que dductif, il scarte radicalement des ambitions de la rationalit moderne reliant les phnomnes leurs causes au profit dune logique purement inductive, statistique. Il nprouve pas le monde sur lequel il porte, et ne se laisse pas non plus prouver par lui : ce nest qu mme une ralit numrique et sans plus aucun contact avec le monde quelle est cense reprsenter que se faonne la ralit algorithmique. Ce faisant, elle ne donne aucune prise aux preuves traditionnelles par lesquelles le savoir acquiert en temps normal sa robustesse et sa validit. Plutt quen fonction de la validit de ses modles prdictifs , cest laune de son oprationnalit, de sa plasticit, de sa contribution au processus de fluidification de la vie conomique et sociale (et donc au capitalisme), de sa non-robustesse donc, et de la mesure dans laquelle elle nous dispense, nous, tres humains, de tout effort dinterprtation et dvaluation des personnes et des vnements du monde que svalue l intelligence des big-data . Telle est la rationalit algorithmique.

Le second plan - celui du pouvoir - permet de percevoir la manire dont ces glissements d'ordre smiotique et pistmologique permettent une nouvelle manire de gouverner. Le pouvoir semble avoir chang de cible : non plus les corps vivants, individuels, subjectifs, actuels, mais un corps statistique, impersonnel, virtuel, moulage gnrique et changeant des risques et opportunits dtects en temps rel, distribus sous forme de modles de comportements (les profils de consommateur, de fraudeur ou de potentiel dlinquant, d'lve prometteur,..). Perfectionnant les dispositifs de scurit dj thoriss par Michel Foucault, le gouvernement algorithmique est pr-emptif plutt que prdictif : il ne s'agit pas tant d'identifier et de localiser la cause des phnomnes que d'empcher ou d'assurer que certaines choses se produisent, en

transformant anticipativement l'environnement informationnel et/ou physique de manire ce que ces choses ne puissent pas (ne pas) se produire, et ce d'une manire indiffrente l'identit, aux intentions et motivations psychologiques des personnes potentiellement impliques. Le gouvernement algorithmique s'intresse ce que peuvent les corps , leurs puissances, plutt qu ce quils font. Cest un gouvernement du virtuel, du potentiel, des puissances plutt que de lactualit. Il a pour cible non plus les sujets, mais ce quils pourraient (ne pas) faire. Plus prcisment, il sagit dune nouvelle stratgie de gestion et de minimisation de lincertitude associe la puissance des sujets (leur capacit, ce pouvoir discrtionnaire de faire / ne pas faire tout ce dont ils sont capables). Seffectuant par reconfiguration des architectures et environnements informationnels et physiques dans lesquelles certains comportements deviennent impossibles / impensables plutt que par incitation ou dissuasion, la manire de la loi, cest dans leur puissance (y compris la puissance de dsobir), que le gouvernement algorithmique atteint les individus, tout en vitant de produire aucune occasion de subjectivation: ce pouvoir prouve les individus en rduisant leurs dimensions inactuelles (la dimension de la spontanit, de la potentialit), sans mobiliser pour autant leurs capacits d'entendement et de volont, la diffrence de la loi notamment. Le gouvernement algorithmique se distingue notamment du gouvernement nolibral en ce que la docilit quil produit nest pas leffet dinjonctions de productivit et/ou de jouissance mais daffectation - sur le mode du rflex plutt que de la rflexion- des comportements individuels et collectifs.

Le troisime plan - celui du sujet - consiste donc en une r-laboration de la question de la subjectivation ( laquelle je substitue celle de l'individuation) dans la gouvernementalit algorithmique. Quel impact, sur les processus de subjectivation, d'un gouvernement algorithmique en cela "objectif" et impartial qu'il ne connat que des fragments infra-individuels (les donnes) et des structures supra-individuelles (les profils), des points de localisation dans des tables actuarielles, des rseaux de donnes, qui ne correspondent aucune catgorisation socialement prouve ? Qu'en est-il, aussi, des processus de subjectivation dans une gouvernementalit dont l'oprationalit provient prcisment, en partie du moins, du fait qu'elle dispense de la comparution, du tmoignage, de l'aveu, et de toute forme de re-prsentation biographique?

La gouvernementalit algorithmique signe l'aboutissement d'un processus de dissipation des conditions institutionnelles, spatiales, temporelles et langagires de la subjectivation au profit d'une rgulation objective, oprationnelle, des conduites possibles.

Un gouvernement algorithmique qui faonne ladvenir, qui affecte sur le mode de lalerte et du rflex, mais nprouve ni nest prouv par aucun sujet a de quoi faire frmir ne ft-ce que dans la mesure o il ne se laisse plus provoquer par la libert humaine, alors mme que cette provocation constante est prcisment ce qui occasionne du dbat, de la dlibration autour de la norme, et donc du projet collectif.

Une quatrime partie est donc consacre aux ressources mobilisables pour une critique et une rcalcitrance la gouvernementalit algorithmique. J'y montre notamment que, plutt que d'en revenir des approches personologiques (dont l'individualisme possessif des rgimes juridiques de protection des donnes est tout fait exemplaire), qui seraient aussi inefficaces que mal fondes, il sagira de montrer que l'enjeu fondamental - ce qu'il y aurait sauver comme ressource antcdante tout "sujet", comme "excs" du monde sur la ralit numrique - est "le commun", cet "entre", ce lieu de com-parution dans lequel nous sommes adresss les uns aux autres. Le mode d'adresse qui nous relie est essentiellement langagier. Le langage est "forme" qui est tout la fois ligne de fuite polysmique / polyphonique, principe de liaison ("faire tenir ensemble"), projection miroitante, motifs d'advenirs voqus.

Cette "forme" (esthtique, en tant qu'elle est rapport affectif entre existants), le langage (si l'on accepte d'en librer toutes les puissances potiques), est mille lieues de toute personologie. Il est la forme impersonnelle par excellence, manifestation de l'excs du monde sur le rel. Nous parlons, justement, parce que nous sommes flanc d'abme, parce qu'il n'y a personne, et donc pour

rejoindre un "commun" qui se drobe sous nos mots, qui n'est jamais acquis, qui ne se prsente, n'advient que comme fulgurance inespre. C'est cette forme impersonnelle du commun qu'il convient de convoquer, dans un langage qui l'nonce, dans l'impersonnalit incarne de la voix qui la dit - impersonnelle et charge du "grain" du corps vivant et vibrant, consistance irritable de l'ex-istant.

Ni sujet, ni monde, le commun ncessite pour surgir des scnes spatio-temporelles htrotopiques, interruptrices des flux capitalistes et numriques la scne du procs judiciaire, la scne de thtre, la scne de la littrature en sont des exemples espaces de re-prsentation existentiels, de surgissement de nouvelles possibilits politiques au lieu mme de lexposition des limites de la reprsentation et de la reprsentabilit. Maintenir l'htrognit des modes de production de ce qui compte comme "ralit" contre le dploiement ubiquitaire d'une rationalit algorithmique oprationnelle mais "neutralisante" de toute signification, telle est la condition ncessaire, et peut-tre pas suffisante, l'vitement de la violence. L'enjeu est d'importance: la rgression communicationnaire du langage politique priv d'nonciation utile dans le contexte d'un mode de gouvernement par les nombres, substituant une gestion systmatique la prise en compte systmique des situations de vie n'offre la vitalit politique que des voies d'action violentes. Raconter pour suspendre. Nous en serions donc l : laube dun a(d)venir pr-nomm Shhrazade.

Comment ds-lors faire usage des dispositifs de la socit numrise des fins de r-enchantement du commun ? En leur assignant prioritairement cette vocation l, en la protgeant par la loi, en la rendant effective par les usages. Mettre lhomme dans la machine, comme y invitait Flix Guattari, ce serait peut-tre cela, aujourdhui.

Face la gouvernementalit algorithmique, repenser le sujet de droit comme puissance.Abstract