De l’État de droit à l’État de surveillance - Asma Mhalla

Asma Mhalla_ Ubuntu Party 2019

Titre : De l’État de droit à l’État de surveillance
Intervenante : Asma Mhalla
Lieu : Ubuntu Party - Paris
Date : mai 2019
Durée : 51 min 20
Visionner ou télécharger la conférence
Licence de la transcription : Verbatim
Illustration : capture d'écran de la vidéo
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Nous voyons aujourd’hui une répartition inédite du pouvoir prendre forme, cristallisée autour de la capacité à récolter et exploiter des métadonnées. Un nouveau régime de vérité contemporain se met alors en place…

Transcription

Bienvenue à tous, venus de façon aussi matinale.
Rapidement je me présente. Je suis Asma Mhalla, maître de conférence à Sciences Po sur les enjeux de l’économie numérique et, par ailleurs, je suis aussi consultante à mon propre compte autour de ces sujets-là et d’autres sujets connexes.
Pour ce matin, on m’a demandé de vous parler de ce qui m’anime depuis quelque temps, c’est-à-dire de ce qu’est en train de devenir l’État de droit dans lequel on vit, on croit vivre. Quel est le cadre ? Est-ce qu’il y a une évolution ? Est-ce que c’est une dérive ? Et vous me direz : quel est le lien avec l’économie numérique dont je suis spécialiste, c’est que ce que je vois advenir de l’économie numérique ou plutôt la collusion entre les mégas plateformes et l’État en réalité font apparaître une nouvelle gouvernance mondiale. Donc c’est ce qu’on m’a demandé de venir exposer ce matin.

La première partie de mon « exposé » entre guillemets, ne va pas du tout toucher les sujets numériques, mais va plutôt apporter une perspective sur l’État de droit. C’est un concept qui est extrêmement difficile à manier en général, dont on ne sait pas très bien ce qu’il inclut, ce qu’il veut dire très concrètement. Donc c’est juste pour remettre un peu les choses dans leur contexte.
La première chose, qui est plus une clarification conceptuelle et là je reprends ma casquette de prof, c’est que la surveillance ce n’est pas un « gros mot ». C’est-à-dire qu’on a souvent tendance à penser, quand on parle de surveillance, qu’on va rentrer dans des analyses complotistes ou un peu radicales. La surveillance, en réalité, est absolument consubstantielle et concomitante à la création de l’État de droit, pour une raison très simple, c’est que quand l’État de droit est apparu, c’est-à-dire qu’on a essayé de cadrer l’arbitraire par la loi, il a fallu s’assurer que la loi était respectée. Or comment fait-on ? Comment un État centralisé fait-il pour prouver ou pour s’assurer qu’une loi est respectée ? Tout simplement par le contrôle.
Donc en réalité l’État de droit ce sont trois éléments, très rapidement :

  • la loi en tant que telle ;
  • le contrôle de la loi, donc la surveillance. Initialement la surveillance pourrait même être perçue comme un concept plutôt positif. Quand on relit un peu les travaux de Michel Foucault, la surveillance a servi à récolter des données scientifiques, à contrer des épidémies, à améliorer des plans d’urbanisation, donc la surveillance n’est pas forcément quelque chose qui est fondamentalement connoté négativement, en tout cas initialement ;
  • la bienveillance, concept difficile à mesurer et c’est là où peut-être on a un petit sujet aujourd’hui.

Du coup le triptyque de l’État de droit pour moi c’est la loi, le contrôle de la loi et la bienveillance.

Quand on reprend un peu le contrat social de Hobbes c’est de dire qu’on va rogner un tout petit peu sur nos libertés en échange d’une forme de sécurité. Mais la finalité c’est bien de vivre tranquillement, de vivre en paix, donc d’éviter l’état permanent, présupposé, de la guerre de tous contre tous.
Donc le triptyque c’est ça.

La question qui se pose aujourd’hui c’est : est-ce que l'un des trois éléments, l'un des trois angles de ce triptyque est aujourd’hui en dérive ? On pourra en discuter tout à l’heure ensemble. Mon hypothèse c’est que sur la loi on est plutôt très bons en France ; on a même une espèce de logorrhée juridique, en réalité, qui fait qu'on a aujourd’hui, pour chaque événement particulier, parfois même anecdote, ce réflexe de créer un projet de loi, de pousser un projet de loi, de créer une loi supplémentaire. Il y une étude très intéressante qui est sortie par le Conseil d’État lui-même, en 2016, qui dit que le corpus législatif français a été augmenté, je crois, de trois millions de mots, quelque chose comme ça. Donc en France il y a un réflexe à légiférer qui est assez évident et qui s’explique aussi par cette forme de centralisation de l’État qui décide un peu de tout du haut de son piédestal en quelque sorte. Donc ça c’est la première chose, la loi.
Je ne pense qu’on soit réellement dans une dérive, on est plus dans un réflexe, un réflexe qui peut aussi se comprendre par l’évolution contextuelle. C’est-à-dire qu’aujourd’hui on est dans une époque historique de transition fondamentale, donc les lois sont amenées ou à changer ou on est amené à en créer d’autres pour s’adapter au cadre, pour s’adapter au nouvel ordre économique, politique, etc.

Sur l’angle contrôle de mon triptyque, on peut avoir un sujet dans le sens où le contrôle qui était fait initialement pour accompagner les populations, aujourd’hui est-il toujours dans cet objectif d’accompagnement ou est-ce que, en réalité, l’État ne l’a pas, d’une certaine façon, usurpé pour jouer sa propre survie [pour le mettre au service de son propre intérêt, Note de l'orateur] ? Ça c’est une question que je développerai un peu plus tard.
Et ensuite, et c’est là où j’ai peut-être le plus de choses à dire, c’est sur le concept de bienveillance.

Sur les deux autres points on peut en discuter et je ne pense pas que ce sont fondamentalement les deux sujets qui posent question. En réalité, la question de la bienveillance est fondamentale. C’est-à-dire qu’aujourd’hui le contrôle, la surveillance est aux mains des surveillants, donc l’État d’une part et les méta-plateformes d’autre part ; les méta-plateformes, pour parler très vite et très brièvement, ce sont les GAFAM. Alors GAFAM tout le monde sait ce que c’est ? Donc Google, Amazon, Facebook, Apple et Microsoft. La question de la surveillance est préemptée par ces deux surveillants-là, j’en parlerai. La question de la bienveillance est fondamentale parce qu’il s’agit de se poser la question de savoir si l’État est toujours en train de maintenir un État de droit pour le bien commun, l’intérêt général – ce sont deux concepts dont on parle de plus en plus, y compris d’ailleurs pour les entreprises, est-ce que nous participons collectivement à l’intérêt général – ou est-ce qu’en réalité l’État s’est un tout petit peu éloigné de ce concept-là pour jouer quelque chose qui est de l’ordre, vraiment, de sa propre survie ?

Ce sont un peu ces problématiques-là que je vais essayer de brosser ce matin.

Juste pour qu’on soit tous alignés en termes de niveau d’information, je ne sais pas si vous avez vu les dernières lois qui ont été votées récemment en France, notamment un tout petit avant et autour des gilets jaunes. La première qui était la loi anti-fake news et la seconde qui est la loi anti-casseurs. Et si on remonte un tout petit peu dans le temps, fin 2017, vous en avez certainement entendu parler, on a pérennisé dans le Code pénal toutes les mesures d’état d’urgence, la loi antiterroriste pour parler brièvement. Ce qui est très intéressant dans l’ensemble de ces lois-là – et c’est peut-être le principal problème – c’est que les termes sont toujours très vagues. Qu’est-ce qu’un terroriste ? Demain, potentiellement, on peut tous être des potentiels terroristes en fonction de la cause, en fonction des moyens, en fonction du discours [politique associé, Note de l'orateur]. Donc c’est très compliqué d’avoir des lois qui sont aussi vagues parce que là ré-intervient le concept de bienveillance, c’est-à-dire qu’en fonction des mains et des têtes qui manipulent le concept, on peut faire dire et faire faire n’importe quoi à n’importe qui.

Donc fin 2017, la loi antiterroriste ; en fin d’année aussi la loi anti-fake news. Pareil, on a toujours un problème de terminologie, c’est-à-dire que ce sont toujours des termes qui sont très vagues donc très difficiles à définir ; donc ils font, par définition, intervenir l’interprétation, donc l’arbitraire d’une certaine façon. Dans la loi anti-fake news, c’est quoi une fake news fake news ? Ça va être très difficile. Comment ?

Public : Inaudible.

Asma Mhalla : Et comment est-ce qu’on définit si on ment ou pas ? Sur la base de quoi ? D’ailleurs c’est très difficile parce que aujourd’hui le mot même de fake news a été totalement galvaudé. On voit aujourd’hui, même pendant la campagne des Européennes, tout le monde s’invective : oui, il y a envoyé des fake news. Pas plus tard qu’avant-hier Marine Le Pen était interviewée à la radio et disait – elle a eu une petite polémique sur une photo – « oui mais c’est une fake news qui a été lancée ». Non ! C’est-à-dire qu’il y a une espèce de flou artistique qui est en train de se développer entre la vérité et le mensonge et les deux deviennent, en réalité, totalement imbriqués et deviennent les deux faces d’une même pièce. C’est-à-dire qu’en manipulant ces concepts, qui sont extrêmement fragiles, on ne sait plus exactement où est la vérité. Le premier organe de diffusion d’une fake news ce n’est rien d’autre, en réalité, que l’État. La propagande d’État, l'information qui passe par l’État, a toujours existé. Le premier organe de diffusion de l’information officielle, c'est bien l'État.[coupure du son, ajout de l'orateur : Durant la guerre froide, les deux blocs menaient d’abord une guerre informationnelle]. Donc c’est quoi une fake news ? Et ce qui déstabilise énormément les États sur la question des fake news c’est bien de se dire « zut, on n’a plus le monopole de la diffusion de l’information officielle ! » C’est très compliqué cette histoire-là. Donc créer une loi aussi vite, de façon aussi bâclée, de façon aussi vague et aussi floue, c’est un non-sens total et, de toute façon, quand on la regarde dans les détails, elle est absolument inapplicable.
Pareil sur un autre thème, la loi anti-casseurs qui est intervenue au moment des gilets jaunes : il y a eu des débordements, etc., hop ! on va faire une loi anti-casseur ; dès qu’il se passe quelque chose hop ! On fait une loi. La loi anti-casseur va aussi avoir un certain nombre de sujets. Le premier problème qu’elle a posé et qui a lancé un énorme débat, je ne sais pas si vous l’avez suivi, c’est de dire, en fait, on va ficher les gens, on va ficher les manifestants pour mieux, derrière, leur interdire la manifestation, etc.

Donc ces trois exemples-là, qui sont arrivés en l’espace d’une année, sont symptomatiques. On a eu trois lois, je ne dirais pas liberticides, mais qui pourraient être hostiles aux libertés si mal manipulées, si mal interprétées, en l’espace d’une année.
Ça qu’est-ce que ça nous dit ? Ça nous dit qu’on est en train de rentrer dans une forme de sécurité radicale. C’est-à-dire que l’État de droit initial où on avait « loi – contrôle – bienveillance » est en train de devenir une forme d’État de l’ultra-sécurité. Et la question est — si on est tous d’accord sur ça, on en parlera après — qu’est-ce qui explique la nouvelle rationalité de cette sécurité-là ? Parce que c’est une nouvelle rationalité, c’est un nouveau régime de vérité qui est en train de s’installer qui dit que la sécurité n’est plus le moyen d’assurer la vie paisible de tous, mais ça devient, en réalité, la fin, l’horizon indépassable ; on vit pour la sécurité ; le discours est fondamentalement et obsessionnellement tourné autour de ce discours-là.
Et ce qui est très intéressant à observer c’est que non seulement le discours sécuritaire, donc de la peur, donc de l’insécurité, donc de la méfiance, vient d’en haut, mais en réalité il vient aussi d’en bas, c’est-à-dire de nous citoyens. La première demande aujourd’hui est une demande sécuritaire. Et le fait qu’aucune réaction fondamentale ne soit générée contre l’ensemble de ces lois-là – on a quelques articles, quelques tribunes, des intellectuels, des juristes des avocats qui vont prendre la parole, mais globalement, de façon collective et massive, ça ne génère que très peu d’émotion – c’est le signal qu’il y a une fatigue généralisée de ce qu’est la démocratie et, plus généralement, des risques que la liberté implique.

J’avais besoin de vous remettre un peu les choses dans le contexte et je vais continuer ma généalogie de l’État de droit pour arriver progressivement à la collusion avec les méta-plateformes.

D’où vient ce discours sécuritaire ? Et pourquoi est-ce qu’à la fois nous, les gens, le demandons, le réclamons, et l’État en sur-abuse de ce discours-là ? L'État, c’est-à-dire l’ensemble du personnel politique, on le voit, a aujourd’hui un discours qui est quasi exclusivement sur la sécurité c’est au sens générique.
L'envers de la sécurité c’est la peur, la peur d’à peu près tout : la peur du chômage, la peur des migrants, la peur des autres, la peur de la différence. Et quand on regarde à l’échelle internationale, si on ouvre un tout petit peu son horizon, qu’est-ce qu’on voit apparaître ? Des murs. Le dernier mur en question c’est celui de Trump entre le Mexique et les États-Unis, mur qui, d’ailleurs, pour information, préexistait. Ce n’est pas lui qui a créé le mur, il y a déjà, en réalité, un mur qui sépare à la frontière.
Donc on crée des murs, on s’enclave, on se retire et on se regarde avec méfiance globalement ; les populations se regardent avec méfiance.

Donc cet urgence sécuritaire s’explique en réalité, si on reprend maintenant la généalogie de l’économie depuis ces 20-30 dernières années, par l’affaiblissement fondamental de l’État providence, de l’État social en fait. Le contrat social de Hobbes disait « liberté contre sécurité ». L’État providence l’a récupéré en disant « vous allez nous donner un peu de votre liberté ; en échange nous allons vous garantir un certain nombre de droits », – le droit à l’emploi, le droit au travail un droit constitutionnel, je ne sais pas si vous le savez, mais c’est un droit fondamental parce que c’est le droit de subsistance de façon digne ; derrière, il y a le concept de dignité – « on va prendre un tout petit de votre liberté mais en échange nous, État providence, État social, on va vous garantir des libertés, on va vous garantir des droits ». Pendant les Trente Glorieuses ça a été magnifique, on avait la production, la consommation de masse, tout le monde y avait accès ; on avait un taux de chômage extrêmement bas, donc on avait un plein emploi et tout allait très bien. À un moment donné patatras ! Tout ça s’est un peu fracassé. Le courant ultralibéral arrive fin des années 70, toujours avec un peu de retard en France, avec Reagan, Thatcher, donc l’État providence est totalement fragilisé, n’a plus été en mesure de protéger sa population, n’a plus été en mesure de garantir les droits fondamentaux qu’il disait garantir. Donc il s’est replié sur une fonction fondamentale, une fonction régalienne qui est la fonction de la sécurité. Progressivement, l’ambiance qui s’est installée c’est une ambiance dont j’ai beaucoup parlé, c’est la méfiance.
Donc le contrat social qui était « sécurité versus liberté » a été enrobé de cette méfiance qui fait que non seulement le discours ultra-sécuritaire est parfaitement accepté, non pas toléré mais accepté, mais en plus est réclamé par la population. Parce qu’en réalité nous sommes effrayés de ce que nous ne comprenons pas, d’une part, et des risques qui pèsent sur nos vies individuelles. Si on creuse un peu les peurs, la peur de l’autre ; pourquoi a-t-on peur de l’autre ? Pourquoi a-t-on peur du migrant ? Ce n’est pas fondamentalement à cause de la figure de l’autre, du migrant ou de l’étranger de façon plus générale, mais c’est parce qu’on est dans une économie de survie en réalité [pour un large pan des populations occidentales, Note de l'orateur]. Et cette économie-là de survie fait qu’on protège ce qui est à soi, parfois de façon quasi irrationnelle.

C’est dans ce nouveau contexte [politico-économique, Note de l'orateur], dans ce nouvel état des lieux, cette nouvelle organisation dans laquelle est arrivée l’économie numérique qui a amené avec elle une nouvelle gouvernance.

Auparavant, l’État était absolument en monopole sur la question sociale, et aussi en monopole sur la question de la régulation. L’économie était un champ qui était plus ou moins indépendant, c’est-à-dire que l’économie faisait sa vie, les entreprises faisaient leur vie, le marché faisait sa vie, et l’État au-dessus, se positionnait au-dessus et régulait.

Ce qui se passe avec les méta-plateformes dont je parlais tout à l’heure c’est qu’en réalité leur puissance, leur nature même, c’est-à-dire globales, mondiales, sans limites, qui ont des fonds pharamineux et qui, surtout, contrairement aujourd’hui à l’État, elles, portent une vision du monde. Elles portent une vision de l’humanité. Elles ont vision très claire de là où elles veulent aller.
Aujourd’hui la recherche fondamentale ne se fait quasiment plus dans les universités, dans les centres de recherche ; aujourd’hui, ceux qui financent énormément la recherche ce sont Facebook, Google, etc., pour une raison très simple, et ce sont d’ailleurs des financements qui sont aujourd’hui à perte. C’est-à-dire que si on veut vraiment travailler sur le retour sur investissement, le ROI de ces investissements-là, ils n’en ont pas. Tous les travaux qu’ils mènent, les expérimentations qu’ils font, les développements qu’ils font sur l’intelligence artificielle ne sont pas aujourd’hui rentables. En revanche, ils préparent une vision du monde qui, potentiellement, peut être parfaitement légitime, c’est-à-dire qu’en tant qu’entités privées ils sont légitimes à porter ce qu’ils portent. La question c’est : est-ce que c’est le monde que nous souhaitons ? Est-ce que c’est vers là que nous voulons aller ? Est-ce qu’on partage cette vision du monde ? Est-ce que collectivement, donc via l’État, on peut en débattre [il nous est donné la possibilité d’en débattre, Note de l'orateur] ? Est-ce que ça peut faire l’objet d’un débat public, en fait ? Et pour qu’il y ait un débat public il faut que les opinions soient éclairées sur le sujet, il faut qu’on puisse en comprendre les enjeux, en comprendre les tenants et les aboutissants. Or, quand on parle de numérique en général, ou d’intelligence artificielle plus spécifiquement, ça fait peur parce qu’on a l’impression qu’on va parler science, mathématiques, code, que c’est invisible, intangible, incompréhensible. Mais non ! En réalité, ce qui se cache derrière l’économie numérique, ce sont fondamentalement des enjeux de démocratie, absolument pas des enjeux de codage. Ce ne sont pas des enjeux d’informaticiens. Ce sont des enjeux de vivre ensemble et de vision du monde.

Pour revenir à mon sujet, les méta-plateformes arrivent à un moment d’affaiblissement d’État social et, par cette vision du monde qu’elles ont, disent « nous allons préempter un certain nombre de fonctions sociales qui initialement étaient gratuites et collectives ». Pour le débat public Facebook, on revient sur cette histoire des fake news : aujourd’hui, quand on regarde un peu le dernier avatar de ça, les gilets jaunes se sont organisés, ont discuté, ont débattu sur les réseaux sociaux, d’accord ? Donc l’espace public s’est totalement fragmenté, a été « disrupté » pour prendre un mot à la mode. Aujourd’hui, pour trouver du boulot, il y a Linkedin, Facebook, Leboncoin aussi, donc ça vient potentiellement concurrencer quelque chose qui s’appelle Pôle emploi. Et évidemment ils font des investissements surtout, et c’est le plus grave, dans la recherche scientifique sur la santé et dans l’éducation.
Donc ce qui était initialement à tous, ce qui nous appartenait à tous — le deal était « on donne nos impôts pour que, derrière, on finance les fonctions sociales primaires, l’éducation, la santé, etc. » — en réalité ces champs-là sont investis aujourd’hui par les méta-plateformes et, en plus, elles le font très bien. Elles le font très bien parce que, ce qui se passe, c’est qu’elles ont les connaissances, elles ont les compétences : aujourd’hui les meilleurs chercheurs vont chez Facebook et chez Google ; ils ne sont plus fondamentalement dans les centres de recherche ; Yann Le Cun, un Français, chef de l’intelligence artificielle chez Facebook, est un éminent chercheur français. Or, ce qui est absolument incroyable, c’est que ces gens-là, qui ont une très haute qualité scientifique, ont été formés par l’école publique ! Donc ça nous amène à la question de la taxation, de la participation des méta-plateformes à l’intérêt général, etc.

Je reviens à mon sujet.
Les méta-plateformes arrivent et viennent préempter des champs qui initialement étaient dévolus à l’État social, à l’État providence. L’État providence qui, de toute façon historiquement, se vidait de sa substance. Donc l’État, lui, se replie de plus en plus et fondamentalement sur sa fonction régalienne première par ce discours sécuritaire, la sécurité donc.
On assiste à quoi ? À une espèce de nouvelle gouvernance. Le social et l’économique sont pris de plus en plus par une forme de souveraineté fonctionnelle des méta-platesformes, et la souveraineté territoriale, la question sécuritaire, par l’État. Et les deux souverainetés cohabitent parfaitement ensemble.
En réalité, derrière les pseudos discours libertariens des méta-plateformes qui sont contre l’État, etc., en réalité on assiste à une complémentarité chimiquement parfaite entre souveraineté territoriale et souveraineté fonctionnelle. Le discours ambiant dit « oui, il y a un brouillage des frontières institutionnelles, on ne sait plus ce qui est de l’ordre de l’économie, on ne sait plus de ce qui est de l’ordre de l’étatique, etc. », en réalité non ! On a bien deux champs qui sont parfaitement spécialisés.

Le dernier avatar de ça c’est le concept d’État plateforme. L’État plateforme c’est ce concept qui a été théorisé à la Silicon Valley par Tim O'Reilly qui est un des grands penseurs libertariens californiens. Il a sorti un livre Government as a Platform, très intéressant à lire, qui explique parfaitement la vision californienne de l’État sous l’angle libertarien qui est de dire que l’État doit se transformer en plateforme – ce qui est en train de se passer ; l‘État plateforme est aujourd’hui en cours d’élaboration en France même. En se transformant en plateforme, en réalité l'État se met au niveau et au standard des autres méta-plateformes, donc il accepte la concurrence qu’elles vont lui faire. La fonction sociale de l’État va, de toute façon, à terme disparaître, donc sera préemptée par les méta-plateformes, par un jeu de concurrence parfaite de marché dans lequel l’État accepte de rentrer [en se « plateformisant » accepte les règles, Note de l'orateur]. Et l’État accepte d’autant plus de rentrer dans ce jeu-là que, de toute façon aujourd’hui, ses prérogatives sont claires, elles sont sécuritaires, elles sont de moins en moins sociales. Et ce sont des évolutions qui sont progressives, mais qu’on va de plus en plus voir se confirmer dans le temps. D’accord ? Ce sont des tendances.

Je reviens à cette double souveraineté. En toute fin d’année dernière, en novembre 2018, il y a eu le Forum sur la gouvernance de l’Internet1 en France, à Paris, une espèce de forum mondial où Emmanuel Macron a tenu un discours que j’avais trouvé extraordinaire, très intéressant et très malin politiquement, mais qui n’a pas fait couler beaucoup d’encre. Pourtant ça confirme ce que je suis en train de vous raconter parce qu’il parlait de co-gouvernance [co-régulation, NdT]. Il a lancé ce concept de co-régulation entre États et plateformes. Et comment ? C’est arrivé en disant « nous, États, on n’avons absolument pas la compétence technique, ni la légitimité légale d’ailleurs, de modérer les contenus sur Facebook et les réseaux sociaux, donc nous allons monter une équipe hybride entre fonctionnaires et experts Facebook et nous allons faire une expérimentation : Facebook va modérer les contenus, mais nous, État, nous allons participer à l’équipe projet pour regarder un peu comment cela se passe ».

Ce concept de co-régulation est malin pour l’État parce qu’il dit, en fait, qu'il est toujours dans le jeu.

Je vous disais que l’économie fonctionnait selon les lois du marché, mais on avait bien un État qui venait réguler, c’était une puissance qui venait au-dessus réguler, donc donner les règles du jeu [du marché, Note de l'orateur], notamment en cas d’abus dans les cas de monopole, etc. Là, quand on bascule vers une co-régulation, ça veut dire quoi ? Ça veut dire que les plates-formes sont à la fois juge et partie, en fait, et l’État est là pour confirmer ça, pour participer éventuellement et pour donner l’impression qu’il est encore un peu dans le jeu. Mais que veut dire co-réguler ? C’est un peu compliqué. Et que veut dire co-réguler avec ceux que, officiellement dans notre posture, on décrie ? Parce que les GAFAM sont aujourd'hui extrêmement décriés notamment sur la question des impôts et de l’évasion fiscale. D’ailleurs la question de la taxation c’est un peu une blague parce que, à elles cinq, les méta-plateformes vont payer sur une année 500 millions d’euros, je crois, ce qui est vraiment une goutte d’eau en réalité et qui interroge beaucoup sur les critères [de calcul, Note de l'orateur] : pourquoi 500 millions ? Pourquoi pas 400 ou un milliard ? Sur quels critères ont-ils identifié ça ? C’est très compliqué à évaluer.

Donc on assiste à cette nouvelle fragmentation.
Les méta-plateformes s’accommodent parfaitement de cette nouvelle répartition des tâches. Et pourquoi s’en accommodent-elles ? Ce n’est pas qu’elles ne veulent plus d’État, c’est qu’elles veulent bien un État mais qui, lui, va s’occuper exclusivement du punitif. Et pourquoi les plateformes ont besoin qu’un État subsiste pour s’occuper du punitif ? Parce que les méta-plateformes, elles, ne peuvent pas s’occuper du punitif. Non pas qu’elles ne le peuvent pas techniquement, mais elles ne le peuvent pas pour une raison très simple : tout leur modèle est basé sur quoi ? Sur notre désir de nous exposer. Si tout d’un coup les méta-plateformes rentraient dans une logique punitive, coercitive, on pourrait potentiellement ne plus les utiliser de façon aussi massive, parce qu’on aurait peur.

En réalité les méta-plateformes, typiquement par l’économie de l’attention, vont générer des usages et on va produire de la data en permanence. Mais là contrairement à ce qu’on raconte on n’est pas du tout dans 1984 parce que, dans 1984, c’était une instance coercitive, centralisée dans un format panoptique. Il y avait de la peur. Là, le modèle est complètement inverse, on n’est pas dans la peur, on est dans de la libido pure, on est dans un désir d’exposition narcissique. Donc on s’expose parfaitement volontairement, on ressent même besoin de s’exposer et le design de ces applications, des réseaux sociaux, fait que ça s’insère dans nos fragilités psychologiques, narcissiques, égotiques, etc., notre besoin de reconnaissance sociale derrière, pour mieux nous attraper, pour mieux attraper nos usages et nos traces numériques. En réalité on n’expose pas nos données, on les produit, on travaille pour ces plateformes-là. On produit ces données en masse sur la base de nos désirs d’exposition. Donc les plateformes ne peuvent fondamentalement pas s’occuper du punitif. Donc le punitif a été, en quelque sorte, sous-traité, légué à l’État. Et cela convient très bien à l’État par ailleurs parce que, lui, il s’auto-légitime dans ce discours rhétorique de l’ultra-sécurité, de l’urgence sécuritaire, de l’état d’urgence, l’état d’exception, etc. Nos fragilités, à nous, de vie, qui sont de moins en moins garanties par cet État social, de toute façon réclament cette sécurité-là. Tout ce système fonctionne parfaitement bien, donc on arrive à cette nouvelle gouvernance mâtinée de co-régulation.
L’État trouve sa légitimité dans le sécuritaire, mais, en réalité, il a aussi besoin des méta-plateformes parce que c’est bien là où il va chercher nos données personnelles d'où la surveillance. Parce qu’aujourd’hui la surveillance, telle qu’elle est organisée, elle est bien organisée sur la base de nos données personnelles.

Je ne sais si vous avez entendu parler du fichier TES [fichier des titres électroniques sécurisés] qui a été validé par le Conseil d’État en octobre dernier. Le fichier TES a fait beaucoup de vagues. C’est un méga-fichier qui a été validé, un projet qui a été lancé par le ministère de l’Intérieur. C’est un fichier qui centralise et qui fiche. En réalité c’est un fichage de 60 millions de Français : il y a absolument toutes vos données, c’est-à-dire nom, prénom, adresse, nom du père, nom de la mère, du conjoint des enfants — donc ascendants, descendants — et surtout il y a votre photo et vos empreintes digitales. Et c’est important, parce que derrière, en face de ça, on est en train de développer la Smart City qui est en train de devenir une Safe City quadrillée de vidéosurveillance [intégrant des logiciels de reconnaissance faciale, Note de l'orateur]. Et si on couple ça au fichier de la Sécurité sociale, au fichier des empreintes génétiques, l’ADN – aujourd’hui disponible sur l’ensemble des mis en examen, des gardés à vue, des prisonniers, qui donne déjà une bonne base, je crois, de plusieurs millions de personnes – au monitoring des réseaux sociaux qui est déjà fait : en début d’année Gérald Dharmanin, ministre des Comptes publics a dit qu’on allait, comment dire, « monitorer », vraiment le mot, les réseaux sociaux pour détecter les personnes susceptibles de ne pas déclarer proprement leurs impôts. Donc si vous déclarez que vous n’avez pas de télé et que, tout d’un coup sur les réseaux sociaux, on voit que vous êtes devant votre télé ; si vous avez déclaré que vous n’avez pas de revenus alors qu’en fait vous êtes au bout du monde sur un yacht, hop ! l’État vient vous appeler, vous dit « expliquez-vous sur ce que vous publiez sur les réseaux sociaux parce que ce n’est pas du tout cohérent avec votre déclaration de revenus ».
Si on couple en fait tous ces moyens, ce qu’on appelle en anglais – parce que les Américains sont très avancés sur la critique au sens noble du terme, c’est-à-dire la prise de distance avec l’économie numérique – le Total Information Awareness, un système dans lequel tout doit être transparent en permanence, et on se rend transparent volontairement. Par cette exposition permanente de soi et aussi cette narration qu’on a besoin de faire sur soi-même, parce qu'en réalité, quand on s’expose en permanence, c’est une narration de soi qu’on fait : on expose au monde ce qu’on veut être, ce qu’on croit être. Donc c’est cette faille narcissique qui fait, encore une fois, qu’on donne nos informations, et que, derrière, ces informations-là sont collectées. Et mises bout à bout — réseaux sociaux, Sécurité sociale, fichier TES — on a quadrillé l’ensemble de la population et on est capable de savoir qui fait quoi à quel moment. Donc on a ce qu’on appelle, en réalité, un nouveau mode de gestion du corps social par la surveillance généralisée.

Mais surtout, si on regarde et si on revient un peu dans l’histoire, on arrive à une gestion pratiquement de nature contre-insurrectionnelle.
La conte-insurrection, quand on regarde un peu ce qui se faisait aussi bien par la France en Algérie ou les États-Unis au Vietnam ou en Irak, etc., c’était très simple : c’était de surveiller tout le monde pour repérer la minorité active. Et l’objectif c’était un, de repérer la minorité active, qui portait le contre-discours à l’État, au régime politique en place en tout cas ; deux, la neutraliser d’une façon ou d’une autre et trois, surtout, pourquoi on a besoin de savoir où se situe tout le monde c’est que, en général, dans les logiques de contre-insurrection la population est divisée en trois parties :

  • la minorité active, celle qui pousse le combat, en l’occurrence là ce sont les gilets jaunes en France ;
  • la majorité passive, nous ;
  • et la minorité contre-active, donc les quelques-uns qui vont venir combattre cette minorité active et qui est, en général, encore plus minoritaire.

L’enjeu pour le pouvoir politique en place, quel qu’il soit, quel que soit le système – démocratie, autocratie, peu importe, ça fonctionne toujours de la même façon – c’est de se dire : qu’est-ce qui se passe ? Où va adhérer la majorité passive ?
Donc un, on doit identifier qui est la minorité active et deux, qui est la majorité passive pour mieux, en réalité, l’empêcher d’adhérer au combat qui est poussé.
Et là ré-interviennent les questions de discours de la peur, de la stigmatisation, de la délégitimation, etc. D’accord ?
En réalité cette logique de contre-insurrection est permise par les méta-plateformes qui, elles, permettent d’avoir les informations sur nous tous.
Et là où ce n’était pas exactement possible il y a trente ans, parce qu’il y a trente ans ça coûtait extrêmement cher et c’était techniquement quasi impossible d’avoir une information sur chacun, aujourd'hui nous nous exposons nous-mêmes, donc en réalité c’est gratuit ; l’information est gratuite aujourd’hui pour les surveillants. Donc c’est bien cette gratuité et cette profusion de données, de data, de big data, qui permet de mettre en place ce nouveau mode de gestion contre-insurrectionnel en fait.

Le contrat social initial qui était liberté contre sécurité ou sécurité contre liberté, progressivement ça a été sécurité contre liberté mais dans un contexte de méfiance, donc dans une ambiance de peur, d’antagonisme et donc sécuritaire. La brique que l’économie numérique et que les plateformes ont rajouté c’est « liberté contre sécurité contre vie privée ».
Donc là intervient la question des donnés personnelles, de la privacy, de la vie privée, etc.

À aucun moment cette question n’a été posée dans le débat public : est-ce que la vision du monde, est-ce que le projet commun qu’on a c’est bien l’ultra-transparence de tous, donc la disparition d’une sphère intime, privée, dans laquelle personne n’a le droit de venir, personne n’a le droit de violer en fait ? À aucun moment ce débat a réellement eu lieu. On assiste à quelque chose de très progressif où il y n'a cette nouvelle co-gouvernance entre souveraineté territoriale, souveraineté fonctionnelle, mais sans qu’à aucun moment ce ne soit interrogé. En réalité la question de la privacy ou des données personnelles ce n’est pas tant une histoire de privacy ou de données personnelles mais c’est bien une histoire de démocratie, d’autonomie et de projet commun de vie. Quelle est la vision, quel est le monde vers lequel on veut aller ?

Il me reste 12 minutes. Du coup je vais faire une phrase conclusive, je vais m’arrêter et après je pense qu’on discutera ensemble.

On m’a aussi demandé de parler des points de fuite possibles. Qu’est-ce qu’on fait ?
La première chose c’est de faire ce qu’on est en train de faire là, c’est-à-dire déjà d’en parler, de lever le voile sur les coulisses de cette économie numérique, de cette économie des plateformes, de cette nouvelle gouvernance qui est en train de se mettre en place et juste de comprendre réellement les enjeux, fondamentalement démocratiques, en réalité, qui sont sous-jacents à cette nouvelle organisation.
Il y a évidemment plein de gens qui travaillent et qui font du lobbying sur l’auditabilité des algorithmes, afin de pouvoir ouvrir la boîte noire pour voir ce qui s’y cache.
Il y a évidemment la question de l’école, de la formation à l’éthique, à l’économie numérique, non pas au codage. L’idée ce n’est pas de dire « on a mis des cours de code en CE1, donc on a fait le job ». Non ! Ça on doit aller beaucoup plus loin que ça, il ne s’agit pas seulement de coder, il s’agit de comprendre les enjeux d’autonomie individuelle et collective qui se jouent derrière.
Je terminerai avec la principale interrogation qui m’anime et qui, pour moi, est la plus intéressante mais peut-être la plus intellectuelle donc la moins tangible, c’est la question de ce qu’est l’État. L’État ce n’est rien d’autre, en réalité, qu’une fiction juridique qu’on a montée, qu’on a crée, qu’on a écrite à un moment donné. C’est de dire est-ce que l’État, aujourd’hui, qui est une brique de cette nouvelle gouvernance, ne pourrait pas, si on le repense, si on en repense les contours, devenir le contre-pouvoir ? Qu'est-ce qu’on entend par « État », par cette fiction juridique qu’est l’État ? Comment est-ce qu’on le redéfinit ? Autour de quel contrat social pourrait-on le redéfinir, là peut-être qu’on pourra avoir une vraie alternative.
C’est bon pour moi.

Animateur : Merci. Ce que je vous invite à faire, si vous avez des questions, c’est de prendre le micro rouge qui est devant, comme ça ce sera bien enregistré sur le flux et sur la vidéo qui sera mise en ligne.

Asma Mhalla : Donc y a-t-il des questions ou des remarques ?

Public : Bonjour. J’ai bien compris que la question importante c’est : que faire ? Que pouvons-nous faire ? Que devons-nous faire ? Ça c’est un vaste sujet. Je pense que vous avez déjà, dans votre conclusion, donné quelques éléments. Ma question : comment vous suivre ? Où vous retrouver en plus de cette conférence ?

Asma Mhalla : Merci beaucoup pour la question. Je vais faire un peu d’auto promo. Sur les réseaux sociaux, typiquement Twitter.

Public : Quand on ne veut pas y aller sur les réseaux sociaux !

Asma Mhalla : Je suis en train de créer en ce moment, enfin elle est crée en fait, une association qui s’appelle Sapient Society[De l’État de droit à l’État de surveillance - Asma Mhalla2, qui vient de sapiens et qui veut dire sage, une association à but non lucratif, etc. Sapient, s, a, p, i, e, n, t.

Public : Il y a un site ou un blog ?

Asma Mhalla : Oui. Il n’y a pas de tableau ou quelque chose. Je vais vous le marquer comme ça [sur un papier]. C’est quoi mon objectif avec Sapient ? On parle beaucoup d’écologie environnementale, la planète. Mon propos, c’est de dire « on va travailler sur l’écologie mentale, cognitive ». Donc c’est faire cette prise de conscience sur l’économie de l’attention, sur la fragilisation de nos égos, etc., qui fait qu’on est train de s’exposer en permanence. C’est juste expliquer exactement ce que je suis en train d’expliquer ce matin, mais sous l’angle d’une écologie mentale.
La première écologie c’est de comprendre cette économie, de faire l’effort intellectuel, de rentrer, de comprendre comment fonctionne une plateforme. De se documenter, de se renseigner et de se dire qu’est-ce qu’on fait à l’école ? Les prochaines générations vont être fondamentales et si on ne les forme pas au raisonnement critique, au raisonnement éthique, on est perdus, on est clairement perdus. Donc comment est-ce qu’on accompagne les écoles, les institutions ? Je le vois à Sciences Po : mes étudiants ont aujourd’hui entre 20 et 24 ans, si j’en deux-trois dans une salle, sur une classe de 25, qui ont une distance critique sur leurs usages, j’estime que c’est une très belle année.

Sapient. Sur Twitter c’est juste ça Asma M. Linkedin ce n’est pas intéressant. Facebook je n’y vais pas. Twitter c’est intéressant parce que ce ne sont pas justement des données personnelles, c’est du re-twitte d’articles de fond en fait.
Sapient est encore en cours de construction donc ne soyez pas trop durs, sapientsociety.org. L’association est créée, mais je suis encore en train de finaliser le site.

L’idée c’est vraiment de comment est-ce qu’on crée un label, aussi, un label à l’échelon européen ; ce sont des discussions qui sont en train d’émerger au niveau européen sur justement des applications qui soient plus éthiques, ce qu’on appelle l’ethics by design, c’est comment est-ce qu’on design aujourd’hui des plateformes et des applications qui soient plus respectueuses du temps de déconnexion, qui ne soient pas en train de nous solliciter en permanence et donc, en réalité, de créer une saturation cognitive qui, de toute façon, ne donne plus le temps pour penser le monde. La conséquence directe de ça c’est qu’on est tellement sollicités en permanence, tout le temps – les mails, les notifs, les « like », les follows, etc. – que de toute façon on est pris dans ce système, je le répète et c’est fondamental, qui est égotique, donc qui nous empêche de prendre cette distance-là pour penser réellement les choses dans le fond, c’est-à-dire de porter ce regard critique sur les choses.

Public : Merci beaucoup.

Asma Mhalla : Merci.

Public : Merci. À un moment donné vous avez parlé du système de valeur des méta-plateformes. Est-ce que vous pouvez en dire un petit peu plus sur leur vision du monde ?

Asma Mhalla : Oui. Ça peut être un système de valeur. Leur vision du monde est très simple.
La première chose c’est qu’elles ont émergé de la Californie et même vers San Francisco, vraiment le bastion libertarien initial depuis les années 60 avec le mouvement hippy, baba-cool, ça vient de là. L’idée c’est que un, l’État est quelque chose de lourd et de bureaucratique dont il faut s’affranchir, donc il faut le remplacer, d’une façon ou d’une autre, par le marché et par le privé qui, dans leur idéologie, de toute façon fera toujours mieux que l’État. Ça c’est la première chose. Il y a un contentieux avec l’État et l’État plateforme y participe. C’est pour ça que je dis que la nouvelle organisation où l’État ne s’occuperait que du punitif et du coercitif leur convient parfaitement. C’est-à-dire que les méta-plateformes aujourd’hui ne disent pas « on ne veut pas d’État », non, « on ne veut pas d’un État social, on ne veut pas d’un État régulateur, mais on veut bien d’un État sécuritaire ». Donc c’est le libertarianisme.
La question du progrès : le progrès technique est une valeur parce que eux ont la conviction que le progrès technique va s’accompagner d’un progrès social. Or, ce qu’on observe, c’est qu’en réalité le progrès technique se décorrèle totalement du progrès social, mais c’est une croyance et une valeur fondamentale qu’ils ont. C’est-à-dire qu’en mettant de l’intelligence artificielle partout, des softwares partout, etc., on va vivre mieux, on va être plus heureux, plus épanouis, on va être de meilleurs hommes. Et il y a cette notion pratiquement un peu chrétienne de faire bien, à un moment donné c’était même le slogan de Google, Don't be evil, « Ne faites pas le mal » ; on est dans quelque chose d’extrêmement moralisateur. Et pour certaines d’entre elles on est même dans des visions transhumanistes, c’est-à-dire qu’on va aller d’abord vers l’homme augmenté par l’intelligence artificielle. On a plein de gens en France qui prennent le relais de ce discours un peu catastrophique d’une intelligence forte qui prendrait sa revanche à terme sur l’homme, donc il va falloir qu’on augmente artificiellement nos niveaux de QI pour pouvoir concurrencer la machine — je pense par exemple à Laurent Alexandre — qui sont dans des fantasmes absolus parce qu’on n’y est pas du tout, mais enfin, c’est un discours qui fait peur. On est toujours dans la rhétorique de la peur.
Donc il y a cette histoire de transhumanisme et que, à terme, avec l’intelligence artificielle, on va pouvoir s’affranchir de la mort, mais la mort de qui ? Peut-être de trois ou quatre milliardaires parce que ça coûtera très cher et puis les autres, nous, on va mourir quand même. Et chez Tesla par exemple, qui n’est pas une méta-plateforme au sens propre, mais qui fait un peu partie de cette vision du monde, on a cette question de la conquête de l’espace. Amazon tient un discours parfait sur ça, c’est-à-dire que le progrès, pour eux, c’est qu’à un moment donné on a tellement bousillé la Terre que, de toute façon, ça ne vaut plus le coup de la sauver, mais ça peut être très intéressant d’aller voir ce qui se passe sur Mars, dans d’autres galaxies, etc. parce que, de toute façon, par l’explosion démographique, on est amené à aller coloniser l’espace.
Donc tout le travail qu’ils font, tous les investissements énormes qu’ils font dans la science, et ils font énormément de choses en termes de recherche fondamentale, ça participe à cette vision-là : transhumanisme, conquête de l’espace, etc., et ils y croient vraiment.

Animateur : Il nous reste une toute petite minute pour une dernière question.

Public : Vous parliez de l’État. Moi, ce que je vois, c’est qu’il y a quelques personnes qui se font une concurrence énorme pour arriver en haut de la pyramide, d’ailleurs pyramide c’est bien le mot. Je les vois complètement décorrélés de la populace et je ne vois pas en quoi ils pourraient être nos sauveurs.

Asma Mhalla : Vous faites allusion à qui ?

Public : Juste la classe politique.

Asma Mhalla : Ah oui ! Eux en sont un symptôme. Quand je parle d’État c’est un corps social qui a pris forme et qui est un organisme vivant en tant que tel. C’est-à-dire que les corps d’État, en réalité, ce ne sont pas les trois mêmes têtes qu’on voit sur BFM, non ! C’est le corps de l’État, c’est-à-dire l’ensemble des institutions, l’ensemble des fonctionnaires, des hauts-fonctionnaires qui sont dans une vision où, en tout cas l’impression que j’ai, c’est que cet État-là est en train de jouer sa survie d’une façon ou d’une autre. Mais il est clair que le personnel politique auquel vous faites allusion, le pauvre, est pris dans ce système. C’est-à-dire qu’il n’y a quasiment pas un parti politique aujourd’hui, un responsable politique qui, d’une façon ou d’une autre, de façon directe ou indirecte, n’est pas pris dans le système de ce discours de l’ultra-sécurité ou de la sécurité.
Non, en effet, l’espoir ne viendra pas de là.

Animateur : Merci beaucoup. On doit s’arrêter là. Je vous invite, si vous voulez…

Asma Mhalla : Il y avait quelqu’un, je ne sais pas, mais bon !

Animateur : Non. On n’a vraiment pas le temps, je suis désolé. Il faut que les prochains conférenciers puissent s’installer. Du coup je vous remercie.

Asma Mhalla : Merci.

[Applaudissements]