Opinions : Croquis mensuel de Pascal Francq – Novembre 2017
Pascal Francq

Je ne suis pas un nombre, je suis un homme libre !

Le générique du Prisonnier, la série télévisée britannique culte des années 1960, se termine par un extrait de dialogue entre le héros et un autre personnage. Le générique s’achève avec le cri du héros : «Je ne suis pas un numéro, je suis un homme libre !»
La série met en scène un ex-agent secret qui, juste après sa démission, se fait kidnapper et se retrouve prisonnier d’un village [A]  [A] Les habitants peuvent se déplacer dans l’enceinte du village, mais dès qu’ils tentent de le quitter, ils sont systématiquement rattrapés par un énorme ballon blanc au bout de quelques minutes.. Ses habitants y sont simplement désignés par des numéros. On comprend vite que le «village» cherche à découvrir certains secrets détenus par ses habitants.
Pour y parvenir, le «village» contrôle la vie de chaque habitant, en particulier en procurant à tous un certain confort et une multitude d’activités (une version moderne du pain et des jeux). Les 17 épisodes de la série montrent comment le héros arrive à déjouer toutes les tentatives visant à percer son secret (en l’occurrence la raison de sa démission).
L’un des aspects qui m’a le plus marqué dans cette série, c’est évidemment la réduction des individualités à un simple nombre. Je ne pouvais que m’identifier à ce héros qui refuse de n’être que le Numéro 6.
Aujourd’hui, à l’ère d’internet et des mégadonnées, je crains que nous soyons tous devenus de simples numéros. Nous nous retrouvons sans cesse confrontés à une quantification de nos performances (réseaux sociaux en ligne, évaluations professionnelles et scolaires, etc.).
La Chine prévoit ainsi la mise en place d’un «système de crédit social» qui vise à associer une note de confiance à tous les acteurs de la société (citoyens, organisations, etc.) [1]. Et des projets similaires existent dans nos démocraties, même si on n’en a pas toujours conscience.
Les risques de voir limiter nos libertés et entraver des formes d’épanouissement alternatives sont bien réels. Nous devons lutter collectivement contre cette quantification tous azimuts des êtres humains dans nos sociétés numérisées et ultra-connectées.

L’assimilation permanente de la réputation à un nombre

Un de mes billets sur les réseaux sociaux en ligne insistait sur l’importance de la réputation sur internet. J’y expliquais notamment que de nombreux algorithmes au cœur des services en ligne que nous utilisons (recherches, recommandations, etc.) tentaient de modéliser cette notion de réputation.
Ainsi, un des éléments qui intervient dans les classement de Google Search est l’algorithme PageRank [2]. Pour faire simple, PageRank suppose que le nombre d’hyperliens pointant vers une page indique un niveau de confiance qu’internet s’autorise à conférer à cette dernière.
PageRank inclut notamment un mécanisme de transitivité. Si un document A pointe vers un document B, cela améliorera la «réputation» de B d’autant plus qu’il y a de nombreuses pages qui pointent vers A (et qu’elles ont elles-mêmes de nombreux hyperliens les pointant).
Si le modèle de PageRank implique une grande complexité algorithmique au vu du nombre de pages prises en compte dans son calcul – Google n’en implante d’ailleurs qu’une approximation – il n’en demeure pas moins qu’à la fin, c’est un nombre réel qui sort.
En réalité, du nombre de likes sur Facebook au nombre de commentaires jugés utiles sur Amazon en passant par le nombre d’étoiles attribuées aux chauffeurs de Uber, la confiance accordée aux ressources (pages, commentaires, profils, disques, livres, etc.) et aux acteurs se résume à un nombre.

Le projet chinois d’un système de crédit social

L’idée d’un système de crédit social du gouvernement chinois semble s’inscrire dans ce contexte. Dans un premier temps, il vise à calculer pour tout acteur (citoyen, entreprise, fonctionnaire, etc.) une note censée représenter la confiance qu’il inspire à la société chinoise [1].
Dans un second temps, cette note-confiance permettra (ou non) de jouir de certains droits et privilèges. Ainsi, l’attribution d’un prêt, l’accès à certains emplois bien rémunérés ou encore la possibilité de voyager vers une destination de son choix seront conditionnés par cette note-confiance.
Pour la calculer, l’État chinois amassera des quantités d’informations sur les personnes et les entreprises. Celles-ci proviendront d’abord des banques de données étatiques. Mais les géants chinois du numérique fourniront également des donnés sur les comportements en ligne.
Officiellement, l’ambition affichée est la lutte contre les scandales et les arnaques qui secouent régulièrement la Chine. Mais, comme le souligne fort justement la chercheuse Séverine Arsène, il s’agit surtout de museler les opposants [3].
Plus sournois : c’est la collaboration aveugle de tous les Chinois qui débusquera les détracteurs du régime. Car chaque fois qu’un internaute chinois «dislikera» un comportement en ligne «déviant de la norme» en cliquant sur un pouce pointé vers le bas, il contribuera à identifier un opposant potentiel.
Supposons un instant que l’algorithme inclut un mécanisme de transitivité comme PageRank. Un chinois qui ne «dislikerait» pas immédiatement un internaute considéré comme opposant deviendrait suspect à son tour ! De quoi encourager la participation «volontaire» de tous et l’autocensure.

De multiples systèmes de crédit social déjà existants en ligne

On me rétorquera que ce projet est le fruit de l’imagination d’un régime autoritaire à tendance orwellienne. Pourtant, à y regarder de plus près, de nombreux services en ligne imposent de facto un système similaire à des pans entiers d’activités au sein de nos démocraties.
Commençons avec un cas évident : Uber. Les chauffeurs incapables d’accumuler le nombre suffisant d’étoiles, puis de les conserver, se retrouvent persona non grata sur la plate-forme [B]  [B] On remarquera que la possibilité que Uber se donne de bannir (ne fût-ce que temporairement) certains chauffeurs de sa plate-forme réfute sa posture de présenter cette dernière simplement comme mettant en relation des demandeurs de services avec les fournisseurs correspondants.. Certes, le modèle économique douteux de Uber pourrait laisser penser qu’il s’agisse d’une exception.
Mais ce principe se retrouve ailleurs : sur eBay, par exemple, les vendeurs et les acheteurs s’évaluent après chaque transaction. Ici aussi, ceux «jugés de mauvaise réputation» finissent exclus du site de ventes aux enchères. Et je pourrais citer TripAdvisor, Booking.com, et tant d’autres.
Aujourd’hui, de plus en plus, être jugé digne de confiance par la masse en ligne devient un prérequis pour gagner sa vie. En fait, simplement exister sur internet nécessite d’accumuler un important capital de réputation auprès des internautes. Sans ce dernier, difficile de s’assurer une bonne visibilité.
La surinformation à laquelle internet nous confronte tous implique que, en pratique, seuls les premiers contenus proposés, c’est-à-dire ceux qui disposent de la meilleure réputation en ligne, se voient consultés.
Sur Amazon, seuls les commentaires jugés les plus «utiles» sont lus. De même, sur Facebook ou Twitter, seuls les utilisateurs qui ont de nombreux «amis» ou «followers» peuvent espérer se faire entendre en ligne.

Un principe en réalité éculé

On comprend aisément tout le confort que représente l’assimilation d’un concept aussi complexe que la réputation à un simple nombre. Un logiciel peut en effet très aisément classer par ordre croissant ou décroissant une liste de nombres. Mais quelle réduction !
Ceci dit, rien de nouveau sous le soleil : le principe de résumer un comportement à un nombre est loin d’être neuf. Je critique régulièrement la naïveté au cœur de la théorie de l’Homo œconomicus omniprésente en économie, qui considère tout agent économique comme un acteur rationnel [4].
Elle suppose notamment que la satisfaction d’un acteur économique s’exprime par une fonction d’utilité. En d’autres termes, nos motivations se résumeraient à des utilités négatives lorsque nous ne voulons pas quelque chose ou positives lorsque nous le voulons, ces utilités s’additionnant [5] !
Le milieu académique tente d’ailleurs souvent de réduire des situations compliquées à un nombre, même si, le plus souvent, on s’approche plus de l’incantation que de la démarche scientifique. Ainsi la «qualité» d’un académique s’exprime aujourd’hui par le H-index [C]  [C] Comme d’autres indicateurs scientifiques, le H-index se résume à compter des publications et des citations de celles-ci. Si on ne peut contester qu’un grand nombre de citations d’articles scientifiques sont des indicateurs des qualités technoscientifiques de leur auteur, personne ne m’a encore expliqué en quoi cela apportait une quelconque information sur ses qualités pédagogiques ou sa capacité à rendre des «services à la communauté» (les deux autres missions que les universités prétendent poursuivre)..
Mais on peut également citer les étoiles et autres notes attribuées par des guides culinaires aux meilleurs restaurants de la planète, ou encore tous ces emplois évalués «au chiffre» (nombre de coups de téléphone, de lignes de code, etc.). Sans parler de nos systèmes éducatifs.

Internet et les mégadonnées

Mais les choses prennent une orientation nouvelle avec l’avènement de l’accès continu que nous avons désormais à internet combiné au développement des techniques autour des mégadonnées («big data»).
Les infrastructures actuelles fournissent les outils pour récolter, stocker et exploiter de vastes quantités de données. Si pendant longtemps l’imagination des chercheurs et des ingénieurs était bridée par des capacités informatiques limitées, les possibilités deviennent aujourd’hui quasi infinies.
À cela s’ajoute un technodéterminisme croissant que j'ai déjà critiqué. Une des convictions découlant de ce technodéterminisme consiste à penser que la masse des données disponibles compense leur moindre «qualité» [D]  [D]  Je ne parle pas ici des erreurs de mesure, mais plutôt de la difficulté d’exprimer un phénomène donné par une variable quantifiable. Un exemple classique est celui de l’évaluation via une échelle de notation, comme sur le site de vente en ligne Amazon où les internautes donnent aux divers produits une note allant de 1 à 5. et la nécessité de formuler des hypothèses a priori [E]  [E] De nombreux défenseurs des mégadonnées avancent que, avant l’apparition de celles-ci, la rareté des données rendait indispensable la formulation initiale d’hypothèses à valider ou à invalider ensuite sur «quelques» données collectées a posteriori (typiquement lors d’expérimentations encadrées). Aujourd’hui, selon eux, on disposerait des outils et des quantités de données nécessaires a priori pour laisser émerger les faits des données. [6].
On comprend dès lors le besoin existentiel des géants du numérique à accumuler des données. Mais ce ne sont pas les seuls : les grands clubs sportifs, par exemple, exploitent à présent une multitude de données sur leurs joueurs (nombre de passes, kilomètres parcourus, données biométriques, etc.).
Cet insatiable appétit de toujours mieux connaître les citoyens-internautes-consommateurs-employés implique de collecter principalement des données à caractère privé. Que ce soit celles découlant directement de leurs comportements (achats, déplacements, etc.) ou celles provenant de tiers (telles les jugements ou commentaires en ligne).
Or nos smartphones et autres gadgets «intelligents» constituent autant de cordons ombilicaux qui nous maintiennent connectés en permanence. Non seulement nous alimentons le flux de données privées «dans le nuage», mais on nous invite sans cesse à évaluer le monde qui nous entoure.

L’Homo numericus

Nous participons donc tous à une forme de réduction de l’Être au nombre, naissance d’un nouveau modèle de représentation de l’homme : l’Homo numericus.
D’abord, en mettant autant d’informations nous concernant en ligne qui, une fois passées à la moulinette des mégadonnées, alimenteront les algorithmes calculant des nombres supposés représenter différentes dimensions personnelles (au propre comme au figuré [F]  [F] En effet, tous ces nombres nous concernant deviennent des coordonnées de vecteurs (de «features» pour reprendre la terminologie) qui seront ensuite traités par différents algorithmes. Chaque nombre correspond donc bien à une dimension dans l’espace de ces vecteurs.).
Ensuite, en participant à l’évaluation permanente de tous par tous. Je ne suis pas psychologue, mais je peux imaginer que certains ressentent sans doute une forme de toute-puissance en accordant, souvent de manière avare, telle note ou telle étoile à l’étranger qu’il croise.
Si un chauffeur Uber ne se montre pas «à la hauteur» un jour, il sera directement sanctionné par la foule. Avec le risque de ne plus avoir suffisamment de courses pour gagner sa vie dignement. Et peu importe si, ce jour-là, l’un de ses enfants était malade ou qu’un parent décédait.
Cette facilité à évaluer en permanence contribue à cette «société de la performance» dans laquelle nous vivons. Deux chercheurs montraient encore récemment comment elle infiltrait également des événements sportifs qui prétendent pourtant rejeter toute concurrence entre participants [7].
Dans son analyse du projet du gouvernement chinois, Séverine Arsène avance que celui-ci cherche surtout à créer une société de la délation [3]. Je crains malheureusement que l'anonymat en ligne abordé dans un autre billet ne recrée la même chose dans notre monde occidental.
Nos états démocratiques cherchent d’ailleurs aussi à débusquer les «mauvais» citoyens grâce aux nombres. Prenons la «lutte contre le chômage» : les allocations de chômage, censées garantir une vie décente à tous, sont conditionnées par des chiffres (CV envoyés, rendez-vous obtenus, etc.).
Certains états européens [G]  [G] J’ai vu cela dans un reportage diffusé par une chaîne dont j’ai malheureusement oublié le nom. D’après mes souvenirs, ce reportage avait été tourné au Royaume-Uni. obligent les demandeurs d’emploi à effectuer leurs recherches depuis des agences. L’objectif est de tracer leur comportement derrière les ordinateurs (nombre de clics, niveau d’attention grâce à une caméra intégrée, etc.) pour s’assurer qu’ils cherchent du travail d’une manière «orthodoxe» !

Privilégions l’être au paraître

Plus que jamais nous vivons dans une société de l’apparence (likes, followers, étoiles, etc.). Et les nombres qu’on nous assigne continuellement y contribuent toujours plus. Ils servent constamment à comparer notre popularité avec celle des autres, voire à déterminer l’accès à des ressources.
Si j’ai un plus grand H-index, c’est que je suis un meilleur professeur. Si j’ai plus de contacts sur LinkedIn, c’est que je suis plus professionnel. Si j’ai plus de followers sur Twitter, c’est que j’écris plus de choses intéressantes (ce que pense très certainement Donald Trump). Quelle idiotie !
Depuis quelque temps, certains grands cuisiniers refusent de se retrouver dans les guides gastronomiques. Ils ne supportent plus le poids constant qu’une telle distinction impose et souhaitent retrouver une forme de liberté qui n’entrave pas le plaisir de cuisiner.
Il nous faut aussi résister à cette dictature de la popularité, et ce malgré la forte pression sociale de nos sociétés de la performance. Rappelons-nous qu’à chaque fois que nous nous permettons de noter quelqu’un, nous incitons les autres à faire de même avec nous. Et pas toujours pour le meilleur !
Cela impose de raffermir l’esprit critique de tous, en commençant par les jeunes appelés à évoluer dans ces sociétés. Leur éducation devrait leur fournir les armes indispensables à choisir leur propre avenir et non les formater pour qu’ils collent au futur que nous laissons s’installer. Mais ceci est une autre histoire…

Références

[1] Rogier Creemers, «Planning Outline for the Construction of a Social Credit System», China Copyright and Media The law and policy of media in China [H]  [H] Blog consacré au contexte juridique chinois., publié en juin 2014 et mis à jour en avril 2015.

[2] Sergey Brin & Lawrence Page, « The Anatomy of a Large-Scale Hypertextual Web Search Engine », Computer Networks and ISDN Systems, 30(1), pp. 107–35, 1998.

[3] Séverine Arsène, « Le gouvernement chinois exploite habilement ce que nous ont appris les réseaux sociaux », Le Monde, 2017.

[4] Gary S. Becker, The Economic Approach to Human Behavior, University of Chicago Press, 1978.

[5] Yochai Benkler, The Wealth of Networks: How Social Production Transforms Markets and Freedom, Yale University Press, 2006.

[6] Viktor Mayer-Schönberger & Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think. London, John Murray, 2013.

[7] Florence Soulé-Bourneton & Sébastien Stumpp, «L’ultra-trail est l’avatar d’une société de la performance», Le Monde, 2017.