Un journaliste affirmait récemment que «l’homme fort des Etats-Unis n’est pas à la Maison Blanche, mais à Palo Alto, en Californie, dans la Silicon Valley.» [1]. Il parlait de Mark Zuckerberg, le PDG de Facebook.
Quelques jours plus tard, une amie me relate sa discussion avec deux artistes qui, au cours de l’élaboration de 404 NOT FOUND, leur dernière création artistique, constatent que Google modifie certaines images dans Google Street View. Le tout sans avertir l’internaute.
Personne ne peut contester les innovations technologiques incroyables réalisées par les géants du numérique. De même, on ne peut nier l’utilité des nombreux services en ligne qu’ils nous proposent. Pour autant, il est légitime de se demander s’ils n’acquièrent pas trop de pouvoir.
En fait, cette question m’apparaît urgente. Le techno-déterminisme magique dans lequel baignent de nombreux acteurs rend improbable toute réelle auto-régulation du secteur. De plus, les caractéristiques propres au numérique favorisent l’émergence d’oligopoles, et renforcent donc la main-mise de quelques entreprises sur nos vies.
Ciudad Juárez et Google Street View
La ville mexicaine de Ciudad Juárez est tristement célèbre pour être la plus violente au monde [2]. Entre 2008 et 2012, un conflit entre cartels de la drogue donne lieu à plus de 11.000 assassinats. À cela s’ajoutent 1.441 féminicides. Cette violence n’est égalée que par l’indifférence apparente des autorités.
Carine et Elisabeth Krecké décident, dans le cadre de leur projet 404 NOT FOUND, d’étudier si le service en ligne Google Street View reflète cette violence. Elles ont donc minutieusement visité, par ordinateur interposé, chaque recoin de la ville entre 2012 et 2015.
Les images de Google Street View capturent bien cette violence. Sur l’une d’entre-elles, on peut même apercevoir un cadavre en plein milieu d’une rue. Mais, quelque temps plus tard, les deux artistes s’aperçoivent que toutes les images de cette rue sont remplacées… par une palissade.
Que Google souhaite enlever des images de cadavres, on peut le comprendre aisément. Cependant, la solution n’a pas été d’envoyer une voiture reprendre de nouvelles images, mais de manipuler celles existantes. Et, nulle part, cette manipulation n’est explicitée. En d’autres termes, Google a virtuellement rasé une rue de la carte.
Le reste de l’iceberg
Mais cette anecdote n’est que la partie émergente de l’iceberg. Les outils informatiques désormais omniprésents dans nos vies, en ligne comme hors ligne, influencent constamment nos comportements et nos idées. Souvent sans réelle volonté des développeurs, parfois délibérément.
Les moteurs de recherche en sont sans conteste les meilleurs exemples. Ils sont d’abord, pour une très grande majorité du moins, le principal outil pour accéder aux informations, voire le seul. De plus, les internautes ne consultent que les premiers résultats classés.
Or nous savons que seule une petite partie du Web est indexée. En 2008 déjà, Google annonce l’existence de plus d’un trilliard de documents en ligne [3]. Mais nul ne sait combien sont référencés dans Google Search. Ici ou là, on avance le chiffre impressionnant de 100 milliards. Ça ne fait pourtant, au maximum, que 10% de ce qui existe.
En fait, Google manque totalement de transparence, autant sur le nombre de documents indexés, que sur sa méthode de classement. On voit dès lors mal comment évaluer correctement les résultats proposés. Surtout lorsque des discriminations systématiques existent, comme entre 2006 et 2009 où Google Search bannissait le site de Foundem, un concurrent potentiel [4].
Dans mon billet de février, j’expliquais que, de 2011 à 2012, Google Search blackboulait aussi les journaux belges francophones [5]. Ces derniers reprochaient à son service en ligne Google News de reprendre leurs contenus sans légitime rétribution. Google a donc utilisé sa position dominante sur le marché des moteurs de recherche pour influencer celui des agrégateurs de contenus.
Les passerelles vers le cyberespace
Pour autant, il ne s’agit pas de pointer Google comme le «vilain» de service (en ligne). On sait, par exemple, que LinkedIn a temporairement banni des internautes syriens [7] et Facebook a fait disparaître un groupe de 1000 utilisateurs qui critiquaient la monarchie marocaine [8].
Andrea Renda caractérise ces services en ligne devenus de facto des points d’entrée obligatoires sur internet comme des «passerelles vers le cyberespace» [6]. Il parle surtout de Google Search et Facebook. Mais on peut étendre ce concept à tout service en ligne qui s’impose comme médiateur incontournable pour accéder à certaines catégories de ressources numériques (informations, contacts en ligne, etc.).
Ces passerelles vers le cyberespace disposent d’un pouvoir immense. La masse de ressources disponibles (documents en ligne, internautes actifs sur les réseaux sociaux en ligne, etc.) rend impossible la vérification des informations fournies par les services en ligne les plus populaires. Le manque de transparence nous oblige donc souvent à les considérer comme des «boîtes noires».
Je l’ai déjà écrit plusieurs fois sur ce blog : les intérêts commerciaux ne sont pas forcément antinomiques avec un certain intérêt général. Il n’en demeure pas moins qu’ils ne sont pas structurellement liés. Chacun, les entreprises comme n’importe quel autre acteur, poursuit, légitimement, ses intérêts propres.
L’émergence d’oligopoles
Le poids de ces passerelles vers le cyberespace est d’autant plus grand que les dynamiques économiques du numérique engendrent des oligopoles. Deux phénomènes expliquent cela : la nature cyclique de la croissance organique des entreprises du numérique et la baisse tendancielle du coût marginal d’exploitation.
La croissance organique représente la croissance du chiffre d’affaires d’une entreprise liée à une augmentation de ses ventes en volume et/ou en prix. Pour les géants de l’internet, cette croissance organique est cyclique.
Pour gérer leurs services de masse, ceux-ci déploient des infrastructures informatiques puissantes. Pour les financer, ils complexifient leurs algorithmes et développent de nouveaux services. Ils sont dès lors obligés d’étendre leurs infrastructures. Puis, pour générer les revenus supplémentaires nécessaires, ils amélioreront leurs modèles mathématiques ou en créeront de nouveaux.
J’ai déjà expliqué dans mon billet sur l'économie dite collaborative que le coût marginal des marchandises numériques a tendance à être très faible. Les coûts initiaux de mise en place ou d’amélioration majeure d’un service en ligne sont généralement beaucoup plus élevés que les investissements nécessaires ensuite pour répondre à un accroissement de demandes important [A] [A] Supposons que Google Search utilise une infrastructure capable de répondre à 125 millions de requêtes simultanées. Le coût marginal d’exploitation de Google Search est l’investissement que Google devrait faire pour répondre à 125 millions et une requêtes simultanées. Dans cet exemple, il est nul..
Cette double tendance renforce la position des gros acteurs qui concentrent alors les capitaux pour assurer leur croissance. D’où les rachats effectués tous azimuts par les géants de l’internet, mais aussi des projets a priori éloignés de leur «core business» (tels la Google Car).
L’habitus de la Silicon Valley
Cette propension oligopolistique est d’autant plus inquiétante que de nombreux ingénieurs et informaticiens qui créent ces outils et dirigent les entreprises qui les commercialisent disposent d’une vision du monde et d’un rapport à celui-ci très particulier. C’est ce que j’appelle «l’habitus de la Silicon Valley».
Cette expression s’inspire du concept d’ «habitus» introduit par Pierre Bourdieu [9]. Je fais référence aux normes et pratiques sociales de ceux qui élaborent les artefacts technologiques, et qui structurent ces développeurs et ces artefacts. Cet habitus de la Silicon Valley se caractérise par deux éléments.
Tout d’abord, une foi aveugle, quasi mystique, dans les bienfaits des technologies. A priori, rien de nouveau depuis les techno-utopistes du XIXe siècle. Un saint-simonien écrivait déjà en 1848 : «Améliorer les communications, c’est donc travailler à la liberté réelle, positive et pratique (…). Je dirai même plus, c’est faire de l’égalité et de la démocratie» [B] [B] L’auteur parlait alors des réseaux de communication de son époque, celui des chemins de fer et du télégraphe. [10].
Mais certains des acteurs du numérique, les «transhumanistes», vont aujourd’hui beaucoup plus loin. Ils sont convaincus que les ordinateurs surpasseront bientôt les humains. Nombreux espèrent intégrer les technologies numériques dans le corps humain en vue d’en améliorer les capacités. Certains n’aspirent à rien moins que l’immortalité numérique [11]!
En outre, les entreprises du numérique se distinguent aussi par leur rejet de toute forme de régulation, notamment étatique. La conviction, partiellement ancrée dans la phobie américaine d’un état trop centralisateur [C] [C] Il s’agit certainement aussi d’assurer le développement le plus libre possible des entreprises commerciales., qu’un certain contrôle ne peut qu’entraver l’innovation technologique est effectivement bien présente.
Si cet habitus de la Silicon Valley m’alarme autant, c’est parce la plupart des outils numériques envahissant nos vies sont développés par des entreprises commerciales. Or, emmurés dans leur messianisme technologique, les ingénieurs et informaticiens les déploient rapidement sans réelle mise en perspective des risques potentiels par rapport aux bénéfices attendus.
Des entreprises gourmandes en données
Une des conséquences de l’irrésistible omniprésence des technologies informatiques est une concentration des données nous concernant. Pour le dire autrement, nos données privées jouent le rôle de carburant pour alimenter le moteur de l’innovation numérique.
Cette volonté de concentrer les données s’explique par trois aspects. J’en ai déjà abordé deux : la nature cyclique de la croissance organique et l’habitus de la Silicon Valley. Le troisième relève du modèle économique sur lequel se basent de nombreux services en ligne.
La majeure partie d’entre-eux (tels Google Search et Facebook) étant «gratuits», les revenus des fournisseurs ne proviennent pas directement des consommateurs. En fait, ce sont souvent des tiers qui les financent, notamment par la publicité en ligne. Ainsi, en 2009, on estimait les revenus publicitaires de Facebook à $ 800 millions [12].
Or, pour bien cibler des consommateurs, il faut bien les connaître. Si je souhaite suggérer un produit à un internaute, il me sera très utile de connaître ses précédents achats, ses recherches, les sites Web qu’il visite, le contenu de ses courriels, ses amis («mimétisme comportemental»), etc.
De plus, les zones de publicités en ligne explosent à mesure que les habitudes de lecture se diversifient (sites Web traditionnels, blogs, forums, etc.). Ce qui diminue la valeur de chaque zone prise séparément [13]. Seuls les services en ligne drainant un trafic important génèrent dès lors de réels revenus. La position des dominants s’en trouve encore renforcée.
Combinons cela avec la nature cyclique de la croissance organique. Le développement d’algorithmes «innovants» demande de disposer de grandes quantités de données. Google, par exemple, tire plus de 95% de ses revenus de la publicité en ligne. Il est «condamné» à accumuler toujours plus de données privées…
Enfin, comme les ingénieurs ne conçoivent pas que leurs développements puissent avoir un quelconque impact négatif, ils n’hésitent pas à collecter toutes les données privées qu’ils trouvent. Après tout, ils sont sûrs qu’ils concevront demain de nouvelles technologies «au service de l’humanité».
Google : un cas d’école
Google est une illustration, poussée à la caricature, de la combinaison entre puissance et habitus de la Silicon Valley. Il se fixe comme mission «d'organiser les informations à l’échelle mondiale» [D] [D] Site Web de Google consulté le 14 juin 2016., tout en cherchant à «gagner de l'argent sans vendre son âme au diable» [E] [E] Site Web de Google consulté le 14 juin 2016.. Rien de moins !
Je n’ai aucun doute quant à la sincérité de ses dirigeants. Pourtant leur pouvoir m’effraie. Je crains réellement cette domination assortie d’une telle naïveté et d’un réel manque d’esprit critique. C’est une situation qui pourrait vite dégénérer en aveuglement autoritaire.
En effet, pour Google, l’informatique est bien la seule approche susceptible de gérer «intelligemment» la masse d’information en ligne. Et comme toute avancée technologique est censée aller dans le sens du progrès humain, il faut en déployer sans cesse plus et toujours plus rapidement.
Prenons Google DeepMind, une filiale spécialisée dans le «deep learning». Dans la cadre d’un accord de coopération avec des hôpitaux britanniques, cette société dispose des données non anonymisées de plus 1,6 millions de sujets de Sa Majesté [15]. Et cela, sans que les patients aient marqué leur accord !
Google finance aussi le mouvement transhumaniste [16]. Il emploie de surcroît l’un de ses principaux représentants, Ray Kurzweil; ce dernier y dirige l’ingénierie logicielle. On comprend dès lors les nombreux projets de Google liés à la santé.
Google milite également pour des régulations minimalistes des services en ligne. Il dépense ainsi de $ 4,5 à 5 millions en lobbying rien qu’auprès de la Commission européenne [17]. Mélangeant idéologie et intérêt commercial, Google défend le «tout connecté sans entrave».
Enfin, Google, comme tant d’autres, a ouvert son capital à des investisseurs. Or il n’est pas impossible que ces derniers soient nettement moins sensibles à «l’intérêt de l’humanité». Certains n’hésitent d’ailleurs pas à dire que c’est désormais Wall Street qui décide et plus la Silicon Valley [18].
Où est l’humain ?
Il ne s’agit pas de clouer Google au pilori. D’autres entreprises disposent aussi d’une réelle puissance tout en baignant dans le même habitus. Et Google offre de nombreux services en ligne utiles qu’il serait ridicule d’arrêter.
Pour autant, il faut remettre l’humain au centre de la réflexion et du déploiement technologique. Et cela passe, pour moi, par une plus grande régulation, y compris des services en ligne [19]. Mais pour atteindre cet objectif, il faudrait que le débat, notamment scientifique, soit possible.
Je pense, par exemple, qu’il est légitime de se demander si Google ne devrait pas être démantelé [20]. Mais l’article où j’abordais cette question (parmi de nombreuses autres) a été plusieurs fois rejeté par des journaux scientifiques au motif que «c’était trop radical». Bref, il a été censuré [F] [F] L’omniprésence de Google dans les associations professionnelles joue peut-être un rôle. Vincent Cerf, l’un des créateurs des protocoles au coeur de l’internet et «Chief Internet Evangelist» chez Google, a ainsi été président d’une l’une d’entre elles (ACM) et disposait par ailleurs d’une colonne dans un journal scientifique publié par une autre (IEEE). Loin de moi l’idée de prétendre que Google demande qu’on censure des articles le critiquant. Mais il n’est pas impossible que la fascination exercée par les prouesses technologiques de Google, ainsi que leur soutien à des activités scientifiques, activent une sorte d’auto-censure. Mais ce n’est qu’une hypothèse..
Surtout, le débat ne doit pas se limiter aux seuls cercles scientifiques et autres commissions politiques ou régulatrices. Le citoyen doit également y prendre une place active, ce qui requiert notamment qu’il soit mieux informé sur les tenants et aboutissants.
Prenons le cas de la publicité en ligne. Les entreprises répercutent évidemment leurs budgets marketing sur le prix de leurs marchandises. Ce sont donc bien in fine les consommateurs qui financent les services en ligne «gratuits».
Cependant, comme ils ne les financent pas directement, ils n’ont que peu de contrôle sur les conditions d’utilisation. La culture du gratuit à laquelle nous avons tous succombée nous rend aveugles. Nous pourrions certainement être plus exigeants vis-à-vis des fournisseurs si nous étions prêts à payer pour certains services.
Ceci dit, éduquer et établir des mécanismes de régulation ne sert pas à grand-chose si ces derniers ne sont pas respectés. Mais avec leur politique du fait accompli consistant à déployer leurs technologies immédiatement, les entreprises du numérique ne se posent guère la question du respect de ces mécanismes. Et les États manquent trop souvent de volonté en la matière. Mais ceci est une autre histoire…
Références
[1] François Bougon, «Mark Zuckerberg et Xi Jinping, les deux empereurs », Le Monde, 2016.
[2] Emmanuelle Steels, «Ciudad Juarez ou le drame sans fin des femmes disparues», Le Temps, 2016.
[3] Jesse Alpert & Nissan Hajaj, « We Knew the Web Was Big… », The Official Google Blog, 2008.
[4] James Grimmelmann, « Some skepticism about search neutrality », The Next Digital Decade: Essays on the Future of the Internet, Berin Szoka & Adam Marcus (éd.), pp. 435–459, TechFreedom, 2010.
[5] Philippe Laloux, « Google bafoue la neutralité du Net », Le Soir, 16 juillet 2011.
[6] Andrea Renda, « Neutrality and Diversity in the Internet Ecosystem », SSRN Scholarly Paper, 19 août 2010.
[7] Andrew Odlyzko, « Network neutrality, search neutrality, and the never-ending conflict between efficiency and fairness in markets », Review of Network Economics, 8(1), pp. 40–60, 2009.
[8] Evgeny Morozov, The Net Delusion: How Not to Liberate The World, Allen Lane, 2011.
[9] Pierre Bourdieu, Le Sens pratique, Éditions de Minuit, 1980.
[10] Michel Chevalier, Lettres sur l’Amérique du Nord, 1844.
[11] Martine Rothblatt, Virtually Human: The Promise – and the Peril – of Digital Immortality , St. Martin’s Press, 2014.
[12] Alexei Oreskovic, «Facebook ’09 Revenue Neared $800 Millions», Reuters, 2010.
[13] Bob Garfield, « The Revolution Will Not Be Monetized », IEEE Spectrum, 48(6), pp. 26‑31, 2011.
[14] Meghan Kelly, «96 percent of Google’s revenue is advertising, who buys it?», VenutraBeat, 2012.
[15] Hal Hodson, «Did Google’s NHS patient data deal need ethical approval?», New Scientist, 2016.
[16] Chloé Hecketsweiler, «La Singularity University, ovni 3.0 de la Silicon Valley», Le Monde, 2015.
[17] Tom Fairless, «U.S. Tech Firms Increase EU Lobbying Efforts», The Wall Street Journal, 2015.
[18] Evgeny Morozov, « L’étreinte de Wall Street sur la Silicon Valley n’a jamais été aussi forte », Le Monde, 2015.
[19] Pascal Francq, «Neutrality in internet regulation: three regulatory principles», white paper, Paul Otlet Institute, 2014.
[20] Pascal Francq, «Faut-il démanteler Google ?», Daily Science, carte blanche, 2015.