Un capitalisme de surveillance

Cette journée de juillet 2016 fut particulièrement éprouvante pour David. Il avait passé de longues heures à auditionner les témoins de litiges assurantiels dans un tribunal poussiéreux du New Jersey où, la veille, une coupure d’électricité avait eu raison du système d’air conditionné. Enfin chez lui, il s’immergea dans l’air frais comme on plonge dans l’océan. Pour la première fois depuis le matin, il respira profondément, se servit un apéritif et monta à l’étage afin de s’accorder une longue douche. La sonnette retentit au moment même où l’eau commençait à ruisseler sur ses muscles endoloris. Il enfila un tee-shirt et un short, puis dévala les escaliers. En ouvrant la porte, il se retrouva nez à nez avec deux adolescents qui agitaient leurs téléphones portables sous son nez.

— Hé ! vous avez un Pokémon dans votre jardin. Il est pour nous ! On peut aller l’attraper ?
— Un quoi ?

Ce soir-là, David fut dérangé encore quatre fois par des inconnus impatients d’accéder à son jardin et furieux de se voir congédiés. Ils poussaient des cris et scrutaient sa maison à travers l’écran de leur smartphone, à la recherche des fameuses créatures de « réalité augmentée ». Vue à travers leurs appareils, cette portion du monde laissait paraître leurs Pokémon, mais aux dépens de tout le reste. Le jeu s’était emparé de la maison et du monde alentour. Il s’agissait là d’une nouvelle invention commerciale : une déclaration d’expropriation qui transforme la réalité en une étendue d’espaces vides prêts à être exploités au profit d’autres. « Combien de temps cela va-t-il durer ?, se demandait David. De quel droit ? Qui dois-je appeler pour que cela cesse ? »

Ni lui ni les joueurs pendus à sa sonnette ne soupçonnaient qu’ils avaient été réunis ce soir-là par une logique audacieuse et sans précédent : le capitalisme de surveillance.

En 1999, Google, malgré l’éclat de son nouveau monde, avec ses pages Web consultables en un clic et ses capacités informatiques croissantes, ne disposait d’aucune stratégie pour faire fructifier l’argent de ses investisseurs prestigieux.

Les utilisateurs apportaient la matière première sous la forme de données comportementales, lesquelles étaient récoltées pour améliorer la vitesse, la précision et la pertinence des résultats afin de concevoir des produits annexes comme la traduction. Du fait de cet équilibre des pouvoirs, il eût été financièrement risqué, voire contre-productif, de rendre le moteur de recherche payant pour ses utilisateurs. La vente des résultats de recherche aurait aussi créé un précédent dangereux pour la multinationale, en assignant un prix à des informations dont son robot indexateur s’était déjà emparé sans verser de rétribution. Sans appareils du type de l’iPod d’Apple, avec ses chansons au format numérique, pas de plus-value, pas de marge, et rien à transformer en profit.

À l’époque, Google reléguait la publicité à l’arrière-plan : l’équipe d’AdWords, sa régie publicitaire, comptait… sept personnes, dont la plupart partageaient l’antipathie des fondateurs à l’égard de leur spécialité. Mais, en avril 2000, la fameuse « nouvelle économie » entre brutalement en récession, et un séisme financier secoue le jardin d’Éden de la Silicon Valley. La réponse de Google entraîne alors une mutation cruciale, qui va transformer AdWords, Google, Internet et la nature même du capitalisme de l’information en un projet de surveillance formidablement lucratif.

La logique d’accumulation qui assurera la réussite de Google apparaît clairement dans un brevet déposé en 2003 par trois de ses meilleurs informaticiens, intitulé : « Générer des informations utilisateur à des fins de publicité ciblée »

La présente invention, expliquent-ils, vise « à établir les informations de profils d’utilisateurs et à utiliser ces dernières pour la diffusion d’annonces publicitaires ¹  ». En d’autres termes, Google ne se contente plus d’extraire des données comportementales afin d’améliorer les services. Il s’agit désormais de lire dans les pensées des utilisateurs afin de faire correspondre des publicités avec leurs intérêts. Lesquels seront déduits des traces collatérales de leur comportement en ligne. La collecte de nouveaux jeux de données appelés « profil utilisateur » (de l’anglais user profile information) va considérablement améliorer la précision de ces prédictions.

D’où proviennent ces informations ? Pour reprendre les mots des détenteurs du brevet, elles « pourront être déduites ». Leurs nouveaux outils permettent de créer des profils par l’intégration et l’analyse des habitudes de recherche d’un internaute, des documents qu’il demande ainsi que d’une myriade d’autres signaux de comportement en ligne, même lorsqu’il ne fournit pas directement ces renseignements. Un profil, préviennent les auteurs, « peut être créé (ou mis à jour, ou élargi) même lorsque aucune information explicite n’est donnée au système »

Ainsi manifestent-ils leur volonté de surmonter les éventuelles frictions liées aux droits de décision de l’utilisateur, ainsi que leur capacité à le faire. Les données comportementales, dont la valeur a été « épuisée » du point de vue de l’amélioration des recherches, formeront désormais la matière première essentielle — exclusivement détenue par Google — à la construction d’un marché de la publicité en ligne dynamique. Ces informations collectées en vue d’usages autres que l’amélioration des services constituent un surplus. Et c’est sur la base de cet excédent comportemental que la jeune entreprise accède aux profits « réguliers et exponentiels » nécessaires à sa survie.

L’invention de Google met au jour de nouvelles possibilités de déduire les pensées, les sentiments, les intentions et les intérêts des individus et des groupes au moyen d’une architecture d’extraction automatisée qui fonctionne comme un miroir sans tain, faisant fi de la conscience et du consentement des concernés. Cet impératif d’extraction permet de réaliser des économies d’échelle qui procurent un avantage concurrentiel unique au monde sur un marché où les pronostics sur les comportements individuels représentent une valeur qui s’achète et se vend. Mais surtout, le miroir sans tain symbolise les relations sociales de surveillance particulières fondées sur une formidable asymétrie de savoir et de pouvoir.

Soudain autant que retentissant, le succès d’AdWords entraîne une expansion significative de la logique de surveillance commerciale. En réponse à la demande croissante de clics de la part des publicitaires, Google commence par étendre le modèle au-delà de son moteur de recherche pour transformer Internet tout entier en un vaste support pour ses annonces ciblées. Selon les mots de Hal Varian, son économiste en chef, il s’agissait alors pour le géant californien d’appliquer ses nouvelles compétences en matière « d’extraction et d’analyse » aux contenus de la moindre page Internet, aux moindres gestes des utilisateurs en recourant aux techniques d’analyse sémantique et d’intelligence artificielle susceptibles d’en extraire du sens. Dès lors, Google put évaluer le contenu d’une page et la manière dont les utilisateurs interagissent avec elle. Cette « publicité par ciblage de centres d’intérêt » basée sur les méthodes brevetées par l’entreprise sera finalement baptisée AdSense. En 2004, la filiale engendrait un chiffre d’affaires quotidien de 1 million de dollars ; un chiffre multiplié par plus de vingt-cinq en 2010.

Tous les ingrédients d’un projet lucratif se trouvaient réunis : excédent d’informations comportementales, sciences des données, infrastructure matérielle, puissance de calcul, systèmes algorithmiques et plates-formes automatisées. Tous convergeaient pour engendrer une « pertinence » sans précédent et des milliards d’enchères publicitaires. Les taux de clics grimpèrent en flèche. Travailler sur AdWords et AdSense comptait désormais autant que travailler sur le moteur de recherche. Dès lors que la pertinence se mesurait au taux de clics, l’excédent de données comportementales devenait la clé de voûte d’une nouvelle forme de commerce dépendant de la surveillance en ligne à grande échelle. L’introduction en Bourse de Google en 2004 révèle au monde le succès financier de ce nouveau marché. Mme Sheryl Sandberg, ancienne cadre de Google passée chez Facebook, présidera à la transformation du réseau social en géant de la publicité. Le capitalisme de surveillance s’impose rapidement comme le modèle par défaut du capitalisme d’information sur la Toile, attirant peu à peu des concurrents de tous les secteurs.

L’économie de surveillance repose sur un principe de subordination et de hiérarchie. L’ancienne réciprocité entre les entreprises et les utilisateurs s’efface derrière le projet consistant à extraire une plus-value de nos agissements à des fins conçues par d’autres — vendre de la publicité. Nous ne sommes plus les sujets de la réalisation de la valeur. Nous ne sommes pas non plus, comme d’aucuns l’ont affirmé, le « produit » que vend Google. Nous sommes les objets dont la matière est extraite, expropriée, puis injectée dans les usines d’intelligence artificielle de Google qui fabriquent les produits prédictifs vendus aux clients réels : les entreprises qui paient pour jouer sur les nouveaux marchés comportementaux.

Sous couvert de « personnalisation »

Premier responsable de la marque Google, M. Douglas Edwards raconte une réunion tenue en 2001 avec les fondateurs autour de la question « Qu’est-ce que Google ? ». « Si nous avions une catégorie, méditait M. Larry Page, cofondateur de l’entreprise, ce serait les informations personnelles (…). Les endroits qu’on a vus. Nos communications (…). Les capteurs ne coûtent rien (…). Le stockage ne coûte rien. Les appareils photographiques ne coûtent rien. Les gens vont générer d’énormes quantités de données (…). Tout ce que vous aurez entendu, vu ou éprouvé deviendra consultable. Votre vie entière deviendra consultable ².  »

La vision de M. Page offre un fidèle reflet de l’histoire du capitalisme, qui consiste à capter des choses extérieures à la sphère commerciale pour les changer en marchandises.

Dans son essai La Grande Transformation, publié en 1944, l’économiste Karl Polanyi décrit l’avènement d’une économie de marché autorégulatrice à travers l’invention de trois « marchandises fictives ». Premièrement, la vie humaine subordonnée aux dynamiques de marché et qui renaît sous la forme d’un « travail » vendu et acheté. Deuxièmement, la nature convertie en marché, qui renaît comme « propriété foncière ». Troisièmement, l’échange devenu marchand et ressuscité comme « argent ». Les détenteurs actuels du capital de surveillance ont créé une quatrième marchandise fictive, extorquée à la réalité expérimentale d’êtres humains dont les corps, les pensées et les sentiments sont aussi intacts et innocents que l’étaient les prairies et forêts dont regorgeait la nature avant son absorption par le marché. Conformément à cette logique, l’expérience humaine se trouve marchandisée par le capitalisme de surveillance pour renaître sous forme de « comportements ». Traduits en données, ces derniers prennent place dans l’interminable file destinée à alimenter les machines conçues pour en faire des prédictions qui s’achètent et se vendent.

Cette nouvelle forme de marché part du principe que servir les besoins réels des individus est moins lucratif, donc moins important, que vendre des prédictions de leur comportement. Google a découvert que nous avions moins de valeur que les pronostics que d’autres font de nos agissements.

Cela a tout changé.

La première vague de produits prédictifs fut portée par l’excédent de données extraites à grande échelle sur Internet afin de produire des annonces en ligne « pertinentes ». À l’étape suivante, il fut question de la qualité des prédictions. Dans la course à la certitude maximale, il apparut clairement que les meilleures prédictions devraient s’approcher le plus possible de l’observation. À l’impératif d’extraction s’ajouta une deuxième exigence économique : l’impératif de prédiction. Ce dernier se manifeste d’abord par des économies de gamme.

L’excédent de données comportementales doit être non seulement abondant, mais également varié. Obtenir cette variété impliquait d’étendre les opérations d’extraction du monde virtuel au monde réel, là où nous menons notre « vraie » vie. Les capitalistes de surveillance comprenaient que leur richesse future passait par le développement de nouvelles chaînes d’approvisionnement sur les routes, au milieu des arbres, à travers les villes. Ils tenteraient d’accéder à votre système sanguin, à votre lit, à vos conversations matinales, à vos trajets, à votre footing, à votre réfrigérateur, à votre place de parking, à votre salon.

Une seconde dimension, plus critique encore que la variété, caractérise désormais la collecte des données : l’approfondissement.

Pour obtenir des prédictions comportementales très précises et donc très lucratives, il faut sonder nos particularités les plus intimes.

Ces opérations d’approvisionnement visent notre personnalité, nos humeurs, nos émotions, nos mensonges et nos fragilités. Tous les niveaux de notre vie personnelle sont automatiquement captés et comprimés en un flux de données à destination des chaînes de montage qui produisent de la certitude. Accomplie sous couvert de « personnalisation », une bonne part de ce travail consiste en une extraction intrusive des aspects les plus intimes de notre quotidien.

De la bouteille de vodka « intelligente » au thermomètre rectal connecté, les produits destinés à interpréter, suivre, enregistrer et communiquer des données prolifèrent. Sleep Number, qui fournit « des lits intelligents dotés d’une technologie de suivi du sommeil », collecte également « des données biométriques et des données relatives à la manière dont vous, un enfant ou toute autre personne utilise le lit, notamment les mouvements du dormeur, ses positions, sa respiration et sa fréquence cardiaque ». Elle enregistre aussi tous les sons émis dans votre chambre…

Nos maisons sont dans la ligne de mire du capitalisme de surveillance. Des entreprises spécialisées se disputaient en 2017 un marché de 14,7 milliards de dollars pour des appareils ménagers connectés, contre 6,8 milliards l’année précédente. À ce rythme-là, le montant atteindra 101 milliards de dollars en 2021. Commercialisés depuis quelques années, des objets absurdes se tiennent à l’affût dans nos intérieurs : brosse à dents intelligente, ampoule intelligente, tasse à café intelligente, four intelligent, extracteur de jus intelligent, sans oublier les couverts intelligents censés améliorer notre digestion. D’autres semblent plus inquiétants : une caméra de surveillance à domicile avec reconnaissance faciale, un système d’alarme qui repère les vibrations inhabituelles précédant un cambriolage, des GPS d’intérieur, des capteurs qui s’adaptent à tous les objets pour analyser le mouvement et la température, sans oublier des cafards cyborgs qui détectent les sons. Même la chambre du nourrisson est repensée pour devenir une source de surplus comportemental.

Tandis que la course aux profits générés par la surveillance s’exacerbe, les capitalistes s’aperçoivent que les économies de gamme ne suffisent pas. Certes, l’excédent de données doit être abondant et varié ; mais le moyen le plus sûr de prédire le comportement reste d’intervenir à la source : en le façonnant. J’appelle « économies de l’action » ces processus inventés pour y parvenir : des logiciels configurés pour intervenir dans des situations réelles sur des personnes et des choses réelles. Toute l’architecture numérique de connexion et de communication est désormais mobilisée au service de ce nouvel objectif. Ces interventions visent à augmenter la certitude en influençant certaines attitudes : elles ajustent, adaptent, manipulent, enrôlent par effet de groupe, donnent un coup de pouce. Elles infléchissent nos conduites dans des directions particulières, par exemple en insérant une phrase précise dans notre fil d’actualités, en programmant l’apparition au moment opportun d’un bouton « achat » sur notre téléphone, en coupant le moteur de notre voiture si le paiement de l’assurance tarde trop, ou encore en nous orientant par GPS dans notre quête de Pokémon. « Nous apprenons à écrire la musique, explique un concepteur de logiciels. Ensuite, nous laissons la musique les faire danser. Nous pouvons mettre au point le contexte qui entoure un comportement particulier afin d’imposer un changement… Nous pouvons dire au réfrigérateur : “Verrouille-toi parce qu’il ne devrait pas manger”, ou ordonner à la télé de s’éteindre pour que vous vous couchiez plus tôt. »

Depuis que l’impératif de prédiction a déplacé les opérations d’approvisionnement dans le monde réel, les fournisseurs de biens ou de services dans des secteurs bien établis, loin de la Silicon Valley, salivent à leur tour à l’idée des profits issus de la surveillance. En particulier les assureurs automobiles, impatients de mettre en place la télématique — les systèmes de navigation et de contrôle des véhicules. Ils savent depuis longtemps que les risques d’accident sont étroitement corrélés au comportement et à la personnalité du conducteur, mais, jusqu’ici, ils n’y pouvaient pas grand-chose. Un rapport des services financiers du cabinet de conseil Deloitte recommande désormais la « minimisation du risque » (un euphémisme qui, chez un assureur, désigne la nécessité de garantir les profits) à travers le suivi et la sanction de l’assuré en temps réel — une approche baptisée « assurance au comportement ». D’après le rapport de Deloitte, « les assureurs peuvent suivre le comportement de l’assuré en direct, en enregistrant les heures, les lieux et les conditions de circulation durant ses trajets, en observant s’il accélère rapidement ou s’il conduit à une vitesse élevée, voire excessive, s’il freine ou tourne brusquement, s’il met son clignotant ³ ».

À mesure que la certitude se substitue à l’incertitude, les primes d’assurance, qui auparavant reflétaient les aléas inévitables de la vie quotidienne, peuvent grimper ou chuter d’une milliseconde à l’autre, grâce à la connaissance précise de la vitesse à laquelle vous conduisez vers votre lieu de travail après une matinée particulièrement tendue passée à vous occuper d’un enfant malade, ou d’un dérapage plus ou moins contrôlé effectué sur le parking du supermarché.

Toutefois, les outils télématiques ne visent pas seulement à savoir, mais aussi à agir. L’assurance au comportement promet ainsi de réduire les risques à travers des mécanismes conçus pour modifier les conduites et accroître les gains. Cela passe par des sanctions, comme des hausses de taux d’intérêt en temps réel, des malus, des blocages de moteur, ou par des récompenses, comme des réductions, des bonus ou des bons points à utiliser pour des prestations futures.

Spireon, qui se décrit comme la « plus grande entreprise de télématique » dans son domaine, suit et surveille des véhicules et des conducteurs pour les agences de location, les assureurs et les propriétaires de parcs automobiles. Son « système de gestion des dommages collatéraux liés à la location » déclenche des alertes chez les conducteurs qui ont un retard de paiement, bloque le véhicule à distance quand le problème se prolonge au-delà d’une certaine période et le localise en vue de sa récupération.

La télématique inaugure une ère nouvelle, celle du contrôle comportemental.

Aux assureurs de fixer les paramètres de conduite : ceinture de sécurité, vitesse, temps de pause, accélération ou freinage brusque, durée de conduite excessive, conduite en dehors de la zone de validité du permis, pénétration dans une zone d’accès restreint. Gavés de ces informations, des algorithmes surveillent, évaluent et classent les conducteurs, et ajustent les primes en temps réel. Comme rien ne se perd, les « traits de caractère » établis par le système sont également traduits en produits prédictifs vendus aux publicitaires, lesquels cibleront les assurés par des publicités envoyées sur leur téléphone.

Lorsqu’il ouvrit la porte ce soir-là, David ignorait que les chasseurs de Pokémon et lui-même participaient à une expérience grandeur nature d’économies de l’action. Ils en étaient les cobayes, et le laborantin en blouse blanche se nommait John Hanke.

Auparavant vice-président de Google Maps et responsable de Street View, M. Hanke a créé en 2010 sa propre rampe de lancement au sein de Google : Niantic Labs, l’entreprise à l’origine de Pokémon Go. Il caressait l’ambition de prendre possession du monde en le cartographiant. Il avait déjà fondé Keyhole, une start-up de cartographie virtuelle à partir d’images satellites financée par la Central Intelligence Agency (CIA) puis rachetée par Google, qui l’a rebaptisée Google Earth. Avec Niantic, il s’attelle à concevoir des jeux en réalité virtuelle qui permettront de traquer et de téléguider les gens sur les territoires que Street View a déjà audacieusement enregistrés sur ses cartes.

Ce jeu repose sur le principe de la « réalité augmentée » et fonctionne comme une chasse au trésor. Une fois que vous téléchargez l’application de Niantic, vous utilisez votre GPS et l’appareil photographique de votre smartphone pour trouver des créatures virtuelles appelées Pokémon. Elles apparaissent sur l’écran comme si elles se trouvaient devant vous : dans le jardin d’un homme qui ne se doute de rien, dans la rue d’une ville, dans une pizzeria, un parc, une pharmacie, etc. Il s’agit de pousser les joueurs à « sortir » et à « partir à l’aventure à pied », dans les espaces à ciel ouvert des villes, des villages et des banlieues. Disponible aux États-Unis, en Australie et en Nouvelle-Zélande le 6 juillet 2016, Pokémon Go est devenue en une semaine l’application la plus téléchargée et la plus lucrative aux États-Unis, atteignant vite autant d’utilisateurs actifs sur Android que Twitter.

Terrain de jeu grandeur nature

Six jours seulement après la sortie du jeu, Joseph Bernstein, reporter pour le site d’information en ligne BuzzFeed, conseillait aux utilisateurs de Pokémon Go de se pencher sur les quantités de données que l’application recueillait sur leurs téléphones. TechCrunch, un site spécialisé dans l’actualité des start-up et des nouvelles technologies, exprimait des inquiétudes similaires au sujet de la « longue liste d’autorisations requises par l’application ».

Le 13 juillet 2016, la logique de chasse aux données qui se cache derrière le jeu se précise. En plus des paiements pour des options supplémentaires du jeu, « le modèle économique de Niantic contient une seconde composante, à savoir le concept de lieux sponsorisés », a reconnu M. Hanke dans un entretien avec le Financial Times. Ce nouveau flux de revenus était prévu depuis le départ : les entreprises « paieront Niantic pour figurer parmi les sites du terrain de jeu virtuel, compte tenu du fait que cette présence favorise la fréquentation ». La facturation, expliquait-il, s’effectue sur la base d’un « coût par visite », semblable au « coût par clic » pratiqué par les annonces publicitaires du moteur de recherche Google.

L’idée frappe par sa simplicité : les revenus issus du monde réel sont censés augmenter selon la capacité de Niantic à pousser les gens vers certains sites précis, tout comme Google a appris à extraire toujours plus de données comme un moyen d’adresser des publicités en ligne à des personnes précises. Les composantes et les dynamiques du jeu, associées à la technologie de pointe de la réalité augmentée, incitent les gens à se rassembler dans des lieux du monde réel pour dépenser de l’argent bien réel dans des commerces du monde réel appartenant aux marchés de la prédiction comportementale de Niantic.

L’apogée de Pokémon Go, à l’été 2016, signait l’accomplissement du rêve porté par le capitalisme de surveillance : un laboratoire vivant de la modification comportementale qui conjuguait avec aisance échelle, gamme et action.

L’astuce de Pokémon Go consistait à transformer un simple divertissement en un jeu d’un ordre très différent : celui du capitalisme de surveillance — un jeu dans le jeu. Tous ceux qui, rôdant dans les parcs et les pizzerias, ont investi la ville comme un terrain d’amusement servaient inconsciemment de pions sur ce second échiquier bien plus important. Les enthousiastes de cet autre jeu bien réel ne comptaient pas au nombre des agités qui brandissaient leurs portables devant la pelouse de David. Ce sont les véritables clients de Niantic : les entités qui paient pour jouer dans le monde réel, bercées par la promesse de revenus juteux. Dans ce second jeu permanent, on se dispute l’argent que laisse derrière lui chaque membre souriant du troupeau. « La capacité du jeu à servir de vache à lait pour les marchands et autres lieux en quête de fréquentation suscite d’intenses spéculations », s’est réjoui le Financial Times.

Il ne peut y avoir de revenus assurés si on ne s’en donne pas les moyens. Les nouveaux instruments internationaux de modification comportementale inaugurent une ère réactionnaire où le capital est autonome et les individus hétéronomes ; la possibilité même d’un épanouissement démocratique et humain exigerait le contraire. Ce sinistre paradoxe est au cœur du capitalisme de surveillance : une économie d’un nouveau genre qui nous réinvente au prisme de son propre pouvoir. Quel est ce nouveau pouvoir et comment transforme-t-il la nature humaine au nom de ses certitudes lucratives ?

A propos de l’auteure de cet article

Shoshana Zuboff est professeure émérite de la Havard Business School. Elle est l’auteure de plusieurs ouvrages dont In the Age of The Smart Machine: The Future of Work and Power (1989, non traduit), The Support Economy: Why Corporations Are Failing Individuals and the Next Episode of Capitalism (co-écrit avec James Maxmin, 2004, non traduit), et Le capitalisme de surveillance (paru aux Editions Zulma, 2020).