Embed Size (px)
Citation preview
Directeur de la publication : Edwy Plenelwww.mediapart.fr 1
1/7
Le capitalisme de surveillance, maître desmarionnettesPAR GÉRALDINE DELACROIXARTICLE PUBLIÉ LE DIMANCHE 3 MARS 2019
Au carnaval de Dusseldorf, en février 2015. © Reuters
Pour l’économiste Shoshana Zuboff, auteur de L’Âgedu capitalisme de surveillance paru aux États-Unis,le danger que font courir les géants du Web est bienplus grand qu’on ne l’imagine. En siphonnant lesdonnées personnelles pour modifier à leur insu lescomportements de leurs utilisateurs, ils menacent ladémocratie elle-même.
En s’appropriant nos données personnelles,les entrepreneurs du « capitalisme desurveillance » mettent en danger rien de moins que ladémocratie, par la manipulation de notre libre arbitre.Telle est la thèse défendue par Shoshana Zuboff dansun volumineux ouvrage qui vient de paraître, L’Âge ducapitalisme de surveillance (éditions Public Affairs,en anglais).
Le capitalisme est entré dans une nouvelle ère,explique l’autrice et, pour le comprendre et lecombattre, il nous faudra chausser de nouvelleslunettes, car les anciennes n’opèrent plus devant unchangement à la fois si radical et si rapide – unerévolution survenue en moins de vingt ans. Une« nouvelle planète », une situation « sans précédent »dont on aurait tort de penser qu’il s’agit d’une simplecontinuation du passé.
Tout à la crainte du totalitarisme étatique, « nousn’avons pas vu venir les entreprises aux nomsimaginatifs dirigées par de jeunes génies quisemblaient pouvoir fournir gratuitement exactementce que nous voulions ». C’est l’une des principales
nouveautés, et par là une source de cécité, de lasituation actuelle : la surveillance, et le danger, sontpassés entre les mains d’entreprises privées.
En introduction aux conférences qu’elle tient depuisla parution de son livre, Shoshana Zuboff demandeaux personnes de l’assistance de résumer en un mot laraison de leur présence. Si, reconnaît-elle, son publicforme un panel quelque peu biaisé, la cohorte de motsqu’elle recueille, chaque fois les mêmes, justifie sadémonstration.
Ce 13 février à New York, parmi lesexpressions choisies, on pouvait entendre : publicité,capitalisme global, panoptique, profilage, peur,humanité, résistance, exploitation, acheteurs, solution,révolution, déterminisme, souveraineté, manipulation,démocratie, dignité, autonomie. À Londres, rappelle-t-elle : « identité, liberté, pouvoir, loi ». Comme àBruxelles ou Cambridge…
Comment en est-on arrivé à ce stade de« l’obscurcissement du rêve numérique », trente ansseulement après la naissance d’Internet ? C’est quele capitalisme est sorti des usines et des bureauxpour inonder tous les espaces de la société. Lesentrepreneurs de la surveillance nous sont tombésdessus juste « parce que nous vivons, pas pour notretravail », explique-t-elle ce jour-là à New York.
« Comment nous appellent-ils ?, questionne cetteprofesseure d’économie à Harvard. Nous n’avons pasde nom, nous ne sommes pas des travailleurs. Le nomqu’ils nous ont donné est “utilisateur”. Et ça ne vapas. » Ce que ce mot « utilisateur » nous apprend,dit-elle, est que ce capitalisme n’est plus confiné àl’économie. Il va donc falloir pour le combattre trouverde nouveaux moyens d’action collective, comme lestravailleurs ont trouvé face au capitalisme industrielleurs propres moyens de lutte. Comment « mettre horsla loi ce nouveau capitalisme voyou », qui prospère« sur nos sentiments » et dont « le but est de nousautomatiser » ?
Au lieu de notre force de travail, chère au capitalismeindustriel, le capitalisme de surveillance se nourritde « chaque aspect de chaque expérience humaine »
et nous conduit à signer le pacte faustien du XXIe
Directeur de la publication : Edwy Plenelwww.mediapart.fr 2
2/7
siècle : « Il est presque impossible » d’échapper aucapitalisme de surveillance, « malgré le fait que ce quenous devons donner en retour va détruire la vie telleque nous l’avons connue. Considérons qu’Internet estdevenu essentiel à la vie sociale, qu’il est maintenantsaturé par le commerce, et que le commerce est soumisau capitalisme de surveillance ».
Que nos sentiments servent à générer du profitest inacceptable, mais aussi radicalement nouveau,explique l’autrice à ceux qui voudraient n’y voirqu’une continuité. Qu’il s’agisse d’orienter nosrelations amicales ou amoureuses, notre vote ou lecontenu de notre réfrigérateur, de notre garde-robeou de notre bibliothèque, ce qui nous arrive est la« perte de la souveraineté sur notre propre vie ».Notre dépendance est au cœur du projet de surveillancecommerciale, qui se définit en deux questions : Quelest le produit ? Quel est le client ?
Pour Shoshana Zuboff, malgré l’adage selon lequel« si c’est gratuit, vous êtes le produit », lesinternautes ne sont pas des produits, mais « les sourcesd’une valeur ajoutée cruciale au capitalisme desurveillance : les objets d’une opération d’extractionde matières premières technologiquement avancéeet de plus en plus inéluctable », des producteurs –malgré eux – de données. Le produit, c’est « notrecomportement futur », sous forme de clic, d’achat, enligne ou hors ligne, comportement dont les clients sontles entreprises qui l’achètent et le vendent, l’échangentsur un nouveau marché.
Ce pacte avec le diable signé en utilisant Google etFacebook (entre autres…) nous engourdit le cerveau,nous fait créer des mécanismes de défense (« je n’airien à cacher »), génère un « cynisme résigné ». « Ence sens, le capitalisme de surveillance impose un choix
fondamentalement illégitime que les individus du XXIe
siècle ne devraient pas avoir à faire », expliqueShoshana Zuboff.
Nous voilà victimes d’une asymétrie inédite :« Le capitalisme de surveillance sait tout de nous,alors que ses opérations sont conçues pour quenous n’en sachions rien », il « annule les droits
fondamentaux associés à l’autonomie individuelle »,droits « essentiels à la possibilité même d’une sociétédémocratique ».
Dans un mémo interne à Facebook daté de 2016, et révélé par Buzzfeed en mars2018 : « Donc nous connectons plus de gens. Cela peut être mauvais s’ils le
rendent mauvais. Cela peut coûter la vie de quelqu'un exposé au harcèlement.Quelqu'un mourra peut-être dans une attaque terroriste coordonnée avec
nos outils. Et nous connectons toujours les gens. » © Document Buzzfeed
« Tout comme la civilisation industrielle s’estépanouie aux dépens de la nature et menace désormaisde nous coûter la Terre, la civilisation de l’informationdessinée par le capitalisme de surveillance et sapuissance instrumentale va prospérer au coût dela nature humaine et menacer de nous coûternotre humanité », met en garde l’économiste. Pours’en protéger, il ne suffira pas de lutter contreles monopoles ni de défendre la confidentialité desdonnées, même si c’est indispensable.
Shoshana Zuboff invite à ne pas confondre lecapitalisme de surveillance avec les technologiesqui n’en sont que l’instrument : le capitalisme desurveillance n’est pas une technologie, c’est unelogique en action. D’ailleurs, rappelle-t-elle, lescookies ont été inventés en 1994 par Netscape, sansêtre exploités par le capitalisme de surveillance qui nes’en est saisi que des années plus tard. Par exemple,se demande-t-elle, quel besoin a Google de conserveréternellement l’historique de nos recherches ? Ça peutservir, a répondu en substance Eric Schmidt, directeurgénéral de Google, en 2009.
Il n’y a pas de fatalité technologique, estime aucontraire l’autrice. Les technologies ne sont pasdes fins en soi mais des moyens au service del’économie : « S’il est possible d’imaginer quelquechose comme l’Internet des objets sans le capitalismede surveillance, il n’est pas possible d’imaginer lecapitalisme de surveillance sans l’Internet des objets.»Et de citer Max Weber : « Le fait que ce qu’onappelle le progrès technologique des temps modernessoit à ce point orienté économiquement vers le profit
Directeur de la publication : Edwy Plenelwww.mediapart.fr 3
3/7
est l’un des points fondamentaux de l’histoire de latechnologie. » Les vieilles lunettes peuvent encoreservir parfois.
Notre personnalité : c’est ce dont le capitalismede surveillance va nous déposséder, mettant finà une époque qui pourtant le nourrit, cellede l’individualisation, celle des droits humainsindividuels grâce auxquels chacun peut espérerdevenir le créateur de sa propre vie, sans suivre leschemins tout tracés d’une appartenance de classe,de genre, de lieu, regrette Zuboff. Malgré sonpotentiel libérateur, l’époque se révèle difficile à vivre.L’individualisation est mise en échec par les inégalitésauxquelles chacun des 99 % se heurte. Nous payonspour notre propre domination.
« Au tournant du [XXIe] siècle, alors queles mécanismes fondamentaux du capitalisme desurveillance commençaient juste à prendre forme, lamaximalisation de la valeur pour les actionnaires futlargement acceptée comme la fonction objective del’entreprise », détruisant les emplois au passage. Etaprès dix ans de succès de l’industrie du numérique etle développement de l’Internet, les pays occidentauxsont entrés dans les années 2010 avec un niveaud’inégalités record, des émeutes à Londres, desIndignés en Espagne et Occupy aux États-Unis…
Ce décor posé, Shoshana Zuboff montre avec uneprécision redoutable les mécanismes économiques surlesquels se fonde l’immense accumulation de richessesdu capitalisme de surveillance, qui ne se satisfait pasde nous prendre nos pensées, et dont Google est décritcomme l’inventeur et chef de file, et Facebook lerejeton surdoué.
Google.com en 1998.
Au commencement était donc Google, qui est aucapitalisme de surveillance, nous dit Shoshana Zuboff,ce que Ford et General Motors ont été au capitalismeindustriel. Comme ses prédécesseurs, il faut scruterGoogle pas seulement en tant que compagnie mais
comme point de départ d’une nouvelle forme decapitalisme. Si ses inventions dans le domaine de lapublicité, comme les enchères et la publicité ciblée,ont été sur-étudiées, elles sont en revanche sous-théorisées, regrette Zuboff, car « l’invention parGoogle de la publicité ciblée a pavé le chemin dessuccès financiers […] mais aussi de la découverte etde l’élaboration du capitalisme de surveillance ».
En 1999, 7 millions de recherches étaient effectuéeschaque jour avec Google. Il n’y avait pas derevenus à en tirer, pas moyen de faire payer les «utilisateurs », et seulement sept personnes au servicepublicité, « dont la plupart partageaient l’antipathiegénérale des fondateurs pour la publicité ». Cesderniers, Sergey Brin et Lawrence Page, pouvaientalors écrire : « Nous nous attendons à ce que lesmoteurs de recherche financés par la publicité soientfondamentalement biaisés en faveur des annonceurset éloignés des besoins des consommateurs. Comme ilest très difficile, même pour les experts, d’évaluer lesmoteurs de recherche, leur biais est particulièrementinsidieux. […] [Il est donc] crucial d’avoir un moteurde recherche performant et transparent. »
Quand arriva l’éclatement de la bulle internet en 2000.
C’est à la fin de cette année que, sous la pression de sesinvestisseurs, Google change de stratégie. Grâce auxdonnées de recherche et de navigation qu’il détient,Google ne dirigera plus la publicité sur les mots-clés recherchés, mais la rendra visible aux personnesjugées pertinentes. C’est un changement de paradigmeessentiel : les données ne servent plus seulement àaméliorer le produit, c’est-à-dire l’efficacité du moteurde recherche, à proposer de meilleures réponses.
Elles servent à autre chose : à donner aux annonceursle public qu’ils recherchent et, partant, à gagnerde l’argent. Les données personnelles, ce que l’oncherche, où, quand et comment, deviennent ce queShoshana Zuboff appelle le « surplus comportemental», que l’on pourrait traduire par la valeur ajoutéecomportementale, qui va mener tout droit au modèleéconomique de Facebook – trait d’union entre les
Directeur de la publication : Edwy Plenelwww.mediapart.fr 4
4/7
deux, Sheryl Sandberg, qui passera du premier ausecond en 2008 –, et avec elle la recette des revenuspublicitaires.
En 2002, le New York Times se demande encore siGoogle peut inventer un modèle économique aussiperformant que l’est son moteur de recherche. En2003, la méthode de collecte des données estdéveloppée dans un brevet intitulé « Générationd’informations d’utilisateur pour une utilisation dansla publicité ciblée » (« Generating user informationfor use in targeted advertising »). Un tournant à 180degrés qui fait passer Google du service à l’usager àsa surveillance.
Le fait qu’aujourd’hui on ne s’étonne plus de lapublicité ciblée vers la bonne personne, au bonmoment, au bon endroit montre, selon ShoshanaZuboff, l’ampleur du chemin parcouru. La publicité,qui avait toujours été un jeu de devinettes, adopte desméthodes précises.
La réification puis la marchandisation de noscomportements entraînent chez Google et Facebookune boulimie d’achats de toutes les entreprises quipeuvent fournir de la donnée, et il y en a de plus en plusau fur et à mesure que nos vies se numérisent. Googleachète YouTube en 2006 pour 1,65 milliard de dollars(on peut consulter sur Wikipédia la liste des rachatseffectués par Google et Facebook). C’est comme celaqu’il faut comprendre le développement du systèmeAndroid par Google : la possibilité de répliquer surles téléphones mobiles la domination obtenue dans la
recherche, pour en faire le moyen de savoir tout ce quise passe dans un téléphone et littéralement kidnapperles comportements quotidiens.
En décembre 2012, Instagram lance une nouvellefonctionnalité : les messages privés. © Reuters.
« Le monde en ligne n’est pas vraiment régi pardes lois terrestres. C’est le plus grand espace nongouverné au monde », se félicitent en 2004 EricSchmidt et Jared Cohen (Google), dès la première pagede leur livre The New Digital Age: TransformationNations, Businesses, and Our Lives. Le hold-up surles données personnelles a déjà eu lieu, sans qu’aucuneautorisation n’ait jamais été demandée.
Shoshana Zuboff attribue une lourde part deresponsabilité à l’article 230 de la loi de 2006 quirégule les télécommunications aux États-Unis, loi qui,comme la LCEN en France, protège les hébergeursde la responsabilités des contenus qui y sont publiés.Car pour entretenir le flux de données produites parles utilisateurs, les plateformes ont un besoin vitalde l’expression des internautes, de l’usage mêmedes plateformes. Pas seulement pour maximiser letemps passé à regarder des publicités, mais bien pourrecueillir les données des participants aux discussions,les likes et toutes sortes d’actions.
Elle n’oublie pas de rappeler qu’après les attentats du11 septembre 2001, la politique sécuritaire et le PatriotAct poursuivent le même objectif que les entreprises del’Internet de collecte d’informations en ligne. « Si lesorganisations terroristes veulent planifier et exécuterdes attentats contre les États-Unis, leurs membresdoivent effectuer des transactions et laisser des tracesdans cet espace d'information », suppose ainsi legénéral Poindexter en 2002. Il poursuit : « Nousdevons être capables d’extraire ce signal du bruit.» La numérisation de toutes nos actions est devenueune « architecture de l’extraction » de données. Et la
Directeur de la publication : Edwy Plenelwww.mediapart.fr 5
5/7
collaboration des entreprises de la high-tech avec lesgouvernements, fragilisée en 2013 par les révélationsd’Edward Snowden, a repris de plus belle.
Il s’est quand même trouvé quelques cailloux surla route du capitalisme de surveillance, et ShoshanaZuboff décortique avec méthode le « cycle dela dépossession » qui gouverne l’action de cesentreprises : l’incursion (prendre sans demander),l’habituation (on ne peut pas faire autrement),l’adaptation (faire amende honorable et promettre defaire mieux – on reconnaît là la phase dans laquelle setrouve actuellement Facebook), et enfin la redirection,partir sur une autre voie pour prendre de vitesseles volontés de régulation. Par exemple, dans le casde Facebook, en inventant la fusion de toutes sesmessageries (Instagram, WhatsApp et Messenger).
Si les cartes créent l’empire, comme le rappelleShoshana Zuboff en citant l’historien de lacartographie John B. Harley, alors Google Maps seraindispensable à Google.
Le récit de la construction de cet objet depuis sesdébuts, de la contestation locale suscitée ici ou là parles célèbres petites voitures de Google Street View quiphotographient chaque rue, jusqu’au jeu Pokemon Goest, comme tous les chapitres décrivant cette formed’emprise économique, passionnant. Avec StreetView, Google s’approprie la totalité de l’espacepublic, sans rien demander. Le cas de Pokemon Go,
où l’on croit chasser des Pokemon dans son quartieralors que l’on est en réalité poussé vers une destinationprécise, est édifiant. Le problème, souligne Zuboff,est que le joueur ne sait pas que telle ou telleenseigne a payé pour que le jeu dirige ses pas verssa boutique, ce qui est une différence majeure avec lapublicité traditionnelle, visible, perceptible – et parfoisréglementée.
Pire encore, le jeu transpose le système du « paiementau clic », déjà devenu traditionnel dans la publicitéen ligne, au monde physique. Le véritable client deNiantic (éditeur du jeu et filiale de Google) est encoreune fois l’annonceur, et non pas le joueur. Annonceurqui ne paiera qu’à l’arrivée du joueur dans la zonevisée : c’est le « pay per visit ». L’action de l’utilisateurdéclenche le revenu : le « jeu » fera donc tout pourpousser le joueur là où son passage produira unpaiement.
Dans le même ordre d’idées, on ne s’étonnera pas enapprenant que l’aspirateur-robot Roomba peut faire leplan du domicile où il est utilisé et le céder à GoogleMaps, qui trouve là un moyen de cartographier jusqu’àl’espace privé, devenu un nouveau terrain de conquête.Certes, on peut refuser les conditions d’utilisation del’aspirateur et bloquer ce transfert de données. Saufqu’alors, il faudra se passer de diverses possibilitéscomme la mise en marche à distance via une appliinstallée sur le téléphone.
C’est, d’un point de vue du consommateur, unedistorsion majeure dans les contrats qui le lientusuellement au fabricant : la dégradation du produitacheté, qui ne fonctionne à 100 % que sous conditions.Zuboff cite aussi le cas d’un lit connecté, qui enregistrele temps de sommeil, les ronflements et bien d’autresévénements, mais ne les restitue à son propriétaire que
Directeur de la publication : Edwy Plenelwww.mediapart.fr 6
6/7
si celui a accepté les CGU. Des conditions d’utilisationdont l’acceptation sert d’autres intérêts que ceux decelui qui les signe.
Le jeu Pokemon Go demande à l'utilisateur s'il peut compter ses pas. © Pokemon Go
Comment s’en sortir alors que pour Hal Varian,économiste en chef chez Google et pilier de la maison,« le monitoring en continu va devenir la norme » ?
En 2012, Facebook publie une étude dans laprestigieuse revue scientifique Nature, étude intituléeUne expérience de 61 millions de personnes surl’influence sociale et la mobilisation politique.L’entreprise y explique comment, lors de la campagnedes élections de mi-mandat 2010 aux États-Unis,elle a testé différents messages adressés à certainsutilisateurs, leur donnant des informations sur lesbureaux de vote, ou sur leurs amis ayant indiqué qu’ilsavaient déjà voté. Résultat, elle a pu observer desmodifications dans la participation au vote en fonctiondes messages reçus ou pas. Devant ce résultat, leschercheurs se félicitent : « Cela a des implications surnotre compréhension du rôle des réseaux sociaux dansla société. »
Mais que vaut, scientifiquement parlant, uneexpérience menée à l’insu des participants ?
C’est pourtant la norme sur Internet : « C’estcomme cela tout le temps. Des expériences sontmenées sur chaque utilisateur à un moment ouà un autre de son séjour sur le site. Qu’ils’agisse de voir des publicités de tailles différentes,des messages marketing différents, des boutonsd’appel à l’action différents, de voir leurs fluxgénérés par des algorithmes de classement différents,etc. L’objectif fondamental de la plupart despersonnes chez Facebook qui travaillent sur lesdonnées est d’influencer et de modifier l’humeur et lecomportement des gens. Ils le font tout le temps pourvous faire aimer davantage les histoires, pour cliquersur plus d’annonces, pour passer plus de temps sur lesite. C’est comme ça qu’un site web fonctionne, tout lemonde le fait et tout le monde sait que tout le mondele fait », explique par exemple Andrew Ledvina,ancien de chez Facebook.
Pokemon Go veut accéder à la géolocalisationmême quand le joueur ne joue pas. © Pokemon Go.
Une deuxième étude, « Experimental evidence ofmassive-scale emotional contagion through socialnetworks » (ou « La preuve expérimentale d'unecontagion émotionnelle à grande échelle par le biaisdes réseaux sociaux »), est entamée en 2012 et publiéeen juin 2014. Pour les chercheurs, son résultat estsans ambiguïté : « Des états émotionnels peuvent être
Directeur de la publication : Edwy Plenelwww.mediapart.fr 7
7/7
transmis à d’autres par contagion émotionnelle, etentraîner les gens à ressentir les mêmes émotions sansen être conscients. » Une nouvelle fois, les conditionsde l’expérience sont contestées, et le rédacteur en chefde la revue Pnas s’interroge : « Avons-nous signé pourque Facebook procède à ces expériences et sommes-nous autorisés à les quitter ? »
À la différence du capitalisme d’autrefois, lecapitalisme de surveillance, qui a « fait desmoyens de modification des comportements unmoteur de croissance », et sa structure financièrefondée sur les rendements pour l’actionnaire, sefiche des consommateurs comme des travailleurs. Ilprospère dans une « indifférence radicale » au sortdes populations comme des individus, qui expliquela (non) politique de modération mise en œuvresur Facebook ou le fonctionnement des algorithmesde YouTube. « Tous les efforts en matière de
modération de contenus doivent être compris commedes mesures défensives plutôt que comme des actes deresponsabilité », explique Shoshana Zuboff.
Pas toujours éloignée d’une forme de catastrophisme,Zuboff redoute… une « septième extinction », celle dessentiments, de la conscience, du libre arbitre, « celle dece qu’il y a de plus précieux dans la nature humaine ».
Faudrait-il pour autant que chacun redeviennepropriétaire de ses données ? Shoshana Zuboff écartecette solution : « Quel est l’intérêt de posséder desdonnées qui ne devraient pas exister en premier lieu ?Tout ce que cela fait, c’est d'institutionnaliser etde légitimer davantage la saisie des données. C’estcomme si l’on négociait le nombre d’heures parjour qu’un enfant de sept ans devrait être autoriséà travailler, plutôt que de contester la légitimitéfondamentale du travail des enfants. »
Directeur de la publication : Edwy Plenel
Directeur éditorial : François Bonnet
Le journal MEDIAPART est édité par la Société Editrice de Mediapart (SAS).Durée de la société : quatre-vingt-dix-neuf ans à compter du 24 octobre 2007.
Capital social : 24 864,88€.
Immatriculée sous le numéro 500 631 932 RCS PARIS. Numéro de Commission paritaire des
publications et agences de presse : 1214Y90071 et 1219Y90071.
Conseil d'administration : François Bonnet, Michel Broué, Laurent Mauduit, Edwy Plenel
(Président), Sébastien Sassolas, Marie-Hélène Smiéjan, Thierry Wilhelm. Actionnaires
directs et indirects : Godefroy Beauvallet, François Bonnet, Laurent Mauduit, Edwy Plenel,
Marie-Hélène Smiéjan ; Laurent Chemla, F. Vitrani ; Société Ecofinance, Société Doxa,
Société des Amis de Mediapart.
Rédaction et administration : 8 passage Brulon 75012 Paris
Courriel : [email protected]
Téléphone : + 33 (0) 1 44 68 99 08
Télécopie : + 33 (0) 1 44 68 01 90
Propriétaire, éditeur, imprimeur : la Société Editrice de Mediapart, Société par actions
simplifiée au capital de 24 864,88€, immatriculée sous le numéro 500 631 932 RCS PARIS,
dont le siège social est situé au 8 passage Brulon, 75012 Paris.
Abonnement : pour toute information, question ou conseil, le service abonné de Mediapart
peut être contacté par courriel à l’adresse : [email protected]. ou par courrier
à l'adresse : Service abonnés Mediapart, 4, rue Saint Hilaire 86000 Poitiers. Vous pouvez
également adresser vos courriers à Société Editrice de Mediapart, 8 passage Brulon, 75012
Paris.
