Facebook. L’école des fans

Les Conquérants : comment les plateformes colonisent l’espace attentionnelFacebook ou l’école des fans

  • Gérard Wormser

Corps de l’article

Pour Marcello Vitali Rosati

Les grandes entreprises du numérique ont inscrit à leur panoplie certains services d’usage général dont chacun bénéficie : annuaires de liens, logiciels de traduction, plateformes d’échanges entre pairs, services d’archivages distants. Ils donnent accès à toutes sortes d’applications utiles pour se déplacer (cartes GPS), pour gérer ses dépenses et ses achats (interfaces bancaires, catalogues en tout genre, information « en temps réel » sur les promotions commerciales) et pour la vie administrative et culturelle (inscriptions universitaires ou gestion des contraventions, achat de places de spectacle, écoute musicale, achat de produits relativement rares et dispersés, comme les livres). Mais leur disponibilité même accroît les divergences entre les modes de vie des uns et des autres en fonction du temps et de la formation dont dispose chacun pour en tirer parti, tout comme en fonction des lieux d’usage. Aux uns les leviers pour stimuler un réseau professionnel réactif, aux autres une communication de base qui pallie la faible capillarité des services aux individus dans les territoires de moindre densité. De profondes transformations sociales sont en cours qui n’ont pas été programmées et dont les acteurs transnationaux que sont les grandes firmes du numérique sont à la fois les opérateurs et les bénéficiaires.

Les Conquérants

Ce sont elles qui mènent le jeu. Les États se décident à percevoir les impôts dus par ces entreprises, mais la nouvelle législation américaine qui ne taxe plus ces rentrées qu’à une proportion de 10%, véritable amnistie fiscale, permet à Apple de rapatrier aux USA plus de 300 milliards de bénéfices logés dans ses filiales internationales. Cela viendra alimenter de futurs dividendes et le succès du programme économique de Donald Trump. Ce dumping fiscal symbolise un tournant protectionniste de la mondialisation qui semble aux antipodes du discours public des dirigeants de ces plateformes ! « Building Global Community » semble une publicité naïve comparée à la distribution des gains effectuée par une entreprise publicitaire comme Facebook. Que font les réseaux sociaux font à la société et à la politique ? Quelle activité peut aujourd’hui se passer d’une exposition sur les réseaux ? Par-delà même les boutiques, bien des gens dépendent à présent des revenus que peut leur procurer une activité en ligne – à travers des plateformes en tout genre. Tel jeune YouTubeur disposera de revenus publicitaires importants, tandis que d’autres restent sous la barre du nombre de vues requises par les publicitaires – et peut-être aussi de chartes de bienséance exprimées par ceux-ci. Une transgenre californienne, dont la monétisation des vidéos s’est réduite, l’exprime nettement :

Ils chouchoutent vraiment les gens qui ont de l’argent, des vues et un public, et laissent en plan la création et le soutien des petits groupes qui se réunissent et partagent leurs vécus, exprime Erin Armstrong[1].

The Guardian relate l’histoire de la première websérie développée avec succès sur YouTube il y a plus de dix ans. Il s’agissait à l’époque pour deux jeunes en formation à la California Arts Agency de se créer une popularité en ligne en jouant d’une identité d’emprunt « lonelygirl15 », dont il leur fallait animer la vie quotidienne. Cette série remporta un vif succès et lorsque les auteurs de cette mise en scène furent identifiés, ils furent aussitôt financés par de grandes marques pour continuer d’animer leur série, ce qu’ils firent deux ans durant avant de passer à autre chose (Cresci 2016).

La concurrence fait rage entre les plateformes pour s’attirer les talents, générer du trafic et justifier des investissements publicitaires croissants. Fidji Simo, responsable de la publicité chez Facebook, qui animait en 2017 le Facebook Journalism Project de l’entreprise, énonce franchement les bases d’un partage de la valeur entre les plateformes dominantes et les producteurs de contenus en tous genres :

La meilleure façon pour les éditeurs de générer du revenu est de trouver des modèles économiques pérennes. Nous cherchons donc à aider les médias à créer de la valeur en restant indépendants, tout en utilisant les plateformes. [Q : Vous lancez Facebook Watch, qui proposera des vidéos originales. Allez-vous devenir éditeur ?] Ce n’est pas notre objectif ultime : Facebook Watch est une plateforme sur laquelle n’importe quel créateur de contenus doit pouvoir publier des émissions, des séries… […]Facebook est un nouveau type de plateforme. Ce n’est pas juste une entreprise de technologie. Nous avons énormément de responsabilités en raison de l’incidence que nous avons sur le monde. […] Notre mission est très importante, ce n’est pas juste un slogan. Notre ancienne mission - « rendre le monde plus ouvert et connecté » - ne traduisait pas la valeur positive que la connexion du monde peut générer. Notre nouvelle mission - « rapprocher le monde » - est davantage liée aux valeurs de Facebook, qui veut non seulement connecter les gens mais aussi les rendre plus proches les uns des autres. Cette devise s’accompagne d’une autre phrase : « donner aux gens le pouvoir de construire des communautés ». Facebook s’est depuis sa création beaucoup concentré sur les amis et la famille des utilisateurs. Nous avons depuis réalisé que les communautés, au sens large, sont aussi très importantes pour associer des gens différents[2].

Ainsi les chantres de la « communauté » sont-ils extrêmement tendus. Ils se livrent à une fuite en avant publicitaro-financière sans merci. Peut-on imaginer contradiction plus flagrante entre les « valeurs » professées et les comportements effectifs ? Créateur de Symphony, pépite de la communication sécurisée au succès exceptionnel, David Gurlé, un Français anciennement chez Microsoft, crée une nouvelle unité à Sophia-Antipolis : le coût d’un chercheur y est 60% moindre que dans la Silicon Valley, dit-il, et leur fidélité à l’entreprise est sans commune mesure avec la rotation infernale de règle en Californie, où chacun se met à la recherche de son prochain poste dès qu’il ou elle prend un nouveau poste (Chocron 2018). Construire des communautés sur fond d’une concurrence effrénée entre individus et entreprises a toutes les chances de rester un vœu pieux.

La cause est donc entendue : tout ce qui fait sensation continuera de circuler sur les plateformes, les annonceurs y seront protégés[3] et les producteurs de contenus marginaux tolérés dans les zones grises d’une gratuité sans visibilité. La neutralité du net n’a pas attendu la décision officielle des USA pour disparaître des plateformes dominantes, où le Pew Research Institute constate que la majorité des internautes s’informe (Shearer et Gottfried 2017). Chaque plateforme cherche son positionnement : Snapchat réalise une performance exceptionnelle en fédérant le segment le plus jeune de l’échantillon, aux caractéristiques diamétralement opposées à celles de LinkedIn (racheté par Microsoft), dont le public est le plus éduqué et le plus masculin. Facebook est plébiscité par un public majoritairement féminin et plutôt « blanc » tandis qu’Instagram, dont Facebook est propriétaire, accueille davantage des personnes à l’éducation moins poussée, qui se recrutent majoritairement dans les groupes non blancs de la société américaine. Facebook aura fort à faire pour rétablir sa crédibilité et démontrer sa neutralité face aux tendances d’une société américaine à se polariser, ce que Zuckerberg lui-même dit craindre. Mais, fait remarquer Julia Carrie Wong, s’il tenait à ce point au pluralisme, Facebook cesserait de racheter des applis concurrentes et de copier Snapchat ou Twitter… (Wong 2018a)

Attiser les désirs et combler les annonceurs

Le défi auquel Zuckerberg doit faire face est autrement plus sérieux que ce qu’il admettait il y a deux ans (Bezat 2018). L’un de ses propres parrains financiers mène depuis des mois une campagne de sensibilisation qui commence à porter ses fruits. Qui eut cru que l’un des investisseurs les plus expérimentés du secteur des technologies deviendrait un lanceur d’alerte tout en restant actionnaire de Facebook ? Roger McNamee fait surgir une tout autre image. Incapable d’éviter les manipulations de la part d’organisations intéressées à propager des rumeurs pour influencer l’opinion, Facebook aurait attendu plus d’un an pour commencer à réagir – et ce serait l’explication de la transformation en cours de ses algorithmes de classement. Des essais ayant eu lieu dès l’été 2017 dans de petits pays, et le retour donné par un journaliste serbe est clair : pour éviter les manipulations idéologiques, Facebook restreint la visibilité des nouvelles et des débats sur ses pages, en donne la priorité aux échanges privés et aux interactions de petits groupes plutôt qu’à la consultation de pages institutionnelles à faible diffusion. Cela élimine certes des intrusions indésirables, mais cela conduit à refermer le spectre des publications qui circulent et à renforcer l’isolement des petits médias. Sur ce point, Google restera un vecteur plus ouvert à ceux qui sont disposés à formuler leurs critères de recherche. Facebook a semble-t-il choisi de ne pas entrer sur un terrain qui le rendrait comptable des contenus qu’il diffuse. Ce recul stratégique est l’aveu d’une incapacité à contrôler et à différencier les contenus politiques ou polémiques des contenus litigieux ou haineux.

Ce repli sonne comme un premier succès pour la campagne menée par Roger McNamee. Cet investisseur, qui a conseillé en 2006 au jeune Mark Zuckerberg de rejeter une offre mirobolante de Yahoo !, lui a fait rencontrer Sheryl Sandberg et fut son mentor avant l’entrée en bourse. McNamee tient des propos virulents dans un article du Washington Monthly, où il raconte avoir été surpris dès le début de 2016 par la multiplication d’attaques exagérément polémiques présentes sur Facebook, ciblant Hillary Clinton depuis des comptes liés à la campagne de Bernie Sanders. On sait aujourd’hui que Facebook avait accueilli les conseillers de Trump pour les aider à peaufiner leurs instruments de campagne – Facebook l’aurait aussi offert à Clinton, qui a refusé, tout comme l’accès aux ciblages est offert aux grands comptes de la publicité.

La question de fond, qu’on évite trop souvent de poser, est si simple qu’on ne la voit plus : tout cela n’est-il pas la conséquence de la définition même des activités de relations publiques et d’influence dont Facebook est le centre ? Stimuler les réactions par le bouton « like » fut une incitation magistrale à multiplier les interactions entre personnes et à mesurer en permanence leur influence et leur cote. L’influence sociale, commerciale et politique décline un ensemble de préférences liées à des activités psychiquement gratifiantes, et son bruit est parfaitement mesurable par les algorithmes.

Ce thème de la manipulation psychique est un élément central de l’extraordinaire popularité de Facebook et des autres plateformes auxquelles se connectent en permanence des millions de gens, et tout autant pour comprendre la viralité comme l’objectif permanent de ces entreprises. Capter l’attention est le but ultime des services qu’elles rendent :

Les gens kiffaient la stimulation immédiate liée au fait de donner ou de recevoir une approbation publique, et Facebook collectait des données qualifiées sur les préférences des usagers qui pouvaient être revendues aux annonceurs,

dit Justin Rosenstein, l’inventeur du bouton « Like » de Facebook. La simplicité des moyens pour renforcer l’interaction est au cœur des applis. Ceux qui les ont créées sont le mieux placés pour en mesurer l’impact :

Il est très courant pour les humains de développer des choses avec les meilleures intentions, et de créer en retour des effets négatifs involontaires » Rosenstein, qui a aussi contribué à créer Gchat pendant une mission chez Google, et dirige maintenant à San Francisco la société Asana pour améliorer la productivité, se préoccupe des effets psychiques sur les personnes qui, comme le montre la recherche , touchent, balaient ou frappent leur téléphone 2,617 fois par jour. On se soucie de plus en plus du fait qu’en même temps que ses effets addictifs, la technologie renforce ce qu’on nommera « l’attention partielle continue », qui limite radicalement la concentration des gens et pourrait bien abaisser leur QI. Une étude récente a montré que la simple présence d’un téléphone affecte la capacité cognitive – même si l’appareil est fermé.[4]

(Winnick 2016; Ward et al. 2017)

La propagande russe pour influencer les électeurs est donc la métonymie du fonctionnement d’ensemble des réseaux. Ce type d’intrusion n’est possible qu’en raison de la nature intrusive des ciblages qui exploitent nos faiblesses psychiques, aux dires mêmes d’anciens employés de Facebook, dont Sean Parker[5]. Tirant la leçon de son échec à faire changer Google de l’intérieur, Tristan Harris a donné des conférences, publié des articles, rencontré des parlementaires et monté une campagne pour conscientiser le public. Les procédés censés relancer notre activité en ligne convergent pour capter notre attention sans relâche, exploiter et renforcer notre demande narcissique (en nous fournissant des éléments pour attester notre existence et notre importance pour notre entourage proche ou distant) : c’est comme si chacun attendait chaque jour qu’on fête son anniversaire ! Ce monde connecté a créé une norme selon laquelle chacun doit répondre sur-le-champ à toute sollicitation – avec pour effet de réduire notre capacité de concentration et nos interactions avec notre environnement physique, déjà thématisés par Nicholas Carr (2010). Le fameux « engagement » en ligne recherché par les réseaux transforme radicalement les conditions de la participation sociale. On s’associe à n’importe qui pour entrer dans une partie de jeu vidéo, mais nous ne nous risquerons plus à errer quelques quarts d’heure au hasard dans une ville. Quel bonheur de la trouvaille attirante pour qui a scénarisé par avance sa visite ? Une fois le guide de voyage devenu filtre d’évaluations en ligne qui conditionnent nos choix, sommés d’entrer dans une logique de tableaux de bord venus directement du monde managérial, comment prendre le risque d’une surprise ? Tristan Harris note le lien entre les comportements individuels et le champ social (au sens français) :

Cela change notre démocratie et cela change notre aptitude à développer les conversations et les relations que nous voudrions avoir entre nous[6].

Employé chez Google, il a suffi que Harris développe ses critiques pour être placardisé dans un service chargé de l’éthique dépourvu du moindre pouvoir dans l’entreprise. Il a fini par en sortir et a conclu qu’il n’y a pas besoin de supposer la moindre volonté de nuire pour établir des liens entre la persuasion et la marchandisation :

L’entreprise peut savoir quand des ados se sentent « vulnérables », « nuls » ou « ont besoin d’une stimulation de confiance en soi ». Ce type d’infos granulaires, ajoute Harris, est typique du genre de boutons qu’on peut activer de manière individualisée. Les entreprises techno peuvent exploiter de telles fragilités pour rendre les personnes accros ; s’arrangeant par exemple pour que les « likes » reçus arrivent au moment où une personne se sent fragile ou en manque d’approbation, ou simplement s’ennuie. Et les mêmes techniques peuvent être vendues à qui paiera le plus. « Il n’y a pas d’éthique » dit-il. La société qui paiera Facebook pour utiliser ses leviers de persuasion peut être une entreprise d’automobiles ciblant des pubs adaptées aux dives types d’usagers cherchant une voiture neuve. Ou bien cela pourra être une ferme à trolls basée à Moscou tentant de retourner des électeurs dans un canton pivot du Wisconsin[7].

Un autre ingénieur, reconverti dans la neurochirurgie, constate que les circuits de la dopamine sont activés par ces applis, mais fait remarquer ceci : « Il n’y a rien de fondamentalement nocif à faire revenir les gens vers votre produit. C’est le capitalisme »[8] Mais James Williams, qui a créé avec Tristan Harris le site « Time well spent » et avait publié ses réflexions sur un blog avant l’élection de Trump[9], est plus radical :

Cela privilégie nos impulsions sur nos intentions. Ce qui signifie privilégier ce qui est sensationnel sur ce qui est nuancé, mobilisant l’émotion, l’inquiétude et la colère. Les médias d’info travaillent de plus en plus comme des alliés des entreprises de technologies, ajoute Williams, et doivent jouer avec les règles de l’économie de l’attention pour « frapper, appâter et divertir pour survivre », et il lie à ces réactions la transformation du débat public « On s’est habitué nous mêmes à un style cognitif en permanence réactionnel et avons intériorisé la dynamique de ces médias. Si la politique est une expression de la volonté humaine, alors l’économie attentionnelle mine fondamentalement les thèses sur lesquelles repose la démocratie[10].

Dès avant l’élection de Donald Trump, Williams écrivait :

Il vaudrait mieux nommer les média sociaux « médias impulsifs ». L’abondance et l’immédiateté sans précédent d’information à l’ère numérique a fait de notre monde un flot incessant de nouveaux stimuli attentionnels[11].

Facebook semble avoir perçu le message puisque le thème du « temps bien utilisé » fut celui du message de nouvel an de Zuckerberg. Cela montre bien, comme l’indiquait déjà Georg Simmel en 1900, que la concentration territoriale est centrale pour comprendre la modernité. L’accélération capitaliste, le « tempo » selon Simmel, et sa critique la mieux pensée, partagent les mêmes ascenseurs et les mêmes parkings : parfois, seule la situation des acteurs permet de distinguer la bonne foi du cynisme. Quand, dans la foulée des révélations sur le piratage de Facebook par les fake news, la directrice générale de Facebook Sheryl Sandberg dit

Notre absolue priorité est la sécurité des gens. Et on ne s’arrêtera pas tant que nous n’aurons pas toutes les assurances à ce sujet[12],

nous savons que nous sommes dans la communication de crise. Il en va de même du propos officiel de Zuckerberg[13], empreint en 2017 d’une candeur toute californienne :

Habitant ici en Californie, nous ne sommes pas les mieux placés pour identifier les normes culturelles autour du monde. Au lieu de cela, nous avons besoin d’un système tel que nous puissions tous contribuer à en mettre en place les standards .

(Zuckerberg 2017)

L’idée même de possibles contradictions ou de conflit de valeurs est abolie. L’homologie de principe entre les participants d’une collectivité supposée intégrée (une communauté) semble aller de soi. En contrepoint, elle sous-entend que ceux qui ne s’y reconnaissent pas s’excluent d’eux-mêmes. C’est d’ailleurs ce que rappellera Julia Carrie Wong des débuts de Facebook à Harvard. Pour les premiers inscrits, les autres étudiants devinrent vite ceux qui restaient sur le côté (2018b). Cette attitude mimétique neutralise les différences par cantonnement : s’ils revendiquent des particularités, appliquons-leur une exception et conservons nos habitudes – chacun chez soi. Facebook pratique le style californien pour traiter les particularités. Il se plie aux nouvelles règles juridiques européennes tout en s’efforçant d’en « protéger » le plus possible de comptes. Cette placidité flexible reste centrée sur une ligne de compromis entre la maximisation des réactions en ligne et le respect de la légalité. Quand Zuckerberg écrit que

chacun ne doit voir que le minimum de contenus alarmants selon lui et pouvoir en partager le plus possible en se heurtant au minimum d’interdiction de partager,

il évoque un processus « démocratique » qui s’appuiera sur l’intelligence artificielle. La censure au nom de normes dominantes devient donc la règle ! De là un renforcement assumé de la bulle de filtrage, seul résultat prévisible des algorithmes. Mais notre perplexité est grande en constatant que cette candeur toute californienne conduit Mark Zuckerberg à revendiquer une grande tolérance en matière d’opinions radicalement vindicatives et extrémistes. Zuckerberg passe sans solution de continuité du droit à l’erreur à l’excuse pour les pires calomnies. Au fond, une totale indifférence aux opinions d’autrui et l’opposition de principe à imputer une intention aux publications les plus vindicatives le poussent à se désintéresser de tout contenu infâme qui circule sur les pages de Facebook. Dans un entretien avec Kara Schwisher (2018), qui l’interroge sur l’espace accordé au négationnisme et la propagande mensongère sur Facebook, Zuckerberg répond que les menaces directes à l’encontre d’une personne identifiable peuvent faire l’objet d’une suppression, mais non la publication d’opinions haineuses s’abritant derrière des contre-vérités flagrantes :

C’est difficile de fustiger une intention et de comprendre ce qu’est l’intention. Il me semble que, si repoussants que soient certains de ces cas, qu’en réalité moi aussi je commets des erreurs en m’exprimant en public, et je suis sûr que vous aussi. Alors ce qu’on fera c’est de dire : « D’accord, vous avez votre page, et si vous ne tentez pas de fomenter la vindicte contre quelqu’un ou d’attaquer quelqu’un, alors vous pouvez publier ces contenus sur votre page, même si des gens peuvent être s’y opposer ou les tenir pour offensifs[14].

(Swisher 2018)

Les annonces de 2018 sont donc conformes à Building Global Community. Les standards culturels et la mention des choix individuels servent d’alibi pour une neutralité d’indifférence. Toute représentation, même minoritaire ou extrême, est miscible dans le consensus tiède d’une vie sempiternellement bercée par le bonheur de vibrer en harmonie avec sa « communauté ». Ces opinions minoritaires sont réputées être réduites à l’invisibilité du simple fait qu’elles restent cantonnées à de petits groupes. Mais cela n’empêche ni l’activisme en réseau ni la prolifération de stupidités et d’erreurs manifestes, et limite d’autant la diffusion de pages soucieuses de corriger les pires mensonges et d’informer le public. Sans doute est-ce l’un des motifs pour lesquels Zuckerberg voit Facebook comme un soutien des communautés traditionnelles, que la vie contemporaine a fragilisé. Le pompier pyromane restaure d’une main ce qu’il a réduit préalablement en cendres. Et pour des contenus excessivement violents ou provocateurs, pourquoi les protéger ? Ils ne rapportent guère en termes de publicité et peuvent circuler ailleurs. Mais Facebook mondialise une approche conquérante qui ne tient nullement compte des cultures. Il s’agit d’animer un marché et d’offrir un service standard fondé sur un puissant réseau de serveurs interconnectés qui met des millions d’usagers captifs à la disposition des annonceurs. Peu importe, à vrai dire, quelles sont les idées et les visions du monde de chacun, et il a été montré que parmi les mots-clés utilisables sur Facebook, il était possible, jusqu’à ce que cela ait été signalé, d’utiliser des termes clairement antisémites comme élément de ciblage (Solon 2017a).

La prose apologétique de Facebook a-t-elle une effectivité quelconque, hormis celle de bercer les employés et les investisseurs ? Comment catégoriser les devoirs du réseau ? Leur liste est-elle cohérente ? Comment garantir la concordance de ces orientations proclamées avec les moyens dont Facebook dispose ou pourrait disposer ? Il aura fallu que la crise s’approfondisse vraiment pour que Zuckerberg parle d’une réflexion d’ordre normatif pour contrôler certains algorithmes (2018). Les textes portant sa signature laissent dubitatifs. Faute de pouvoir filtrer assez finement les contenus, et pour éviter toute mise en cause d’ordre rédactionnel, Facebook minore les contenus rédactionnels. Comment distinguer entre des récits sur le terrorisme et une propagande terroriste ? Sans même parler des multiples ambiguïtés et zones grises,

Il est impossible pour des algorithmes seuls de gérer l’expérience humaine, et cela demande une grande maîtrise des cultures et des langues[15] 

Certes la plupart des utilisateurs se satisferont des réglages rénovés par Facebook, la préoccupation dominante portant sur la qualité de sa connexion et de celle de ses proches. Mais l’exigence de publier sous son identité véritable interdit toute publication qui mettrait en danger ses auteurs dans des contextes professionnels ou de surveillance de toute nature. Toujours lié aux pouvoirs, Facebook n’accepte les expressions critiques que sous des formes édulcorées qui permettent aux pouvoirs de vanter leur tolérance. Ce n’est d’ailleurs que pour l’Europe que Facebook assouplit ses standards : exiger le débat public informé semble une anomalie propre au Vieux Continent. Ni l’Afrique ni l’Amérique latine ne sont présents dans le texte Building Global Community et l’Asie est présentée comme une région du monde où les normes restrictives continueront de s’appliquer. Facebook répond aux critiques des « lissages » qu’il pratique en invoquant l’inclusion communautaire : il s’agit de réduire les exceptions, exclusions et censures pour prendre en compte des dimensions moins conservatrices dans le traitement des images et des discours, à condition qu’elles ne créent pas de contestation. La diversité culturelle interdisant de satisfaire tous les usagers par une norme unique, il s’agirait d’aller vers un « contrôle personnel de notre présence en ligne »[16] permettant d’activer diverses options de réception et de partage des contenus désirés ou écartés par chacun. Ces constats seraient le nouvel horizon de Facebook comme service ouvert à « davantage de contenus informatifs de qualité et de contenus historiques »[17]. L’histoire ne s’arrêtera pas là : un tribunal allemand vient de révoquer au nom de la protection des données personnelles la règle de Facebook interdisant de s’inscrire sous un pseudonyme (en cas d’enquête la police pourrait toujours exiger la communication des IP) et la France exige de connaître l’identité des annonceurs ayant fait passer des intox et le montant des contrats passés avec Facebook.

McNamee / Facebook

Convaincu du péril qui guette la démocratie du fait de la radicalisation d’une opinion publique influencée par des discours radicaux que rien ne vient tempérer, McNamee a entrepris une campagne civique dont un article, intitulé « Comment contrôler Facebook avant qu’il ne vous contrôle » (2018), est un élément :

Mon habitude de stimuler l’engagement actif m’a permis de remarquer qu’il se passait quelque chose de bizarre en février 2016. La primaire du parti démocrate se préparait dans le New Hampshire, quand j’ai commencé à remarquer une marée d’interventions stéréotypées (memes) méchamment misogynes et anti-clintoniens émanant de groupes Facebook soutenant Bernie Sanders. Je sais comment créer du flux et de la mobilisation[18] sur Facebook. Ce n’était pas de la mobilisation. Cela se présentait comme bien organisé, avec un budget publicitaire. Mais la campagne de Sanders n’était sûrement pas stupide au point de lancer elle-même ces memes. Je ne savais pas ce qui se passait, mais je m’alarmai d’imaginer qu’on se servait de Facebook d’une manière éloignée des intentions de ses fondateurs[19].

Repérant des phénomènes analogues dans la campagne du Brexit – on a beaucoup glosé à l’époque sur les arguments démagogiques de la campagne du « leave », mais sans suffisamment comprendre leur caractère viral sur les réseaux – Roger McNamee réfléchit à la profonde transformation de l’activité publicitaire / propagandiste intervenue avec la diffusion des smartphones et les algorithmes des réseaux sociaux. Pour faire bref, il considère que les ordinateurs personnels ne pouvaient pas l’emporter contre les médias traditionnels : rivés à un bureau ou faiblement connectés, ils laissaient les journaux, les radios et même la télévision accompagner chacun sans se confondre avec l’espace personnel. Tout a changé avec les smartphones et des réseaux sociaux permettant à chacun d’être partout connecté à son environnement préférentiel.

Les usagers les plus susceptibles de réagir aux messages pro-Brexit étaient probablement moins fortunés, et on pouvait les cibler pour pas trop cher. Le prix des pubs sur Facebook (et Google) est fixé par enchères, et le prix requis pour cibler les consommateurs du haut de l’échelle est tiré vers le haut par les entreprises qui tentent de leur vendre des choses. Par conséquent, Facebook était une plateforme bien plus efficace et moins coûteuse pour les pro-Brexit en terme de coût par usager atteint. Et les bulles de filtrage garantissaient que les gens situés côté pro-Brexit ne verraient pas souvent contredites leurs croyances fumeuses. Ce modèle de Facebook a peut-être eu le pouvoir de bouleverser un continent entier[20].

McNamee certifie qu’il a averti la direction de Facebook, que les réponses ont été évasives, du genre « on travaille beaucoup pour sécuriser Facebook ; en plus, on n’est pas une entreprise de média, on est pas responsables des contenus ». Dès lors, au printemps 2017, McNamee, effaré des renforcements de croyance liés à la bulle de filtrage, entreprend d’agir par lui-même.

L’usage d’algorithmes pour donner aux consommateurs « ce qu’ils attendent » mène chacun vers un flux infini de liens qui confirment les convictions préexistantes de chaque usager. Sur Facebook, c’est notre fil d’info, sur Google ce sont les réponses individuellement adaptées à nos requêtes. Au final, chacun voit une version différente de l’Internet conçue pour créer l’illusion que tous les autres sont d’accord avec nous. Les renforcements continus de nos convictions existantes ont pour effet d’enraciner plus profondément ces croyances tout en les rendant plus extrêmes et plus résistantes aux évidences contraires. Facebook accroît encore la force de ce concept avec sa mise en scène de « groupes » qui encourage les usagers aux idées similaires à se rassembler autour de leurs centres d’intérêts et convictions partagés. Même si cela profite réellement aux usagers, le profit maximum va aux annonceurs qui peuvent d’autant plus efficacement cibler les publics […] de petits investissements dans la pub et les memes postés sur Facebook atteindront de la sorte des dizaines de millions de personnes. Des stratégies analogues sont mises en œuvre sur les autres plateformes, y compris Twitter. Développer ces deux techniques, les bots et les trolls, s’avère coûteux en temps et en argent, mais le retour sur investissement aura été superbe[21] !

Le point central est ici que la manière dont Facebook soutient l’émergence de « meaningful groups » permettant un ciblage publicitaire efficace est un point d’entrée fonctionnel pour toute organisation qui tente d’infléchir le comportement des membres de ces groupes. La logique affinitaire de Facebook rendait particulièrement effective les intrusions depuis des comptes ad hoc déployant de multiples incitations qui seraient naïvement reprises et rediffusées par des citoyens aux opinions extrêmes.

L’approche réglementaire très « laissez-faire » du gouvernement américain a permis aux plateformes d’Internet de mener des stratégies d’entreprises qui leur auraient été interdites dans les décennies antérieures. Personne ne les a empêchés d’utiliser la gratuité des leurs services pour centraliser l’Internet au point de se substituer ensuite à ses fonctions essentielles. Personne ne les a empêchés de siphonner les revenus des créateurs de contenus. Personne ne les a empêchés de stocker des données sur chaque élément de la vie en ligne de chaque internaute. Personne ne les a empêchés d’atteindre des parts de marchés jamais vues depuis l’époque de la Standard Oil. Personne ne les a empêchés de mettre en route des expériences sociales et psychologiques de grande envergure sur leurs utilisateurs. Personne ne leur a demandé de policer leurs plateformes. C’était vraiment une aubaine.

Une semaine avant l’élection de 2016, j’ai contacté Zuckerberg et Sandberg par e-mail, insistant sur l’obligation pour Facebook de s’assurer que sa plateforme ne soit pas exploitée par des acteurs nocifs. Chacun me répondit le lendemain, disant : Nous apprécions ta franchise, mais pensons que tu interprètes mal ces infos. […]

Mais nous avons vu où mène l’autodiscipline, et c’est moche. Malheureusement, il n’y a pas de solution miracle pour réglementer. L’étendue du problème requiert une réponse à plusieurs facettes.

En premier lieu, nous devons affronter la résistance aux faits créée par les bulles de filtrage. Les sondages indiquent que le tiers environ des Américains tiennent pour une intox l’interférence russe dans l’élection en dépit de l’unanimité des agences de renseignement du pays pour dire le contraire. Aider ces gens à accepter la vérité est une priorité. Je recommande d’obliger Facebook, Google, Twitter et d’autres à contacter individuellement chacun de ceux qui ont été touchés par les contenus russes par un message disant : « Vous avez été manipulés comme nous par les Russes. Cela a vraiment eu lieu et en voici la preuve ». Le message inclurait chaque message reçu par la personne.

Cette idée, discutée avec mon collègue Tristan Harris, est fondée sur son expérience des sectes. Pour déradicaliser un membre d’une secte, il est essentiel que l’appel à agir vienne d’un autre membre de la secte, idéalement de son chef. Les plateformes diront que c’est trop cher. Facebook a signalé que jusqu’à 126 millions d’Américains ont été affectés par les interventions russes sur sa plateforme principale, à quoi s’ajoutent vingt autres millions sur Instagram qui lui appartient. Additionnés, ces chiffres dépassent le nombre des 137 millions d’Américains qui ont voté en 2016. Facebook a proposé d’ouvrir un portail auquel on accéderait par le biais de son centre d’assistance pour que les utilisateurs curieux puissent vérifier s’ils ont été atteints par les manips russes modulo le bouquet de groupes Facebook créés par une ferme de trolls. Mais cela est bien en deçà de ce qu’il faut faire pour prévenir les manipulations en 2018 et après. Il ne fait aucun doute que les plateformes ont la capacité technique pour identifier et joindre toute personne touchée. Quel qu’en soit le coût, les entreprises de plateformes doivent se résoudre à le payer en compensation de leur permissivité négligente face à ces manipulations.[22]

McNamee se concentre dans la suite de son manifeste sur les aspects réglementaires. Son propos est d’une grande cohérence et ses idées ont déjà des effets sur le débat public : outre le fait que Facebook s’est fendu d’un message personnel à chacun des millions de gens dont l’identité a été ciblée par Cambridge Analytica et les sites de bots russes, Zuckerberg a du se justifier personnellement face au Congrès et au Parlement européen.

Ce n’est pas seulement important pour le public, mais tout autant pour une autre partie : les employés qui font tourner ces géants technologiques. Si nombre de ceux qui animent la Silicon Valley sont des libertariens exagérés, les gens qui y travaillent sont plutôt idéalistes. Ils veulent croire que ce qu’il font est bien. Contraindre des patrons des techs comme Mark Zuckerberg à justifier l’injustifiable, publiquement et sans la protection des porte-paroles ou du conseiller du président, ferait beaucoup pour /crever dégonfler percer/ aux yeux de leurs employés leur culte de la personnalité si soigneusement cultivé.

Ces deux remèdes ne seraient qu’un premier pas. Il nous faut aussi des contrôles réglementaires, ajoute McNamee. Il propose en substance de bannir les bots qui se présentent comme des personnes et de signaler toute base de diffusion automatisée. Surtout, il réfléchit aux mesures anticoncentration pour offrir à chacun de nouvelles alternatives : interdire toute nouvelle acquisition de la part des principaux acteurs, publier les noms de ceux qui sont derrière les sites de propagande, et aussi les critères de ciblage retenus par les annonceurs pour sélectionner des profils d’utilisateurs, offrir à chacun le droit de rejeter les actualisations et nouveaux termes contractuels, en sorte de restaurer une diversité partout, donner une limite temporelle à l’exploitation de nos données par la plateforme et rendre les utilisateurs maîtres de celles-ci par défaut en leur donnant à tout moment le droit de les retirer. En conclusion, McNamee écrit :

L’addiction à Facebook, YouTube et autres plateformes a un coût. La manipulation des élections a un coût. Une innovation en berne et la réduction de l’esprit d’entreprise a un coût. Tous ces coûts sont tangibles aujourd’hui. On peut les quantifier suffisamment bien pour juger que les coûts pour les consommateurs de la concentration de l’Internet sont injustifiablement élevés.

L’orientation proposée par McNamee va à l’encontre des propos tenus par ceux qui insistaient pour que Facebook reconnaisse son rôle éditorial dans l’analyse des contenus en circulation. Laissant ces questions de côté, McNamee tient à des excuses publiques et à une réglementation qui bannisse les comptes programmés pour adresser des messages ciblés à la cantonade sans qu’on sache qui les contrôle. Au-delà de la mise à disposition des algorithmes utilisés par les plateformes pour stimuler ou restreindre la diffusion des documents, il aborde surtout l’aspect industriel. Il prend au mot le plaidoyer de Zuckerberg et de ses proches qui se voient comme une entreprise de technologie, non comme éditeurs, et les évolutions annoncées renforcent cette dimension algorithmique : les éditeurs se plaignent déjà de la réduction du lectorat que leur procure Facebook. McNamee propose une révision radicale du contrat type de Facebook et des autres plateformes : si nous devions consentir explicitement à toute actualisation du programme et avions la possibilité de refuser certaines modifications, il en résulterait une diversité d’options fonctionnelles. Pour peu qu’une interopérabilité soit exigée des plateformes et que soit établi le droit pour chacun de faire disparaître ses données ou de les transférer vers tout autre réseau numérique de son choix, cela changerait le jeu et briserait l’impunité monopolistique. Le temps est venu, dit-il, de restituer à l‘Internet sa diversité perdue et de dégonfler la bulle boursière qui a accompagné la montée en puissance de monopoles comme ceux de Google et de Facebook. Leur appliquer des lois anticoncentration leur interdirait de ratisser le marché des innovations pour le stériliser et se l’approprier. Cette approche industrielle semble davantage à la hauteur du problème que toute mise en question morale ou demande de supervision des contenus qu’à l’évidence les responsables de Facebook sont incapables d’assurer.

À peine publiée, cette opinion de Roger McNamee se voit prise en tenaille entre deux réactions opposées. D’une part, les résultats financiers de Facebook font mentir les Cassandre. Les marchés laissent du temps à Zuckerberg pour corriger les défauts de sa plateforme[23] : les investisseurs ont trop à perdre ! Qui donc relaierait avec énergie les demandes politiquement ciblées de McNamee ? Ce dernier a toute chance de rester isolé. En contrepoint, une enquête du New York Times (Confessore et al. 2018) confirme que des dizaines de millions de faux comptes sont actifs sur Twitter et Facebook, dans le cadre d’un commerce de la notoriété. Ceux qui ont investi dans ce business de la notoriété en ont souvent obtenu des retombées publicitaires et financières considérables. Une parlementaire britannique a fêté sa nomination au conseil d’administration de Twitter en achetant 25 000 adresses (un rien dans ce monde), probablement pour affirmer sa position dans un conseil plus sélectif que la Chambre des Lords, à laquelle elle appartient. Le NYT évoque l’histoire rocambolesque d’une entreprise fantôme menée par un jeune hacker de 25 ans capable d’activer des millions de fausses identités en activant des comptes existants et en les détournant à l’insu de leurs titulaires, activité en partie sous-traitée aux Philippines… En l’occurrence, ce jeune hacker a fait fortune en revendant des millions d’adresses à des personnalités et en les rendant actives sur des bots, puis ses correspondants philippins tentent de lui prendre son affaire, ce qui finit par déclencher des fuites et sa chute. Twitter se gardait bien de vérifier la conformité des identités à ses chartes. Du trafic en plus et des profits pour ses usagers, cela valait mieux que de payer pour dégonfler cette bulle. C’est que le cœur des réseaux sociaux, c’est l’expérience-utilisateur[24]. Et tout semblait fonctionner. Twitter n’est sans doute pas un cas isolé[25].

Mark Zuckerberg, un Pangloss milliardaire ?

Cette approche de l’expérience-utilisateur était au cœur d’un entretien de Zuckerberg avec Farhad Manjoo en avril 2014[26]. À cette date, son appétit tous azimuts et son pragmatisme total sont criants. Interrogé sur l’aptitude de Facebook à innover après avoir échoué à racheter Snapchat, Zuckerberg vante les équipes créatives de Facebook. Il indique que

Facebook n’est pas monoproduit […] Sur les terminaux mobiles, les gens veulent des choses diverses. La facilité d’accès est capitale. Et tout autant le fait de contrôler les trucs qui vous envoient des messages. Et le matériel est vraiment petit. Dans le mobile, il y a tout à gagner à créer des expériences spécifiques de première qualité. C’est pourquoi notre intention avec les Creative Labs consiste vraiment à décompacter la grosse appli bleue. […] Vous allez nous voir explorer des domaines pour lesquels nous sentions que nous manquions de place jusqu’ici.[27]

Démultiplier les applis, c’est la logique sur smartphone, ce qui menace toute position acquise. Zuckerberg entend donc coloniser le monde des applis en même temps qu’il veut déployer les possibilités de Facebook. Racheter Instagram et WhatsApp était stratégique pour éviter de laisser des concurrents s’installer. Il insiste sur le cœur de cible que constitue la vie personnelle des usagers. En même temps, il souhaiterait faire de Facebook le carrefour des informations – l’appli Paper et le Newsfeed en sont les instruments, dit-il en 2014. Tout à sa tentative de contrôler les communications mondiales (rôle notamment dévolu à la plateforme Internet.org, le package de connexion bas de gamme destiné par Facebook à casser les prix dans les pays en développement), Facebook a négligé de contrôler les contenus et leur circulation virale, d’autant que, côté développement, l’efficacité des moteurs de recherche sur applis mobiles est limitée :

la vraie question sera celle de leur efficacité sur mobile une fois que la recherche de billets (posts) marchera. À mon avis, cela prendra cinq ans. Nous devons y penser dans la durée. En fait, on a vu que le domaine des messages est bien plus vaste que ce que nous pensions au début, et que les situations d’usage de WhatsApp et Messenger sont plus différenciés que nous le pensions à l’origine. Messenger est surtout fait pour papoter avec les amis et WhatsApp vient remplacer les SMS. Ces trucs semblent identiques, mais si on s’arrête aux nuances des modes d’utilisation des gens, chacun d’eux est géant sur deux marchés différents. […] Du coup, ce que nous voulons, c’est construire un canal de distribution d’expériences attirantes pour les gens […] Nous essayons d’explorer des trucs qui ne sont pas seulement liés à l’identité de Facebook. Et dans chacun d’eux, on ne se contente pas de partager et de consommer du contenu, on construit aussi des relations avec des gens, une construction orientée vers la compréhension des gens. […] Et nous demandons à nos chefs de produits d’aller voyager dans un pays au marché émergent pour voir comment les gens qui se lancent sur l’Internet s’en servent. Ils apprennent toutes sortes de choses intéressantes. Les gens leur demandent par exemple « je vois qu’on me dit que je devrais installer mon mot de passe – c’est quoi un mot de passe ? » Pour nous, c’est un truc qui fait réfléchir[28] .

Les réponses de Zuckerberg commencent à arriver. Le mot fix est au centre de la mission que se donne le fondateur de Facebook pour 2018. Contrôler et réparer. Cela sonne comme un aveu… mais Zuckerberg semble botter en touche ou attirer les investisseurs en leur parlant de cryptomonnaies ou de cryptage des données en conclusion d’un message dont il est dit qu’il touche des questions sociales et politiques ! Zuckerberg parle de tenir des réunions avec des intellectuels, mais semble une fois de plus très en arrière de la main. S’il entend réparer Facebook et contrôler la situation, c’est bien évidemment pour maintenir la puissance de son groupe – tout l’inverse de ce que demande McNamee, ancien zélateur des réseaux sociaux devenu un opposant à leur monopole. Même si Zuckerberg consultait des philosophes et des chercheurs en sciences sociales, la question est de trancher entre une concentration toujours plus forte et un pluralisme organisationnel qui a disparu de l’Internet. Le billet de Zuckerberg est d’ailleurs un plaidoyer pour la centralisation, malgré l’évocation nostalgique de la diversité initiale de l’Internet.

L’une des questions actuellement les plus intéressantes pour la technologie est le débat centralisation versus décentralisation. Nombreux parmi nous sont ceux qui se sont tournés vers la technologie parce que nous croyons qu’elle peut être un facteur de décentralisation qui donne plus de pouvoir directement aux gens. (les cinq premiers mots qui orientent la mission de Facebook ont toujours été ‘donner le pouvoir aux gens’). Dans les années 1990 et 2000, la plupart des gens croyaient que la technologie serait une force décentralisatrice. Mais à présent, bien des gens ont perdu leur foi dans ce credo. Avec la montée d’un petit nombre de grandes entreprises de technologie – et des gouvernements utilisant les technologie pour surveiller les citoyens, beaucoup croient à présent que la technologie centralise surtout le pouvoir, bien plus qu’elle ne le décentralise. Il y a d’importantes contre-tendances à cela – comme le cryptage et les cryptomonnaies – qui se saisissent du pouvoir des systèmes centralisés pour le rendre aux gens. Mais ils comportent le risque d’être plus difficiles à contrôler. Je suis motivé à aller plus loin et à étudier les aspects positifs et négatifs de ces technologies, pour savoir comment en faire le meilleur usage dans nos services[29].

La question de la décentralisation du réseau est centrale. Zuckerberg a bien compris que la taille de Facebook et ses effets induits, tout comme son incapacité à répondre de ses errements, créent la responsabilité exorbitante de contrôler tout ce qui se passe en ligne, en matière de vidéos, d’appels au meurtre ou de faussetés scientifiques par écrit, orales ou en images, sans parler des fraudes commerciales et autres manipulations ! Procéder à de tels contrôles dans le respect des libertés publiques est sans doute impossible, ou bien conduit en effet tout droit à bannir les mots qui fâchent et à censurer ce qui serait vu comme incorrect. Le plus grand réseau mondial serait en même temps une instance autoproclamée de police du discours, ce méga-éditeur que la firme de Zuckerberg ne veut pas être.

En attendant de faire du sur mesure, privilégier les échanges de proximité sur les contenus tiers, hormis les publicités ciblées, payées et analysées, est un choix acceptable pour que Facebook retrouve une forme d’innocence. Les éditeurs de presse seront à la peine pour assurer leur propre diffusion, car la plupart des gens ne font rien d’autre en ligne que cliquer sur les liens qu’ils reçoivent. Faire des recherches poussées pour s’informer est un luxe. Ce créneau de l’information ne rapporte guère : Facebook peut l’abandonner pour des secteurs plus profitables qui n’occasionnent pas de controverses[30]. Endiguer la concurrence que Snapchat, Netflix ou Spotify représentent en bourse est l’objectif premier. Cela passe par la monétisation de WhatsApp et de Messenger, la sécurité des données personnelles et la cryptographie pour adosser Facebook aux plateformes commerciales (ne pas laisser filer Amazon !!) et créer une base de rencontres… Il faut convaincre les investisseurs que le taux de croissance de la firme va se maintenir.

Pourtant, McNamee rappelle que la négligence envers les contenus a un coût démocratique énorme. Faire circuler le « bruit » des échanges interpersonnels au lieu d’informer suffit à empêcher la conversation démocratique. On peut appeler cela formellement « désinformation » : il est clair qu’une fois l’habitude prise d’accéder aux informations sur les réseaux sociaux, les usagers ne reviendront pas vers les sites des journaux qui ont vu leur publicité phagocytée par Facebook et vivent (mal) d’abonnements. Le public captif des monopoles est indifférent à l’information et à la situation politique désespérante. Dès 2013, Yochai Benkler (2013) parlait de restaurer l’équilibre constitutionnel (« Regaining our constitutional balance is the only victory worth winning »), mais la fin de la neutralité du net montre que le balancier est allé dans l’autre direction. Plus que jamais, les secrets d’État et le secret des affaires sont protégés. La nébuleuse des fausses nouvelles et des intox que nous peinons à démentir nous détournent de pouvoir surveiller les pouvoirs réels. Le cofondateur d’Apple, Steve Wozniak, devenu un fervent supporteur de l’Electronic Frontier Foundation pour l’Internet ouvert et opposant de longue date au Patriot Act, qui étend de manière discrétionnaire les justifications d’une surveillance généralisée, reconnaissait en 2013 :

nous n’avions pas réalisé qu’au sein du monde numérique, il y avait de multiples manières d’utiliser les technologies numériques pour nous contrôler, pour nous épier et pour rendre possibles des choses qui ne l’étaient pas. Aux temps anciens où nous postions des lettres, on les léchait, et quand on recevait une enveloppe encore scellée, personne ne l’avait lue ; c’était de la communication privée. Maintenant, on nous dit, comme c’est du courrier électronique, cela ne peut pas rester privé, n’importe qui peut écouter[31].

Ces phrases sonnent comme une objection par anticipation aux propos de Zuckerberg : la fuite en avant technologique est plutôt le problème que la solution. Celle-ci passe par le respect de règles protégeant la vie privée des intrusions de toute nature – qu’il s’agisse de surveillance ou de publicité, et c’est la tendance adoptée par les instances régulatrices européennes. L’expansion sans borne des plateformes rencontre ainsi des obstacles politiques. Mais cela ne rassure pas les éditeurs de presse, comme le signale, entre autres personnes interrogées par le New York Times, l’éditeur de Slate :

« Personne ne connaît exactement l’impact que cela aura, mais sous bien des aspects, cela ressemble à la fin de l’époque des infos distribuées », disait vendredi Jacob Weisberg, président et rédacteur en chef du groupe Slate. « Au long de l’année, tout le monde a vu baisser le flux sur Facebook, ils ont réduit l’exposition aux infos. Mais qu’ils aient engagé un changement si essentiel sur la plateforme — je ne pense pas que les gens l’avaient anticipé. »[32]

Les éditeurs craignent de perdre une part de leur lectorat et de leurs revenus publicitaires compte tenu des questions de régulation, de la restriction de l’accès direct aux pages des médias et des rapports financiers de Facebook avec la presse.

Parties annexes