Combien de choses sur Internet sont fausses ? Il s’avère qu’il y en a beaucoup, en fait.

Photo : Œuvre d’Ayatgali Tuleubek

Fin novembre, le ministère de la Justice a dévoilé des actes d’accusation contre huit personnes accusées d’avoir escroqué 36 millions de dollars à des annonceurs dans deux des plus grandes opérations de fraude publicitaire numérique jamais mises au jour. Les annonceurs numériques ont tendance à vouloir deux choses : que les gens regardent leurs publicités et que des sites Web « premium » – c’est-à-dire des publications établies et légitimes – les hébergent.
Les deux stratagèmes en cause dans cette affaire, surnommés Methbot et 3ve par les chercheurs en sécurité qui les ont découverts, ont faussé les deux. Les fraudeurs ont infecté 1,7 million d’ordinateurs avec des logiciels malveillants qui dirigeaient à distance le trafic vers des sites Web « usurpés » – « des sites Web vides conçus pour le trafic de robots » qui diffusaient une publicité vidéo achetée sur l’un des vastes marchés publicitaires programmatiques d’Internet, mais qui étaient conçus, selon les actes d’accusation, « pour tromper les annonceurs en leur faisant croire qu’une impression de leur publicité était diffusée sur un site d’éditeur de premier ordre », comme celui de Vogue ou The Economist. Les vues, quant à elles, étaient simulées par des ordinateurs infectés par des logiciels malveillants et dotés de techniques merveilleusement sophistiquées pour imiter les humains : les robots « simulaient des clics, des mouvements de souris et des informations de connexion aux réseaux sociaux pour se faire passer pour des consommateurs humains engagés ». Certains ont été envoyés pour naviguer sur Internet afin de recueillir des cookies de suivi d’autres sites Web, tout comme un visiteur humain l’aurait fait par son comportement habituel. De fausses personnes avec de faux cookies et de faux comptes de médias sociaux, bougeant faussement leurs faux curseurs, cliquant faussement sur de faux sites web – les fraudeurs avaient essentiellement créé un simulacre d’internet, où les seules choses réelles étaient les publicités.

Combien d’internet est faux ? Les études suggèrent généralement que, année après année, moins de 60 % du trafic web est humain ; certaines années, selon certains chercheurs, une bonne majorité est constituée de robots. Selon le Times de cette année, pendant une certaine période en 2013, la moitié du trafic de YouTube était constituée de « robots se faisant passer pour des personnes », une proportion si élevée que les employés craignaient un point d’inflexion après lequel les systèmes de détection du trafic frauduleux de YouTube commenceraient à considérer le trafic des robots comme réel et le trafic humain comme faux. Ils ont appelé cet événement hypothétique « l’Inversion ».

À l’avenir, lorsque je regarderai en arrière depuis la prison high-tech pour joueurs dans laquelle le président PewDiePie m’aura emprisonné, je me souviendrai de 2018 comme de l’année où internet a passé l’Inversion, non pas dans un sens numérique strict, puisque les bots sont déjà plus nombreux que les humains en ligne plus souvent qu’autrement, mais au sens perceptif. L’internet a toujours accueilli dans ses coins sombres des écoles de poissons-chats et des ambassades de princes nigérians, mais cette obscurité imprègne désormais tous ses aspects : Tout ce qui semblait autrefois définitivement et indiscutablement réel semble aujourd’hui légèrement faux ; tout ce qui semblait autrefois légèrement faux a désormais le pouvoir et la présence du réel. Le  » faux  » de l’internet post-Inversion est moins une fausseté calculable qu’une qualité particulière d’expérience – le sentiment étrange que ce que vous rencontrez en ligne n’est pas  » réel  » mais n’est pas non plus indéniablement  » faux « , et peut en effet être les deux à la fois, ou successivement, alors que vous le retournez dans votre tête.

Les métriques sont fausses.

Prenez quelque chose d’aussi apparemment simple que la façon dont nous mesurons le trafic web. Les métriques devraient être la chose la plus réelle sur internet : Elles sont dénombrables, traçables et vérifiables, et leur existence sous-tend l’activité publicitaire qui anime nos plus grandes plateformes sociales et de recherche. Pourtant, même Facebook, la plus grande organisation de collecte de données au monde, ne semble pas capable de produire des chiffres authentiques. En octobre, de petits annonceurs ont intenté un procès au géant des médias sociaux, l’accusant d’avoir dissimulé, pendant un an, ses importantes surestimations du temps passé par les utilisateurs à regarder des vidéos sur la plateforme (de 60 à 80 %, selon Facebook ; de 150 à 900 %, selon les plaignants). Selon une liste exhaustive de MarketingLand, au cours des deux dernières années, Facebook a admis avoir fait des déclarations erronées sur la portée des publications sur les pages Facebook (de deux manières différentes), le taux auquel les spectateurs terminent les vidéos publicitaires, le temps moyen passé à lire ses « Instant Articles », la quantité de trafic de référence de Facebook vers des sites Web externes, le nombre de vues que les vidéos ont reçues via le site mobile de Facebook et le nombre de vues de vidéos dans les Instant Articles.

Pouvons-nous encore faire confiance aux métriques ? Après l’Inversion, à quoi bon ? Même lorsque nous mettons notre foi dans leur exactitude, il y a quelque chose de pas tout à fait réel à leur sujet : Ma statistique préférée cette année a été l’affirmation de Facebook selon laquelle 75 millions de personnes ont regardé au moins une minute de vidéos Facebook Watch chaque jour – même si, comme Facebook l’a admis, les 60 secondes de cette minute n’avaient pas besoin d’être regardées consécutivement. Vraies vidéos, vraies personnes, fausses minutes.

Les personnes sont fausses.

Et peut-être que nous ne devrions même pas supposer que les gens sont réels. Sur YouTube, le commerce de l’achat et de la vente de vues de vidéos est « florissant », comme l’a rappelé le Times dans une longue enquête en août. La société affirme que seule une « infime partie » de son trafic est fausse, mais les faux abonnés sont un problème suffisamment important pour que le site entreprenne une purge des « comptes spam » à la mi-décembre. Selon le Times, il est aujourd’hui possible d’acheter 5 000 vues sur YouTube (30 secondes d’une vidéo comptent comme une vue) pour 15 dollars seulement ; souvent, les clients sont amenés à croire que les vues qu’ils achètent proviennent de personnes réelles. Il est plus probable qu’elles proviennent de robots. Sur certaines plateformes, les vues de vidéos et les téléchargements d’applications peuvent être contrefaits dans le cadre d’opérations lucratives de contrefaçon industrielle. Si vous voulez une image de ce à quoi ressemble l’Inversion, trouvez une vidéo d’une  » ferme à clics  » : des centaines de smartphones individuels, disposés en rangées sur des étagères ou des racks dans des bureaux d’apparence professionnelle, chacun regardant la même vidéo ou téléchargeant la même application.

Il ne s’agit évidemment pas d’un véritable trafic humain. Mais à quoi ressemblerait le vrai trafic humain ? L’inversion donne lieu à d’étranges questionnements philosophiques : Si un troll russe utilisant la photographie d’un Brésilien pour se faire passer pour un partisan américain de Trump regarde une vidéo sur Facebook, cette vue est-elle « réelle » ? Il n’y a pas que les robots qui se font passer pour des humains et les humains qui se font passer pour d’autres humains, il y a aussi parfois des humains qui se font passer pour des robots et qui prétendent être des « assistants personnels à intelligence artificielle », comme « M » de Facebook, afin d’aider les entreprises technologiques à faire croire qu’elles possèdent une IA de pointe. Nous avons même ce qu’est l’influenceuse Instagram en CGI Lil Miquela : un faux humain avec un vrai corps, un faux visage et une vraie influence. Même les humains qui ne se déguisent pas peuvent se contorsionner à travers des couches de réalité décroissante : The Atlantic rapporte que des influenceurs humains non IGC publient gratuitement du faux contenu sponsorisé – c’est-à-dire du contenu censé ressembler à du contenu censé être authentique – pour attirer l’attention des représentants de marques qui, espèrent-ils, leur verseront de l’argent réel.

Les entreprises sont fausses.

L’argent est généralement réel. Pas toujours – demandez à quelqu’un qui s’est lancé avec enthousiasme dans les crypto-monnaies à cette époque l’année dernière – mais suffisamment souvent pour être un moteur de l’Inversion. Si l’argent est réel, pourquoi tout le reste doit-il l’être ? Au début de cette année, l’écrivain et artiste Jenny Odell a commencé à se pencher sur un revendeur Amazon qui avait acheté des marchandises à d’autres revendeurs Amazon et les revendait, toujours sur Amazon, à des prix plus élevés. Odell a découvert un réseau élaboré de fausses entreprises de gonflement des prix et de vol de droits d’auteur, liées à l’église évangélique sectaire dont les adeptes ont ressuscité Newsweek en 2013 sous la forme d’une ferme de spam zombie optimisée par les moteurs de recherche. Elle a visité une étrange librairie exploitée par les revendeurs à San Francisco et a trouvé une reproduction en béton rabougrie des vitrines bidon éblouissantes qu’elle avait rencontrées sur Amazon, disposées de manière désordonnée avec des livres à succès, des bibelots en plastique et des produits de beauté apparemment achetés à des grossistes. « À un moment donné, j’ai commencé à avoir l’impression d’être dans un rêve », a-t-elle écrit. « Ou que j’étais à moitié réveillée, incapable de distinguer le virtuel du réel, le local du global, un produit d’une image Photoshop, le sincère du non sincère. »

Le contenu est faux.

Le seul site qui me donne cette sensation vertigineuse d’irréalité aussi souvent qu’Amazon est YouTube, qui accueille des semaines de contenu inversé, inhumain. Des épisodes télévisés qui ont été inversés en miroir pour éviter le retrait des droits d’auteur sont diffusés à côté de blogueurs bonimenteurs vendant des produits dérivés qui sont diffusés à côté de vidéos produites anonymement et ostensiblement destinées aux enfants. Une vidéo animée de Spider-Man et d’Elsa de Frozen chevauchant des tracteurs n’est pas, vous savez, pas réelle : une pauvre âme l’a animée et a donné une voix à ses acteurs, et je ne doute pas qu’un certain nombre (des dizaines ? des centaines ? des millions ? bien sûr, pourquoi pas ?) d’enfants l’ont regardée et y ont trouvé un plaisir mystique et occulte. Mais ce n’est certainement pas « officiel », et il est difficile, en le regardant à l’écran en tant qu’adulte, de comprendre d’où il vient et ce que signifie le fait que le nombre de vues en dessous augmente continuellement.

Ces-ci, en tout cas, sont surtout des vidéos pirates de personnages fictifs populaires, c’est-à-dire de l’irréalité contrefaite. La réalité contrefaite est encore plus difficile à trouver – pour l’instant. En janvier 2018, un Redditor anonyme a créé une application de bureau relativement facile à utiliser pour les « deepfakes », une technologie désormais célèbre qui utilise le traitement d’images par intelligence artificielle pour remplacer un visage dans une vidéo par un autre, par exemple celui d’un politicien par celui d’une star du porno. Un récent article universitaire rédigé par des chercheurs de la société Nvidia, spécialisée dans les cartes graphiques, présente une technique similaire utilisée pour créer des images de visages « humains » générés par ordinateur qui ressemblent étonnamment à des photographies de personnes réelles. (La prochaine fois que les Russes voudront marionnetter un groupe d’Américains inventés sur Facebook, ils n’auront même pas besoin de voler des photos de personnes réelles). Contrairement à ce que l’on pourrait croire, un monde imprégné de deepfakes et d’autres images photographiques générées artificiellement ne sera pas un monde dans lequel les « fausses » images sont couramment considérées comme réelles, mais un monde dans lequel les « vraies » images sont couramment considérées comme fausses – simplement parce que, dans le sillage de l’Inversion, qui sera capable de faire la différence ?

Nos politiques sont fausses.

Une telle perte de tout ancrage de la « réalité » ne fait que nous rendre plus nostalgiques. Nos politiques ont été inversées comme tout le reste, imprégnées d’un sentiment gnostique que nous sommes arnaqués, fraudés et qu’on nous ment, mais qu’une « vraie vérité » se cache toujours quelque part. Les adolescents sont très attirés par les vidéos YouTube qui promettent de montrer la dure réalité qui se cache derrière les « arnaques » du féminisme et de la diversité – un processus qu’ils appellent « red-pilling », d’après la scène de Matrix où la simulation informatique disparaît et où la réalité apparaît. Les débats politiques consistent désormais à échanger des accusations de « signal de vertu » – l’idée que les libéraux simulent leur politique pour obtenir une récompense sociale – contre des accusations d’être des robots russes. La seule chose sur laquelle tout le monde peut s’accorder est que tout le monde en ligne ment et est faux.

Nous sommes nous-mêmes faux.

Ce qui, bien. Partout où je suis allé en ligne cette année, on m’a demandé de prouver que j’étais un humain. Pouvez-vous retaper ce mot déformé ? Pouvez-vous transcrire ce numéro de maison ? Pouvez-vous sélectionner les images qui contiennent une moto ? Je me suis retrouvé chaque jour prostré aux pieds de videurs robotisés, montrant frénétiquement mes compétences très développées en matière de reconnaissance de formes – une Vespa est-elle même considérée comme une moto ? – pour pouvoir entrer dans des boîtes de nuit où je ne suis même pas sûr de vouloir entrer. Une fois à l’intérieur, j’ai été dirigé par des boucles de rétroaction de dopamine pour faire défiler bien au-delà de tout point sain, manipulé par des titres et des messages chargés d’émotion pour cliquer sur des choses dont je ne me souciais pas, et harcelé et hâté et amadoué dans des arguments et des achats et des relations si algorithmiquement déterminés qu’il était difficile de les décrire comme réels.

Où cela nous mène-t-il ? Je ne suis pas sûr que la solution soit de rechercher une certaine authenticité pré-Inversion – pour nous recharger en « réalité ». Ce qui a disparu d’Internet, après tout, n’est pas la « vérité », mais la confiance : le sentiment que les personnes et les choses que nous rencontrons sont ce qu’elles représentent. Des années de croissance basée sur des mesures, des systèmes de manipulation lucratifs et des marchés de plates-formes non réglementés ont créé un environnement où il est plus logique d’être faux en ligne – d’être hypocrite et cynique, de mentir et de tricher, de déformer et de déformer – que d’être vrai. Pour y remédier, il faudrait une réforme culturelle et politique dans la Silicon Valley et dans le monde entier, mais c’est notre seul choix. Sinon, nous finirons tous sur l’internet bot de fausses personnes, de faux clics, de faux sites et de faux ordinateurs, où la seule chose réelle est la publicité.

*Une version de cet article apparaît dans le numéro du 24 décembre 2018 du New York Magazine. Abonnez-vous maintenant !