Wie viel vom Internet ist gefälscht? Es stellt sich heraus, dass eine Menge davon tatsächlich gefälscht ist.

Foto: Artwork by Ayatgali Tuleubek

Ende November enthüllte das Justizministerium die Anklageschriften gegen acht Personen, die beschuldigt werden, Werbetreibende in zwei der größten jemals aufgedeckten digitalen Anzeigenbetrügereien um 36 Millionen Dollar betrogen zu haben. Digitale Werbetreibende wollen in der Regel zwei Dinge: Menschen, die sich ihre Anzeigen ansehen, und „Premium“-Websites – d. h. etablierte und seriöse Veröffentlichungen – auf denen sie gehostet werden.
Die beiden Betrugsversuche, um die es in diesem Fall geht und die von den Sicherheitsforschern, die sie entdeckt haben, als Methbot und 3ve bezeichnet wurden, täuschen beides vor. Die Betrüger infizierten 1,7 Millionen Computer mit Malware, die den Datenverkehr auf „gefälschte“ Websites lenkte – „leere Websites, die für den Bot-Verkehr konzipiert sind“, auf denen eine Videoanzeige geschaltet wurde, die bei einer der großen programmatischen Anzeigenbörsen im Internet gekauft wurde, die aber laut Anklageschrift so konzipiert war, dass sie den Werbetreibenden vorgaukelte, dass ihre Anzeige auf einer erstklassigen Verlagsseite wie Vogue oder The Economist geschaltet wurde. Die Aufrufe wurden von mit Malware infizierten Computern gefälscht, die über erstaunlich ausgefeilte Techniken verfügten, um Menschen zu imitieren: Bots „täuschten Klicks, Mausbewegungen und Anmeldeinformationen für soziale Netzwerke vor, um sich als engagierte menschliche Verbraucher auszugeben“. Einige wurden geschickt, um im Internet zu surfen und Tracking-Cookies von anderen Websites zu sammeln, genau wie es ein menschlicher Besucher durch sein normales Verhalten getan hätte. Gefälschte Personen mit gefälschten Cookies und gefälschten Social-Media-Konten, die ihre gefälschten Cursor bewegen und gefälschte Websites anklicken – die Betrüger hatten im Wesentlichen ein Simulakrum des Internets geschaffen, in dem die einzigen echten Dinge die Werbung waren.

Wie viel Internet ist gefälscht? Studien deuten im Allgemeinen darauf hin, dass Jahr für Jahr weniger als 60 Prozent des Internetverkehrs von Menschen verursacht werden; in manchen Jahren ist laut einigen Forschern eine gesunde Mehrheit davon Bot. Wie die Times in diesem Jahr berichtete, bestand 2013 eine Zeit lang die Hälfte des YouTube-Verkehrs aus „Bots, die sich als Menschen ausgeben“. Dieser Anteil war so hoch, dass die Mitarbeiter einen Wendepunkt befürchteten, nach dem die YouTube-Systeme zur Erkennung von betrügerischem Verkehr beginnen würden, Bot-Verkehr als echt und menschlichen Verkehr als gefälscht zu betrachten. Sie nannten dieses hypothetische Ereignis „die Inversion“

Wenn ich in Zukunft aus dem Hightech-Gamer-Gefängnis zurückblicke, in das mich Präsident PewDiePie eingesperrt haben wird, werde ich mich an 2018 als das Jahr erinnern, in dem das Internet die Inversion durchlaufen hat, nicht in einem strikten numerischen Sinne, da Bots bereits in den meisten Jahren die Zahl der Menschen im Internet übertreffen, sondern im wahrnehmungsbezogenen Sinne. Das Internet hat in seinen dunklen Ecken schon immer Schulen von Welsen und Botschaften nigerianischer Prinzen beherbergt, aber diese Dunkelheit durchdringt jetzt jeden Aspekt: Alles, was früher definitiv und unbestreitbar real war, scheint jetzt ein wenig gefälscht zu sein; alles, was früher ein wenig gefälscht schien, hat jetzt die Kraft und Präsenz des Realen. Die „Falschheit“ des Internets nach der Inversion ist weniger eine kalkulierbare Falschheit als vielmehr eine besondere Qualität der Erfahrung – das unheimliche Gefühl, dass das, was einem online begegnet, nicht „echt“, aber auch nicht unbestreitbar „falsch“ ist, und in der Tat beides gleichzeitig oder nacheinander sein kann, während man es im Kopf umdreht.

Die Metriken sind falsch.

Nehmen Sie etwas so scheinbar Einfaches wie die Messung des Internetverkehrs. Metriken sollten das Realste sein, was es im Internet gibt: Sie sind zählbar, nachvollziehbar und überprüfbar, und ihre Existenz bildet die Grundlage für das Werbegeschäft, das unsere größten sozialen und Suchplattformen antreibt. Doch nicht einmal Facebook, die größte Datensammelstelle der Welt, scheint in der Lage zu sein, echte Zahlen zu liefern. Im Oktober reichten kleine Werbetreibende Klage gegen den Social-Media-Riesen ein und beschuldigten ihn, ein Jahr lang deutlich überhöhte Angaben über die Zeit gemacht zu haben, die die Nutzer mit dem Ansehen von Videos auf der Plattform verbracht haben (um 60 bis 80 Prozent, sagt Facebook; um 150 bis 900 Prozent, sagen die Kläger). Laut einer ausführlichen Liste bei MarketingLand hat Facebook in den letzten zwei Jahren zugegeben, die Reichweite von Beiträgen auf Facebook-Seiten (auf zwei verschiedene Arten), die Rate, mit der Betrachter Werbevideos abschließen, die durchschnittliche Zeit, die mit dem Lesen der „Instant Articles“ verbracht wird, die Menge des Weiterleitungsverkehrs von Facebook zu externen Websites, die Anzahl der Aufrufe von Videos über die mobile Website von Facebook und die Anzahl der Videoaufrufe in Instant Articles falsch angegeben zu haben.

Können wir den Metriken noch vertrauen? Was bringt uns das nach der Inversion? Selbst wenn wir uns auf ihre Genauigkeit verlassen, haben sie etwas Unwirkliches an sich: Meine Lieblingsstatistik in diesem Jahr war die Behauptung von Facebook, dass 75 Millionen Menschen jeden Tag mindestens eine Minute lang Facebook Watch-Videos ansehen – obwohl, wie Facebook zugab, die 60 Sekunden in dieser einen Minute nicht aufeinanderfolgend angesehen werden müssen. Echte Videos, echte Menschen, gefälschte Minuten.

Die Menschen sind gefälscht.

Und vielleicht sollten wir nicht einmal annehmen, dass die Menschen echt sind. Bei YouTube „floriert“ das Geschäft mit dem Kauf und Verkauf von Videoaufrufen, wie die Times im August in einer ausführlichen Untersuchung feststellte. Das Unternehmen behauptet, dass nur „ein winziger Bruchteil“ des Datenverkehrs gefälscht ist, aber gefälschte Abonnenten sind ein so großes Problem, dass die Website Mitte Dezember eine Säuberung von „Spam-Konten“ vorgenommen hat. Heutzutage, so fand die Times heraus, kann man 5.000 YouTube-Ansichten – 30 Sekunden eines Videos gelten als eine Ansicht – für nur 15 Dollar kaufen; oft wird den Kunden vorgegaukelt, dass die Ansichten, die sie kaufen, von echten Menschen stammen. Wahrscheinlicher ist jedoch, dass sie von Bots stammen. Auf einigen Plattformen können Videoaufrufe und App-Downloads in lukrativen industriellen Fälschungsoperationen gefälscht werden. Wenn Sie sich ein Bild davon machen wollen, wie die Umkehrung aussieht, suchen Sie ein Video einer „Klickfarm“: Hunderte von einzelnen Smartphones, die in Reihen auf Regalen oder Gestellen in professionell aussehenden Büros angeordnet sind und alle das gleiche Video ansehen oder die gleiche App herunterladen.

Das ist natürlich kein echter menschlicher Verkehr. Aber wie würde echter menschlicher Verkehr aussehen? Die Umkehrung wirft einige merkwürdige philosophische Fragen auf: Wenn ein russischer Troll, der das Foto eines Brasilianers benutzt, um sich als amerikanischer Trump-Anhänger auszugeben, ein Video auf Facebook anschaut, ist das dann „echt“? Es gibt nicht nur Bots, die sich als Menschen ausgeben, und Menschen, die sich als andere Menschen ausgeben, sondern manchmal auch Menschen, die sich als Bots ausgeben und vorgeben, „persönliche Assistenten mit künstlicher Intelligenz“ wie Facebooks „M“ zu sein, um Technologieunternehmen den Anschein zu geben, über eine hochmoderne KI zu verfügen. Wir haben sogar die CGI-Instagram-Influencerin Lil Miquela: ein falscher Mensch mit einem echten Körper, einem falschen Gesicht und echtem Einfluss. Selbst Menschen, die keine Maskerade betreiben, können sich durch Schichten von abnehmender Realität verformen: The Atlantic berichtet, dass menschliche Influencer, die nicht über CGI verfügen, gefälschte gesponserte Inhalte posten – d. h. Inhalte, die wie Inhalte aussehen sollen, die authentisch aussehen sollen, und zwar kostenlos -, um die Aufmerksamkeit von Markenvertretern zu erregen, die ihnen hoffentlich echtes Geld zahlen.

Die Unternehmen sind gefälscht.

Das Geld ist normalerweise echt. Nicht immer – fragen Sie jemanden, der letztes Jahr um diese Zeit mit Begeisterung in Kryptowährungen eingestiegen ist – aber oft genug, um ein Motor der Umkehrung zu sein. Wenn das Geld echt ist, warum muss dann irgendetwas anderes echt sein? Anfang dieses Jahres begann die Schriftstellerin und Künstlerin Jenny Odell, einen Amazon-Wiederverkäufer zu untersuchen, der Waren von anderen Amazon-Wiederverkäufern gekauft und sie, wiederum auf Amazon, zu höheren Preisen weiterverkauft hatte. Odell entdeckte ein ausgeklügeltes Netzwerk von Unternehmen, die mit der sektenähnlichen evangelikalen Kirche verbunden sind, deren Anhänger 2013 Newsweek als Zombie-Suchmaschinen-optimierte Spam-Farm wiederauferstehen ließen. Sie besuchte einen seltsamen Buchladen, der von den Wiederverkäufern in San Francisco betrieben wurde, und fand eine verkümmerte Betonreproduktion der blendend gefälschten Schaufenster, auf die sie bei Amazon gestoßen war, wahllos angeordnet mit Bestseller-Büchern, Plastik-Kitsch und Schönheitsprodukten, die offenbar von Großhändlern gekauft wurden. „Irgendwann hatte ich das Gefühl, in einem Traum zu sein“, schrieb sie. „Oder dass ich halb wach war, unfähig, das Virtuelle vom Realen zu unterscheiden, das Lokale vom Globalen, ein Produkt von einem Photoshop-Bild, das Aufrichtige vom Unaufrichtigen.“

Der Inhalt ist gefälscht.

Die einzige Website, die mir das schwindelerregende Gefühl der Unwirklichkeit so oft vermittelt wie Amazon, ist YouTube, wo wochenlang invertierte, unmenschliche Inhalte zu sehen sind. Fernsehepisoden, die gespiegelt wurden, um Urheberrechtsverletzungen zu vermeiden, werden neben Vloggern ausgestrahlt, die mit Merchandise-Artikeln werben, und neben anonym produzierten Videos, die angeblich für Kinder gedacht sind. Ein Animationsvideo von Spider-Man und Elsa aus Frozen, die auf Traktoren fahren, ist nicht, na ja, nicht echt: Irgendeine arme Seele hat es animiert und den Schauspielern ihre Stimmen gegeben, und ich habe keinen Zweifel daran, dass einige (Dutzende? Hunderte? Millionen? Klar, warum nicht?) Kinder sich das angeschaut haben und ein geheimnisvolles, okkultes Vergnügen daran fanden. Aber es ist mit Sicherheit nicht „offiziell“, und es ist schwer, als Erwachsener zu verstehen, woher es kommt und was es bedeutet, dass die Zahl der Zuschauer ständig steigt.

Dies sind zumindest die meisten Raubkopien von beliebten fiktiven Figuren, d.h. gefälschte Unwirklichkeit. Die gefälschte Realität ist noch schwieriger zu finden – vorerst. Im Januar 2018 erstellte ein anonymer Redditor eine relativ einfach zu bedienende Desktop-App-Implementierung von „Deepfakes“, der inzwischen berüchtigten Technologie, bei der mithilfe von Bildverarbeitung durch künstliche Intelligenz ein Gesicht in einem Video durch ein anderes ersetzt wird – zum Beispiel das eines Politikers durch das eines Pornostars. Ein kürzlich veröffentlichtes akademisches Papier von Forschern des Grafikkartenherstellers Nvidia demonstriert eine ähnliche Technik, mit der Bilder von computergenerierten „menschlichen“ Gesichtern erstellt werden, die Fotos von echten Menschen erschreckend ähnlich sehen. (Wenn die Russen das nächste Mal eine Gruppe erfundener Amerikaner auf Facebook als Puppenspieler einsetzen wollen, brauchen sie nicht einmal Fotos von echten Menschen zu stehlen). Anders als man erwarten könnte, wird eine Welt voller Deepfakes und anderer künstlich erzeugter fotografischer Bilder nicht eine sein, in der „gefälschte“ Bilder routinemäßig für echt gehalten werden, sondern eine, in der „echte“ Bilder routinemäßig für gefälscht gehalten werden – ganz einfach deshalb, weil nach der Inversion niemand mehr in der Lage sein wird, den Unterschied zu erkennen?

Unsere Politik ist gefälscht.

Der Verlust jeglicher Verankerung in der „Realität“ lässt uns nur noch mehr Sehnsucht nach ihr aufkommen. Unsere Politik wurde zusammen mit allem anderen auf den Kopf gestellt, durchdrungen von einem gnostischen Gefühl, dass wir betrogen und hintergangen und belogen werden, aber dass irgendwo noch eine „echte Wahrheit“ lauert. Jugendliche sind sehr angetan von YouTube-Videos, die versprechen, die harte Realität hinter den „Betrügereien“ des Feminismus und der Vielfalt zu zeigen – ein Prozess, den sie „red-pilling“ nennen, nach der Szene in The Matrix, in der die Computersimulation wegfällt und die Realität zum Vorschein kommt. In politischen Auseinandersetzungen wird nun der Vorwurf des „virtue signaling“ – die Idee, dass Liberale ihre Politik nur vortäuschen, um gesellschaftlich belohnt zu werden – gegen den Vorwurf, russische Bots zu sein, ausgetauscht. Das Einzige, worauf man sich einigen kann, ist, dass jeder im Internet lügt und betrügt.

Wir selbst sind betrügerisch.

Was, nun ja. Überall, wo ich dieses Jahr online war, wurde ich aufgefordert zu beweisen, dass ich ein Mensch bin. Kannst du dieses verzerrte Wort neu tippen? Kannst du diese Hausnummer abschreiben? Können Sie die Bilder auswählen, die ein Motorrad enthalten? Jeden Tag lag ich den Türsteher-Robotern zu Füßen, um meine hochentwickelten Fähigkeiten im Erkennen von Mustern unter Beweis zu stellen – zählt eine Vespa überhaupt als ein Motorrad? – damit ich in Nachtclubs reinkomme, von denen ich nicht einmal weiß, ob ich sie betreten will. Wenn ich erst einmal drin war, wurde ich von Dopamin-Feedback-Schleifen dazu gebracht, weit über einen gesunden Punkt hinaus zu scrollen, wurde von emotional aufgeladenen Schlagzeilen und Beiträgen dazu gebracht, auf Dinge zu klicken, die mich nicht interessierten, und wurde zu Argumenten und Käufen und Beziehungen gedrängt, die so algorithmisch bestimmt waren, dass es schwer war, sie als real zu bezeichnen.

Wo führt uns das hin? Ich bin mir nicht sicher, ob die Lösung darin besteht, nach einer Art von Authentizität aus der Zeit vor der Inversion zu suchen – um uns wieder in die „Realität“ zurückzubringen. Was aus dem Internet verschwunden ist, ist nicht die „Wahrheit“, sondern das Vertrauen: das Gefühl, dass die Menschen und Dinge, denen wir begegnen, das sind, was sie vorgeben zu sein. Jahrelanges metrikgesteuertes Wachstum, lukrative manipulative Systeme und unregulierte Plattform-Marktplätze haben ein Umfeld geschaffen, in dem es mehr Sinn macht, online zu fälschen – unaufrichtig und zynisch zu sein, zu lügen und zu betrügen, falsch darzustellen und zu verzerren – als echt zu sein. Um das zu ändern, bedarf es kultureller und politischer Reformen im Silicon Valley und auf der ganzen Welt, aber es ist unsere einzige Chance. Sonst enden wir alle im Bot-Internet mit falschen Menschen, falschen Klicks, falschen Websites und falschen Computern, wo das einzig Wahre die Werbung ist.

*Eine Version dieses Artikels erscheint in der Ausgabe des New York Magazine vom 24. Dezember 2018. Jetzt abonnieren!