Jak dużo Internetu jest fałszywe? Turns Out, a Lot of It, Actually.

Zdjęcie: Artwork by Ayatgali Tuleubek

Pod koniec listopada Departament Sprawiedliwości odpieczętował akty oskarżenia przeciwko ośmiu osobom oskarżonym o wyłudzanie od reklamodawców 36 milionów dolarów w dwóch największych operacjach cyfrowego oszustwa reklamowego, jakie kiedykolwiek zostały ujawnione. Digital reklamodawcy zazwyczaj chcą dwie rzeczy: ludzie, aby spojrzeć na ich reklamy i „premium” witryn – tj. ustalone i uzasadnione publikacje – na których do hostingu.
Dwa systemy w sprawie, nazwane Methbot i 3ve przez badaczy bezpieczeństwa, którzy je znaleźli, sfałszowane obu. Hakerzy zainfekowali 1,7 miliona komputerów złośliwym oprogramowaniem, które zdalnie kierowało ruch na „sfałszowane” strony internetowe – „puste strony zaprojektowane dla ruchu botów”, które serwowały reklamy wideo zakupione od jednej z ogromnych internetowych programowych giełd reklamowych, ale które zostały zaprojektowane, zgodnie z aktami oskarżenia, „aby oszukać reklamodawców, aby myśleli, że wrażenie ich reklamy zostało zaserwowane na stronie wydawcy premium”, takiej jak ta z Vogue lub The Economist. Widoki, w międzyczasie, zostały sfałszowane przez zainfekowane złośliwym oprogramowaniem komputery z cudownie wyrafinowanych technik do naśladowania ludzi: boty „fałszywe kliknięcia, ruchy myszy, i informacje logowania do sieci społecznych do maskarady jako zaangażowanych konsumentów ludzkich.” Niektóre z nich zostały wysłane do przeglądania Internetu w celu zbierania ciasteczek śledzących z innych stron internetowych, tak jak zrobiłby to ludzki odwiedzający poprzez regularne zachowanie. Fałszywi ludzie z fałszywymi ciasteczkami i fałszywymi kontami w mediach społecznościowych, fałszywe ruchy ich fałszywych kursorów, fałszywe kliknięcia na fałszywych stronach internetowych – oszuści w zasadzie stworzyli symulakrum Internetu, w którym jedynymi prawdziwymi rzeczami były reklamy.

Jak duża część Internetu jest fałszywa? Badania ogólnie sugerują, że rok po roku, mniej niż 60 procent ruchu w sieci jest człowiekiem; niektóre lata, według niektórych badaczy, zdrowa większość to bot. Przez pewien czas w 2013 roku, jak donosił w tym roku Times, połowa ruchu na YouTube to były „boty podszywające się pod ludzi”, część tak duża, że pracownicy obawiali się punktu zwrotnego, po którym systemy YouTube do wykrywania fałszywego ruchu zaczną traktować ruch botów jako prawdziwy, a ruch ludzki jako fałszywy. Nazwali to hipotetyczne wydarzenie „Inwersją.”

W przyszłości, kiedy spojrzę wstecz z więzienia dla graczy high-tech, w którym uwięzi mnie prezes PewDiePie, zapamiętam rok 2018 jako rok, w którym internet przeszedł Inwersję, nie w jakimś ścisłym sensie liczbowym, ponieważ boty już przewyższają liczbę ludzi online więcej lat niż nie, ale w sensie percepcyjnym. Internet zawsze gościł w swoich ciemnych zakamarkach szkoły sumów i ambasady nigeryjskich książąt, ale ten mrok przenika teraz każdy jego aspekt: Wszystko, co kiedyś wydawało się definitywnie i bezsprzecznie prawdziwe, teraz wydaje się nieco fałszywe; wszystko, co kiedyś wydawało się nieco fałszywe, teraz ma moc i obecność tego, co prawdziwe. Fałszywość” internetu post-inwersyjnego jest mniej obliczalnym fałszem, a bardziej szczególną jakością doświadczenia – niesamowitym poczuciem, że to, co napotykasz w sieci nie jest „prawdziwe”, ale też niezaprzeczalnie nie jest „fałszywe”, i rzeczywiście może być jednym i drugim naraz, lub po kolei, gdy obracasz to w swojej głowie.

Metryki są fałszywe.

Przyjmij coś tak pozornie prostego, jak sposób, w jaki mierzymy ruch w sieci. Metryki powinny być najbardziej prawdziwą rzeczą w Internecie: Są policzalne, śledzone i weryfikowalne, a ich istnienie leży u podstaw biznesu reklamowego, który napędza nasze największe platformy społecznościowe i wyszukiwania. Jednak nawet Facebook, największa na świecie organizacja gromadząca dane, wydaje się nie być w stanie wyprodukować prawdziwych liczb. W październiku, małych reklamodawców złożył pozew przeciwko social-media giganta, oskarżając go o ukrywanie, na rok, jego znaczne zawyżanie czasu użytkownicy spędzili oglądając filmy na platformie (o 60 do 80 procent, Facebook mówi; o 150 do 900 procent, powodowie mówią). Według wyczerpującej listy na MarketingLand, w ciągu ostatnich dwóch lat Facebook przyznał się do błędnego raportowania zasięgu postów na Facebook Pages (na dwa różne sposoby), tempo, w którym widzowie zakończyć filmy reklamowe, średni czas spędzony na czytaniu jego „Instant Articles”, ilość ruchu skierowanego z Facebooka do zewnętrznych stron internetowych, liczba wyświetleń, że filmy otrzymane za pośrednictwem strony mobilnej Facebook, a liczba wyświetleń wideo w Instant Articles.

Czy nadal możemy ufać metryki? Po Inwersji, jaki jest tego sens? Nawet gdy pokładamy wiarę w ich dokładność, jest w nich coś nie do końca prawdziwego: Moją ulubioną statystyką w tym roku było twierdzenie Facebooka, że 75 milionów ludzi oglądało co najmniej minutę filmów z Facebook Watch każdego dnia – choć, jak przyznał Facebook, 60 sekund w tej jednej minucie nie musiało być oglądane kolejno. Prawdziwe filmy, prawdziwi ludzie, fałszywe minuty.

Ludzie są fałszywi.

A może nawet nie powinniśmy zakładać, że ludzie są prawdziwi. Na YouTube, biznes kupowania i sprzedawania wyświetleń wideo „kwitnie”, jak Times przypomniał czytelnikom z długim dochodzeniem w sierpniu. Firma twierdzi, że tylko „niewielki ułamek” jej ruchu jest fałszywy, ale fałszywi subskrybenci są na tyle dużym problemem, że strona podjęła czystkę „kont spamowych” w połowie grudnia. Te dni, Times znaleźć, można kupić 5.000 wyświetleń YouTube – 30 sekund wideo liczy się jako widok – za tak niskie, jak 15 dolarów; często klienci są prowadzone, aby uwierzyć, że widoki, które kupują pochodzą od prawdziwych ludzi. Bardziej prawdopodobne jest to, że pochodzą one od botów. Na niektórych platformach, odsłony wideo i pobrania aplikacji mogą być podrabiane w lukratywnych przemysłowych operacjach podrabiania. Jeśli chcesz obraz tego, co Inwersja wygląda, znajdź wideo z „farmy kliknięć”: setki pojedynczych smartfonów, ułożone w rzędach na półkach lub stojakach w profesjonalnie wyglądających biurach, każdy ogląda ten sam film lub pobiera tę samą aplikację.

To oczywiście nie jest prawdziwy ludzki ruch. Ale jak wyglądałby prawdziwy ludzki ruch? Inwersja rodzi pewne dziwne filozoficzne dylematy: Jeśli rosyjski troll używający zdjęcia Brazylijczyka do maskowania się jako amerykański zwolennik Trumpa ogląda wideo na Facebooku, to czy to oglądanie jest „prawdziwe”? Mamy nie tylko boty podszywające się pod ludzi i ludzi podszywających się pod innych ludzi, ale także czasami ludzi podszywających się pod boty, udających „asystentów osobistych obdarzonych sztuczną inteligencją”, takich jak „M” Facebooka, aby pomóc firmom technologicznym w stworzeniu wrażenia, że posiadają najnowocześniejsze AI. Mamy nawet to, czym jest CGI Instagram influencer Lil Miquela: fałszywy człowiek z prawdziwym ciałem, fałszywą twarzą i prawdziwymi wpływami. Nawet ludzie, którzy nie są maskaradą, mogą się przekręcać przez warstwy zmniejszającej się rzeczywistości: The Atlantic donosi, że nie-CGI ludzcy influencerzy zamieszczają fałszywe treści sponsorowane – czyli treści mające wyglądać jak treści, które mają wyglądać autentycznie, za darmo – aby przyciągnąć uwagę przedstawicieli marek, którzy, jak mają nadzieję, zapłacą im prawdziwe pieniądze.

Firmy są fałszywe.

Pieniądze są zazwyczaj prawdziwe. Nie zawsze – zapytaj kogoś, kto entuzjastycznie wszedł w kryptowaluty o tej porze w zeszłym roku – ale wystarczająco często, aby być motorem Inwersji. Jeśli pieniądze są prawdziwe, dlaczego cokolwiek innego musi być prawdziwe? Na początku tego roku pisarka i artystka Jenny Odell zaczęła przyglądać się pewnemu sprzedawcy Amazon, który kupował towary od innych sprzedawców Amazon i odsprzedawał je, ponownie na Amazon, po wyższych cenach. Odell odkryła misterną sieć fałszywych firm wyłudzających ceny i kradnących prawa autorskie, powiązanych z kultowym kościołem ewangelickim, którego wyznawcy wskrzesili Newsweeka w 2013 roku jako farmę spamu zombie zoptymalizowaną pod kątem wyszukiwarek. Odwiedziła dziwną księgarnię prowadzoną przez sprzedawców w San Francisco i zastała tam obezwładniającą betonową reprodukcję oszałamiająco fałszywych witryn sklepowych, z którymi zetknęła się na Amazonie, ułożonych chaotycznie z najlepiej sprzedających się książek, plastikowych drobiazgów i produktów kosmetycznych najwyraźniej kupionych w hurtowniach. „W pewnym momencie zaczęłam czuć się jak we śnie” – napisała. „Albo że byłam półprzytomna, niezdolna odróżnić wirtualnego od prawdziwego, lokalnego od globalnego, produktu od obrazu z Photoshopa, szczerego od nieszczerego.”

Treść jest fałszywa.

Jedyna strona, która daje mi to zawrotne uczucie nierzeczywistości tak często jak Amazon, to YouTube, który jest gospodarzem tygodni wartych odwróconych, nieludzkich treści. Odcinki telewizyjne, które zostały odwrócone w lustrzanym odbiciu, aby uniknąć przejęcia praw autorskich, pojawiają się obok hochsztaplerów sprzedających towary, którzy pojawiają się obok anonimowo wyprodukowanych filmów, które rzekomo są przeznaczone dla dzieci. Animowany filmik przedstawiający Spider-Mana i Elsę z Frozen jeżdżących na traktorach nie jest, no wiecie, nie jest prawdziwy: Jakaś biedna dusza go animowała i użyczyła głosu aktorom, i nie mam wątpliwości, że jakaś liczba (dziesiątki? setki? miliony? jasne, czemu nie?) dzieci usiadła i obejrzała go i znalazła w nim jakąś tajemniczą, okultystyczną przyjemność. Ale to z pewnością nie jest „oficjalne”, i trudno jest, oglądając to na ekranie jako dorosły, zrozumieć skąd to się wzięło i co oznacza, że liczba wyświetleń pod tym filmem ciągle rośnie.

Te, przynajmniej, są w większości bootlegami popularnych fikcyjnych postaci, czyli fałszywą nierzeczywistością. Fałszywa rzeczywistość jest na razie trudniejsza do znalezienia. W styczniu 2018 r. anonimowy użytkownik Redditora stworzył stosunkowo łatwą w użyciu aplikację desktopową do implementacji „deepfakes”, słynnej już technologii, która wykorzystuje przetwarzanie obrazu z wykorzystaniem sztucznej inteligencji do zastąpienia jednej twarzy w filmie inną – umieszczając, powiedzmy, twarz polityka nad twarzą gwiazdy porno. Ostatnia praca naukowa badaczy z firmy Nvidia, produkującej karty graficzne, demonstruje podobną technikę wykorzystywaną do tworzenia obrazów „ludzkich” twarzy generowanych komputerowo, które wyglądają szokująco podobnie do fotografii prawdziwych ludzi. (Następnym razem, gdy Rosjanie będą chcieli zmanipulować grupę wymyślonych Amerykanów na Facebooku, nie będą musieli nawet kraść zdjęć prawdziwych ludzi). Wbrew temu, czego można by się spodziewać, świat przesiąknięty deepfake’ami i innymi sztucznie wygenerowanymi obrazami fotograficznymi nie będzie światem, w którym „fałszywe” obrazy są rutynowo uważane za prawdziwe, ale takim, w którym „prawdziwe” obrazy są rutynowo uważane za fałszywe – po prostu dlatego, że w następstwie Inwersji, kto będzie w stanie je odróżnić?

Nasza polityka jest fałszywa.

Taka utrata jakiejkolwiek kotwiczącej „rzeczywistości” tylko sprawia, że bardziej za nią tęsknimy. Nasza polityka została odwrócona wraz ze wszystkim innym, przesiąknięta gnostyckim poczuciem, że jesteśmy oszukiwani i okłamywani, ale że „prawdziwa prawda” wciąż gdzieś się czai. Nastolatki są głęboko zaangażowane w filmy na YouTube, które obiecują pokazać twardą rzeczywistość pod „oszustwami” feminizmu i różnorodności – proces, który nazywają „red-pillingiem” po scenie z Matrixa, kiedy komputerowa symulacja znika i pojawia się rzeczywistość. Kłótnie polityczne polegają teraz na wymianie oskarżeń o „sygnalizację cnoty” – pomysł, że liberałowie udają swoją politykę dla nagrody społecznej – z oskarżeniami o bycie rosyjskimi botami. Jedyną rzeczą, co do której wszyscy mogą się zgodzić, jest to, że wszyscy online kłamią i są fałszywi.

My sami jesteśmy fałszywi.

Co, cóż. Gdziekolwiek w tym roku byłem w sieci, proszono mnie o udowodnienie, że jestem człowiekiem. Możesz powtórzyć to zniekształcone słowo? Czy potrafisz przepisać ten numer domu? Czy potrafisz wybrać zdjęcia, które zawierają motocykl? Codziennie padałem na kolana u stóp robotów-bramkarzy, gorączkowo popisując się moimi wysoko rozwiniętymi umiejętnościami kojarzenia wzorów – czy Vespa to w ogóle motocykl? – żeby dostać się do nocnych klubów, do których nawet nie jestem pewien, czy chcę wejść. Po wejściu do środka, byłem kierowany przez pętle dopaminy do przewijania daleko poza zdrowy punkt, manipulowany przez emocjonalnie naładowane nagłówki i posty, aby kliknąć na rzeczy, które mnie nie obchodziły, i nękany, hektoryzowany i słodko-mówiony do argumentów, zakupów i relacji tak algorytmicznie określonych, że trudno było je opisać jako prawdziwe.

Gdzie nas to zostawia? Nie jestem pewien, czy rozwiązaniem jest poszukiwanie autentyczności sprzed rewolucji – przywrócenie nas z powrotem do „rzeczywistości”. To, co zniknęło z Internetu, to nie „prawda”, ale zaufanie: poczucie, że ludzie i rzeczy, z którymi się stykamy, są tym, za co się podają. Lata wzrostu napędzanego wskaźnikami, lukratywnych systemów manipulacji i nieuregulowanych platform rynkowych stworzyły środowisko, w którym bardziej opłaca się być fałszywym w sieci – być nieszczerym i cynicznym, kłamać i oszukiwać, przeinaczać i zniekształcać – niż być prawdziwym. Naprawa tego stanu rzeczy wymagałaby reformy kulturowej i politycznej w Dolinie Krzemowej i na całym świecie, ale jest to nasz jedyny wybór. W przeciwnym razie wszyscy skończymy w internecie botów fałszywych ludzi, fałszywych kliknięć, fałszywych stron i fałszywych komputerów, gdzie jedyną prawdziwą rzeczą są reklamy.

*Wersja tego artykułu pojawiła się w wydaniu New York Magazine z 24 grudnia 2018 roku. Subscribe Now!