インターネットはどこまでがフェイクなのか？

Photo: Ayatgali Tuleubek氏によるアートワーク

11月下旬、司法省は、これまでに発覚した中で最大のデジタル広告詐欺の2つの作戦で、広告主から3600万ドルをだまし取ったとして起訴した8人に対する起訴状を公開しました。 デジタル広告主は、広告を見てくれる人と、広告を掲載する「プレミアム」なウェブサイト（定評ある正当な出版物）の2つを求める傾向にあります。
今回問題となった2つのスキームは、発見したセキュリティ研究者によって Methbot と 3ve と呼ばれ、その両方を偽っていました。 ボット・トラフィック用に設計された空のウェブサイト」では、インターネット上の膨大なプログラム広告取引所から購入したビデオ広告が配信されますが、起訴状によれば、「広告の印象が、Vogue や The Economist のようなプレミアム出版社のサイトで配信されたと広告主が錯覚するように設計されている」そうです。 ボットは「クリック、マウスの動き、ソーシャルネットワークのログイン情報を偽装し、熱心な人間の消費者になりすました」のです。 ボットの中には、人間の訪問者が通常の行動によって行うのと同じように、他のウェブサイトからトラッキングクッキーを収集するためにインターネットを閲覧するように送られたものもありました。 偽のクッキーと偽のソーシャル メディア アカウントを持つ偽の人々、偽のカーソルを動かし、偽の Web サイトをクリックする – 詐欺師たちは本質的に、本物だけが広告であるインターネットのシミュラクルを作り上げていました。 一般に、年々、ウェブトラフィックの60％以下が人間のものであることが研究で指摘されています。 2013年のある時期、YouTubeのトラフィックの半分が「人間を装ったボット」であったとTimesは今年報じています。この割合があまりにも高いため、YouTubeの不正トラフィックを検出するシステムが、ボットを本物、人間を偽物と見なし始める変曲点を従業員が危惧していたそうです。 彼らはこの仮説的な出来事を「逆転」と呼びました。

将来、ピューディパイ大統領が投獄されたハイテク ゲーマー刑務所から振り返ったとき、私はインターネットが逆転を通過した年として 2018 年を思い出すでしょう。 インターネットは常にその暗黒の隅でナマズの学校やナイジェリア王子の大使館をホストしてきたが、その暗黒は今やそのあらゆる側面に行き渡っている。 かつて決定的に疑いなく本物だと思えたものが、今ではわずかに偽物だと思え、わずかに偽物だと思えたものが、今では本物のパワーと存在感を持つようになった。 反転後のインターネットの「フェイク」は、計算可能な虚偽というよりも、経験の特殊な質である。オンラインで遭遇するものは「リアル」ではないが、紛れもなく「フェイク」でもないという不気味な感覚であり、実際に頭の中でそれをひっくり返すと、同時に、あるいは連続して、両方であるかもしれないのだ。

私たちがウェブのトラフィックをどのように測定しているかというような、一見単純なことを例に挙げてみましょう。 メトリクスは、インターネット上で最もリアルなものであるはずです。 数え上げられ、追跡可能で、検証可能であり、その存在は、最大のソーシャル プラットフォームや検索プラットフォームを動かす広告ビジネスを支えています。 しかし、世界最大のデータ収集機関であるフェイスブックでさえ、本物の数字を出すことはできないようです。 10月、小規模の広告主がこの巨大なソーシャルメディアに対して訴訟を起こし、ユーザーがプラットフォーム上で動画を視聴するのに費やした時間を1年間にわたり大幅に誇張して隠蔽していたと非難した（Facebookは60～80％、原告は150～900％としている）。 MarketingLandの包括的なリストによると、過去2年間、Facebookは、Facebookページの投稿のリーチ（2つの異なる方法）、視聴者が広告動画を完了する割合、「Instant Articles」を読むのに費やした平均時間、Facebookから外部ウェブサイトへの参照トラフィック量、Facebookのモバイルサイト経由で受け取った動画の視聴数、Instant Articlesの動画視聴数を誤って報告していることを認めました。 反転の後、何が言いたいのか？ その正確さに信頼を置いても、何か現実味がない。 今年の私のお気に入りの統計は、7500万人が毎日少なくとも1分間Facebook Watchのビデオを視聴しているというFacebookの主張でした-Facebookが認めたように、その1分間のうちの60秒は連続して視聴する必要はありませんでしたが。 本物の動画、本物の人々、偽の1分。

人々は偽物です。

そして、人々が本物であると仮定すべきではないのかもしれない。 YouTubeでは、ビデオの再生回数を売買するビジネスが「盛ん」であることを、Timesが8月に長時間の調査をして読者に思い起こさせました。 同社は、トラフィックのうち偽物は「ごく一部」だと述べているが、偽の登録者は12月中旬に「スパムアカウント」のパージが行われるほど問題になっている。 最近では、YouTubeの再生回数5,000回（動画の30秒が1回とカウントされる）を15ドルという低価格で購入できることがタイムズの調べで分かった。多くの場合、顧客は購入した再生回数が本物の人間から来たと信じ込まされる。 より可能性が高い、彼らはボットから来る。 いくつかのプラットフォームでは、ビデオのビューとアプリのダウンロードは、有利な産業偽造操作で偽造することができます. 逆転現象がどのようなものかを知りたい場合は、「クリック ファーム」の動画を見つけてください。何百もの個々のスマートフォンが、プロ仕様のオフィスの棚やラックに一列に並べられ、それぞれが同じ動画を見たり同じアプリをダウンロードしたりしています。 しかし、本当の人間のトラフィックとはどのようなものでしょうか。 反転は、いくつかの奇妙な哲学的な難問を生じさせます。 ブラジル人の写真を使い、アメリカのトランプ支持者になりすましたロシアのトロールがFacebookでビデオを見た場合、その視聴は「本物」なのでしょうか。 人間になりすましたボットや他の人間になりすました人間だけでなく、時には人間がボットになりすまし、Facebookの「M」のような「人工知能パーソナルアシスタント」のふりをして、ハイテク企業が最先端のAIを持っているように見せかけることもあるのです。 さらに、Instagramのインフルエンサーであるリル・ミケラというCGIまでいる。これは、本物の体、偽の顔、そして本物の影響力を持つ偽の人間である。 仮面ライダーでない人間でさえ、現実を縮小するレイヤーを通して自分自身を歪めることができる。 アトランティックのレポートによると、非CGIの人間のインフルエンサーは、偽のスポンサー付きコンテンツ、つまり、本物に見えるように意図されたコンテンツを無料で投稿し、ブランド担当者の注目を集め、彼らが本当のお金を支払うことを望んでいます。

お金はたいてい本物です。 常にというわけではありませんが、昨年の今頃、暗号通貨に熱中していた人に聞いてみると、反転のエンジンとして十分な場合があります。 もしお金が本物なら、なぜ他のものは本物である必要があるのでしょうか？ 今年初め、作家でアーティストのジェニー・オデルは、アマゾンの転売人が他のアマゾン転売人から商品を買い、それをまたアマゾンでより高い価格で転売していたことを調べ始めた。 オデルは、信者が2013年にニューズウィークをゾンビのような検索エンジンに最適化されたスパム農場として復活させたカルト的な福音派教会につながる、偽の価格高騰と著作権泥棒のビジネスの精巧なネットワークを発見したのである。 彼女はサンフランシスコで転売屋が運営する奇妙な書店を訪れ、アマゾンで遭遇したまばゆいばかりの偽物の店先を発育不良のコンクリートで再現し、ベストセラー本やプラスチックの小物、卸売業者から買ったらしい美容用品を無造作に並べているのを発見した。 「ある時、私は夢の中にいるような気がしてきた」と彼女は書いている。 「あるいは、半分起きていて、バーチャルとリアル、ローカルとグローバル、商品とフォトショップ画像、誠実と不誠実の区別がつかなくなっていた。

アマゾンほど頻繁に非現実のめまいがする感覚を与えてくれるサイトは、何週間分もの反転した非人間的なコンテンツをホストしているYouTubeだけである。 著作権の侵害を避けるために鏡像反転されたテレビのエピソードが、匿名で制作された子供向けのビデオの横で、商品を売り込む詐欺師のブロガーの横で放映されています。 スパイダーマンとアナと雪の女王のエルサがトラクターに乗るアニメーションのビデオは、あの、本物ではありません。ある貧しい魂がそれをアニメーション化し、役者に声を与え、何人かの（何十人？ 何百人？ もちろん、何百万人？）子供が座ってそれを見て、何か不思議でオカルト的な楽しみを見つけたのは間違いないでしょう。 しかし、それは確かに「公式」ではないし、大人になってからスクリーンで見ても、それがどこから来たのか、その下の再生回数が増え続けていることの意味を理解するのは難しい。

少なくともこれらは、ほとんどが人気の架空のキャラクターの海賊版ビデオ、つまり、偽造された非現実である。 偽造された現実は、今のところ、まだ見つけるのが難しい。 2018年1月、匿名のRedditorが、人工知能の画像処理を使って動画の中のある顔を別の顔に置き換える、例えば政治家の顔をポルノスターの顔に置き換える、今や有名な技術「deepfakes」の比較的使いやすいデスクトップ・アプリケーション実装を作成したのである。 グラフィックスカード会社Nvidiaの研究者が最近発表した学術論文では、コンピュータで生成した「人間」の顔の画像を、本物の人間の写真のように衝撃的に見せるために使われる同様の技術が示されている。 (次にロシア人がFacebookでアメリカ人を操りたいと思ったとき、本物の人間の写真を盗む必要さえないだろう）。 予想に反して、ディープフェイクやその他の人工的に生成された写真画像で満たされた世界は、「偽物」の画像が日常的に本物だと信じられている世界ではなく、「本物」の画像が日常的に偽物だと信じられている世界だろう。

Our politics are fake.

このような「現実」の固定観念の喪失は、それをより切望させるだけです。 私たちの政治は他のすべてとともに反転し、私たちは詐欺にあい、騙され、嘘をつかれているが、「本当の真実」はまだどこかに潜んでいるというグノーシス的な感覚に満たされているのである。 フェミニズムや多様性といった「詐欺」の裏にある厳しい現実を示すと約束するYouTubeのビデオに、思春期の子どもたちは深く惹きつけられている。このプロセスは、マトリックスでコンピューターのシミュレーションが崩壊して現実が現れるシーンにちなんで「レッドピリング」と呼ばれている。 政治的な議論では、リベラル派が社会的報酬のために政治を偽っているという考えである「美徳のシグナル」の非難と、ロシアのボットであるという非難を交換することが行われている。 誰もが同意できる唯一のことは、オンラインの誰もが嘘をついており、偽物であるということだ。

それは、まあ。 今年に入ってからネットのどこに行っても、人間であることを証明するように言われた。 この歪んだ単語を打ち直せるか？ この家屋番号を書き写せますか？ バイクを含む画像を選べるか？ 私は毎日ロボットの用心棒の足元にひれ伏し、必死で自分の高度なパターンマッチング能力を誇示した。 – Vespaはバイクに入るのか？）、そして自分が入りたいのかどうかもわからないナイトクラブに入るために、高度に発達したパターンマッチングの技術を必死にアピールしていました。 いったん中に入ると、ドーパミンフィードバックのループによって、健康的なポイントをはるかに超えてスクロールするように指示され、感情的に帯電した見出しや投稿に操られて、興味のないものをクリックし、嫌がらせを受け、へつらい、甘い言葉で議論や購入や関係に誘導され、現実として説明するのが難しいほどアルゴリズム的に決定されました

その結果どうなるのでしょうか。 その解決策は、インバージョン以前の真正性を求めること、つまり「現実」に戻って自分を再投入することだとは思えません。 結局のところ、インターネットから失われたものは、「真実」ではなく、「信頼」なのです。 長年にわたる測定基準主導の成長、有利な操作システム、規制されていないプラットフォーム市場によって、オンラインでは本物であることよりも偽物であること、つまり不誠実で皮肉であること、嘘やごまかし、誤認や歪曲が意味を持つような環境が作り出されています。 この問題を解決するには、シリコンバレーや世界中の文化的・政治的改革が必要ですが、それが私たちの唯一の選択肢です。 さもなければ、私たちは皆、偽の人々、偽のクリック、偽のサイト、偽のコンピュータのボットインターネットに行き着き、そこで唯一の本物は広告である。

* この記事のバージョンは、ニューヨークマガジン2018年12月24日号で掲載されています。 今すぐ購読する！