つい最近、中国サイバースペース管理局と他の3つの部門が共同で「ネットワークプラットフォームアルゴリズムの典型的な問題に対処するための特別キャンペーンの開始に関する通知」を発行しましたが、その中核的な問題は、「情報の繭」を防ぎ、プッシュされるコンテンツの多様性と豊かさを向上させるメカニズムを構築することです。

「情報の繭」という概念は、ハーバード大学のキャス・R・サンスティーン教授が著書『情報のユートピア』の中で提唱したものです。それは、自分が見たり聞いたりしたいものがあり、意見や話題の議論は自分の考えの反響に過ぎない、温かく親しみやすい場所というものです。

言い換えれば、プラットフォームのアルゴリズムは、ユーザーのクリック、閲覧、検索履歴を使用して、一部の情報をユーザーに割り当て、ユーザーが他の情報に触れる機会を減らすか無視することで、情報の閉じた「ブラックボックス」を構築します。

あなたが見ているものは、アルゴリズムがあなたに見せたいものであり、あなたの思考もアルゴリズムによって微妙に影響を受けます。

それで、この「ブラックボックス」の中は怖いですか?

アルゴリズムも常に進化しています。

インターネットの情報爆発の時代では、知識は容易に入手できる情報の流れになりました。

ユーザーの課題はもはや「どこで知識を学ぶか」ではなく、「知識の信憑性をどのように判断するか」へと格上げされ、アルゴリズムが役割を果たす余地が生まれています。

情報繭によって作り出される「エコーチェンバー効果」とは、どんなにニッチな趣味や突飛なアイデアであっても、アルゴリズムによる割り当てを通じて同じ考えを持つパートナーを見つけることができることを意味します。

あなたが気に入った画像、テキスト、ショートビデオはすべてあなた自身の「エコー」です。

誰もが見たいものを見ることができ、誰もが自分の狭いサークル内で「自由」と「幸福」を維持できる。たとえその「自由」と「幸福」が、アルゴリズムがあなたを閉じ込めるために使う柵に過ぎなかったとしても。

さらに恐ろしいのは、アルゴリズムが進化する可能性があるということです。

アルゴリズムバージョン1.0では、ユーザーが能動的にデータを選択し、収集します。このアルゴリズムは協調フィルタリングを用いてユーザーの過去の行動を分析し、好みを特定し、ユーザーが好む可能性のある商品を予測して、それに応じたレコメンデーションを行います。これは、ショッピングプラットフォームによく見られる「おすすめ商品」機能に似ています。

ビッグデータにサポートされたアルゴリズム バージョン 2.0 の登場により、個人的な収集と選択は基本的に不要になり、マシンがユーザーの好みに応じてコンテンツを直接プッシュします。

人種、社会階級、グループ、意見に関わらず、アルゴリズムはあなたが見たいものだけを表示します。誰もが自分の視点こそが世界で最も正しいと信じ、あなたの心理的欲求を完全に満たし、慰めています。

もちろん、アルゴリズム 2.0 は「情報の繭」を作り出したとは認めず、それが「カスタマイズされたリーチ/垂直的な推奨/正確なターゲティング」の結果であり、合理的かつ合法的なビジネス ツールであるとだけ述べるでしょう。

Douyin/Kuaishou の興味に基づく推奨は、一見中立的なアルゴリズムですが、実際にはグループによって影響が大きく異なります。

「幅広い興味」を持つユーザーの多くは、ペット、旅行、デジタル製品、そしてもちろん「黒ストッキングを履いた女性」や「腹筋の割れた男性」といったコンテンツを受け取るでしょう。少なくとも現在のプラットフォーム環境では、後者が前者よりもはるかに大きな割合を占めています。

生活が比較的単調で、日々のルーチンが繰り返し行われ、自制心が欠如しており、情報へのアクセスが限られているユーザーにとって、このようなアルゴリズムによる推奨は非常にマイナスの影響を与える可能性があります。

さらに、このグループには、ブルーカラー労働者、中高年、小中学生の若者など、非常に幅広い層が含まれます。

アルゴリズムの影響を受けて、彼らは簡単に「黒ストッキングの女性と腹筋の男性」の繭に中毒になり、「不適切な」情報を受け取ることさえあります。

たとえば、高齢者は健康、ウェルネス、短期ドラマに夢中で、裕福な人は掃除婦に夢中になるだろうと信じています。

ブルーカラー労働者は、長い一日の肉体労働の後、借りた部屋に横たわり、示唆に富むライブ配信に夢中になり、プラットフォームで一番の支出者になるために給料の全額を費やしている。

小中学生の中には、幼い頃から年齢にふさわしくないコンテンツにさらされている生徒もいます。

こうした人口密度の高い地域が「感情抜きで、興味だけに基づいた」アルゴリズムによって推奨されれば、一連の社会問題を引き起こすことになるだろう。

赤い錠剤？それとも青い錠剤？

自分が望む世界でしか生きられないなら、多くの人はそんなことはどうでもいいと思っている。ただの「大衆娯楽」じゃないか？私は、自分の人生を楽にして、残酷な現実から逃れたい。

アルゴリズムがあなたの認識に影響を与えるとしたらどうなるでしょうか?

いわゆる「認知」とは、実際には情報量と情報処理能力のことです。より多くの情報を取り入れるほど、認知を支える知識体系は強固になります。

あなたが摂取する情報が「誤解を招く」情報でいっぱいだったらどうしますか?

例えば、Douyin や Kuaishou のようなショートビデオアプリを開いて 10 本のショートビデオを見て、そのうち 9 本が LGBT 運動に関するものだったら、LGBT がすでに社会の主流の性的指向であり、異性愛者は実は性的少数派であると考えますか?

この情報を吸収し終えて認識を形成したなら、おめでとうございます。これでアルゴリズムの「後半」に入ったことになります。これを否定すれば、認識全体がひっくり返ってしまうことになります。

現在のアルゴリズムを完璧に表現した風刺的なジョークがあります。

「小学校の頃、クラスメイトはみんな『西遊記』が大好きでした。みんなは唐三蔵の袈裟は黒いと言っていました。でも、あるクラスメイトが強く反対して、赤いと主張したので、他のクラスメイトに殴られました。その後、彼は泣きながら私たちを家に連れて行ってくれました。世の中にカラーテレビがあるなんて、驚きました。」

そうです、「黒いローブ」が真実であると信じるなら、「赤いローブ」は異端であり、部外者であり、火あぶりにされるべき存在であり、異なる声に対する拒絶と敵意に満ちているのです。

「ブラックローブ」に真実を知ってもらいたいなら、彼らの認識をすべて打ち砕き、彼らの頭蓋骨を持ち上げ、真実が何であるかを本当に知らせなければなりません。

マトリックスのように、アルゴリズムの快適な世界と残酷で無関心な現実世界に直面したとき、あなたは青い錠剤と赤い錠剤のどちらを選びますか？

ほとんどの人は、たとえ自分の情報がすべてコントロールされていたとしても、自分に合ったアルゴリズムの世界を選ぶだろうと私は信じています。

地主か農奴か？

フランスの経済学者セドリック・デュランは「技術的封建主義」という本を著し、アルゴリズムの背後にある企業を「地主」、ユーザーを「農奴」とみなした。

デュラン氏は、アルゴリズムとデジタル技術の応用によってユーザーがデジタル農奴と化していると主張する。アルゴリズムはユーザーデータを分析し、ユーザーの行動を予測し、それを利益へと変換する。アルゴリズムの支配下では、ユーザーは自律性と制御性を失い、アルゴリズムの論理に従って行動するようになる。このアルゴリズム支配の現象は、封建社会における農民の土地への依存に似ており、ユーザーをデジタルプラットフォームの「領土」に縛り付け、アルゴリズムの支配から逃れることを不可能にしている。

「地主と農奴」の最も典型的な例は、食品配達員と配車サービスの運転手です。

彼らは自分の仕事が非常に自由で、上司の監視に縛られることなく、いつでも好きなときに働けると感じています。まるで一種の自律性を獲得したかのように、すべてが完全に自分自身にかかっています。

現実には、奴隷化された個人は単に「ビジネスオーナー」から「ビジネスの道具」に変わり、プラットフォームのアルゴリズムによって設定された注文、ルート、価格に従う以外に選択肢がないのです。

世論の圧力は巧妙に「乗客と運転手」と「顧客と配達員」の間の対立へと転嫁され、あたかもすべての注文、ルート、価格がアルゴリズムによって自律的に生成されているわけではないかのように思われる。

すべてはデュランと「テクノ封建主義」の核となるテーマに戻ります。つまり、私たち一人ひとりが社会的な交流の中でデータを生成し、それがアルゴリズムの最適化と意思決定の「栄養素」として継続的に利用される一方で、社会的な交流はアルゴリズムの結果によって「操作」されるのです。

アルゴリズムの束縛から抜け出すにはどうすればよいかと尋ねたら?

したがって、成功を確実にする唯一の方法は、いわゆる「カスタマイズされたアウトリーチ/垂直的な推奨/精密なターゲティング」やその他の商業的慣行を受動的に受け入れるのではなく、ユーザーに選択権を与え、ユーザーが自分で選択できるようにすることです。

最後に、質問を繰り返したいと思います。

「青い錠剤と赤い錠剤、どちらを選びますか？」（孫鵬月）