SNSにおける注意経済の構造的問題と憎悪扇動の拡散メカニズム — Xを中心とした分析

はじめに

ソーシャルメディア（SNS）の台頭により、「注意経済」と呼ばれる現象が情報環境を支配するようになった。注意経済とは、ユーザーの注意（閲覧時間やエンゲージメント）を資源とみなし、それを最大化することがプラットフォームの利益につながる構造を指す。SNSプラットフォームはアルゴリズムを用いてユーザーの関心を引くコンテンツを優先的に表示するが、この設計には構造的な問題が孕まれている。それは扇情的で対立を煽るコンテンツほどユーザーの注意を引きやすいため、結果的に憎悪や極端な表現が拡散しやすくなる点である。実際、SNS上ではネガティブな感情を刺激する投稿ほど迅速かつ広範に共有され、ユーザーの怒りが増幅されるうちに最終的に憎悪表現に行き着くケースも指摘されている。本稿では、このような注意経済の構造的問題と憎悪扇動（ヘイトの醸成・拡散）のメカニズムを、X（旧Twitter）を中心に分析する。

まず、Xにおけるヘイトスピーチ（憎悪表現）の拡散傾向について、定量的・定性的エビデンスを概観する。次に、SNSアルゴリズムの設計と「エンゲージメント至上主義」が情報の偏り（バイアス）をもたらす仕組みを考察する。さらに、2022年末に実業家イーロン・マスク氏がTwitterを買収して以降の運営体制の変化――具体的にはコンテンツ・モデレーション（内容規制）方針の緩和やコンテンツ管理の影響――について検討し、ヘイト拡散との関連を分析する。加えて、Xでの状況を他プラットフォームとの比較を通じて位置づける。特に、Meta（旧Facebook）の事例（いわゆる「Facebookペーパーズ」の知見）との対照、およびYouTubeやTikTokといった他SNSにおける憎悪扇動・拡散傾向や対策上の差異について論じる。以上の分析を通じて、注意経済に内在する課題と憎悪コンテンツ拡散のメカニズムを明らかにし、健全な情報空間の実現に向けた課題を考察する。

X（旧Twitter）におけるヘイトスピーチ拡散の実態

X（旧Twitter）では、近年ヘイトスピーチの投稿数やそれへのエンゲージメントが顕著に増加していることが定量的に示されている。とりわけ2022年10月にイーロン・マスク氏が同社を買収して以降、その傾向が強まったとの報告が相次いだ。マスク氏は買収直後に「言論の自由」を掲げてモデレーション緩和を示唆し、多くの凍結アカウントを復活させたが、その影響もあってか直後には差別的な表現の頻度が急増した。例えば、買収完了直後の12時間で人種差別的中傷（Nワード）の使用頻度が平均時期の5倍（約500%増）に跳ね上がり、続く1週間では「ユダヤ人」に言及した投稿が5倍に増加、その中でも最もエンゲージメントを集めた投稿は露骨な反ユダヤ主義的内容であったと報告されている。同様に、女性蔑視やトランスフォビア的言説の増加も確認されており、研究者らは「これほど急激なヘイト表現や問題投稿の増加は主要SNSで前例がない」と警鐘を鳴らした。実際、マスク氏の買収後には以前禁止されていた過激派に関係するアカウント（ISIS関連やQアノン支持者など）が次々と復活・認証バッジ取得する動きも見られ、プラットフォーム上で急激に有害コンテンツが噴出した。

このような短期的急増だけでなく、ヘイトスピーチ増加の傾向は中長期的にも持続している。2023年に報告された学術研究では、マスク氏買収以前と比較して買収後のXではヘイトスピーチ投稿の週あたり件数が約50%も増加したまま高止まりしていることが示された。興味深いのは、この間プラットフォーム全体の総投稿量は約8%の増加に留まっていたにもかかわらずヘイト関連投稿は50%増と突出していた点である。つまり、全投稿に占めるヘイト表現の比率が大きく上昇したことになる。またヘイト投稿への「いいね」の付与率（=ユーザーの反応）も約2倍に増加しており、ヘイトコンテンツが以前にも増してユーザーの関心を集めていることが示唆される。実際、買収後はヘイト投稿の「いいね」率が70%増加し、対照的に通常投稿の「いいね」率はわずか4%の増加に留まったというデータもある。このようにヘイトスピーチは量的にも相対的頻度の上でも増加し、ユーザーの関与も深まっている。

定性的な面から見ると、X上でヘイト的な内容がどのように広がるかには幾つかの特徴が指摘できる。一つは組織的なトロール（荒らし）集団による拡散である。前述の買収直後のNワード急増について、当時Twitterの信頼安全部門トップであったヨエル・ロス氏は、その大半がわずか300程度の「偽装（不自然な）アカウント」から発信されていたと報告している。すなわち、4chanや過激フォーラム発の集団が意図的にヘイト表現を投稿し、一種のキャンペーン的に拡散を図った可能性がある。しかし重要なのは、そうした少数のアカウントによる荒らし行為がプラットフォーム全体で非常に大きな可視性を持ってしまった点である。この背景には後述するようにモデレーション体制の崩壊やアルゴリズムの問題がある。

以上の証拠から、Xにおける憎悪表現は近年増大の一途を辿っており、特に買収を機にその拡散傾向が強まったと考えられる。ヘイトスピーチのオンライン上の蔓延は、被標的集団の心理的負担や現実世界でのヘイトクライム誘発にも繋がりうる深刻な問題である。ゆえに次章以降で、その背景要因となるアルゴリズム設計や運営方針の変化について詳しく分析する。

アルゴリズム設計とエンゲージメント至上主義による情報の偏り

SNSプラットフォームはユーザーの興味関心を引く投稿を優先的に表示するため、投稿の表示順序や露出度合いを決定するアルゴリズムを用いている。これらのアルゴリズムの多くは、ユーザーの過去の反応データを基に「エンゲージメント」（いいね・リツイート・コメント等）を最大化できるコンテンツを機械学習で選別するエンゲージメント至上主義とも言うべき設計思想に基づいている。しかし、こうしたアルゴリズムには社会・政治的に偏った情報を増幅してしまうバイアスが生じうることが、近年の研究で明らかになってきた。

特に重大なのは、アルゴリズムがユーザーの「怒り」や「嫌悪感」といった感情反応を強く引き起こす攻撃的コンテンツを増幅しやすい傾向である。例えば2024年の研究では、Twitter（X）のパーソナライズドフィード（「For You」タイムライン）のランキングアルゴリズムを無作為対照実験で分析し、時系列順表示と比べてエンゲージメント重視のアルゴリズム表示では、感情的に扇動的で他集団に敵対的な内容の投稿が大幅に多くユーザーに提示されることが示された。このような投稿はユーザーに政治的対立陣営への嫌悪感を一層抱かせる効果が確認されており、アルゴリズムが社会的分断やヘイト感情を煽るコンテンツを選別・拡散している可能性が示唆される。また興味深い点に、ユーザーは必ずしもそうした煽動的コンテンツを望んでいるわけではないという知見もある。前掲の実験では、アルゴリズムが選んだ政治関連投稿はユーザー自身が選んだ場合に比べ好まれない傾向があり、現在のエンゲージメント最優先のアルゴリズム配信はユーザーの真の嗜好をも満たしていないと指摘されている。要するに、「ユーザーが思わず反応してしまう」内容を機械的に増幅する設計が、ユーザー自身の幸福感や健全な世論形成に資する情報よりも、対立的・刺激的な情報を過剰に供給する偏りを生んでいるのである。

Facebookで明らかになった内部資料（Facebook Papers）も、エンゲージメント至上主義の弊害を裏付けている。2018年にFacebookがニュースフィードのアルゴリズムを大幅改変し「より意味のある社会的交流」を促進する（実質的にはエンゲージメントを重視する）方針に転換したところ、同社社内の研究で「怒り」を誘発するコンテンツほどユーザーの反応が高まり結果的に広く流通することが判明した。このため各国の政治団体やメディアはアルゴリズム適応を迫られ、「穏当な投稿では誰にも届かず、今や怒りや憎悪を煽る内容を投稿しなければならない」と関係者が嘆く事態が生じていた。実際、Facebook上で政党関係者らが「過激で扇情的な投稿を増やさざるを得なくなった」と証言する社内調査結果も報告されている。この例は、アルゴリズムが投稿内容の過激化圧力となり、公共言論全体が過激方向にシフトする構造的問題を如実に示す。Facebookは当初、ユーザーのポジティブな交流を増やす目的でこの変更を行ったが、皮肉にも「怒り」に駆動された分断的コンテンツが躍進する結果を招いたのである。

加えて、アルゴリズム起因の情報偏向は政治的スペクトラムにも及ぶ。Twitter社が買収前に公表した内部分析によれば、アルゴリズムによるタイムライン表示は時系列表示と比べて右派系コンテンツを左派系よりも顕著に拡散しやすい傾向があることが判明している。この調査では米英日など7カ国で検証した結果、ドイツを除く6カ国で右派政党・政治家の投稿の方が左派よりアルゴリズム拡散度が高く、右派系ニュースサイト記事も左派系より高い増幅率を示した。原因は十分解明されていないものの、何らかの要因でアルゴリズムが政治的右派コンテンツに「有利な待遇」を与えていた可能性が指摘されている。このような政治的偏向も含め、エンゲージメント重視のアルゴリズム設計は情報生態系に歪みをもたらし、偏った情報との接触機会を増大させる。

以上のように、SNSアルゴリズムはユーザーの注意を惹くために設計された結果として、対立的・過激なコンテンツの増幅器となりがちである。そのことがヘイトスピーチ拡散にも構造的に拍車をかける要因となっている。注意経済下でプラットフォームが収益を優先する限り、「炎上するほど儲かる」インセンティブが働き、アルゴリズムは人々を分断・扇動する情報を優先配信し続けかねない。これは民主的な言論空間の健全性に対する大きな挑戦であり、各国でその規制やアルゴリズムの透明性向上が政策課題となっている所以である。

マスク氏による買収後の運営体制変化とモデレーション緩和の影響

2022年10月にイーロン・マスク氏がTwitterを買収しCEOに就任して以降、同社の運営方針・コンテンツ管理体制は劇的に変化した。最大の変化はコンテンツ・モデレーション（不適切投稿の監視・削除）の大幅な緩和である。マスク氏は買収前から「言論の自由の絶対的擁護」を掲げてTwitterの規制を批判しており、実際買収直後にトラスト&セーフティ（Trust and Safety）部門の従業員を大量解雇・離職させ、全社員の約50%がレイオフされる中で有害コンテンツ対策チームも大幅に縮小された。同時に長年ヘイトスピーチ対策を助言していた「信頼と安全に関する諮問委員会」も解散され、社内のチェック体制は崩壊状態に陥った。買収当日にマスク氏は主要幹部（CEOや法務責任者など）を解任し、特に元法務責任者のビジャヤ・ガッデ氏（ヘイト対策やトランプ元大統領の凍結を主導）が退社したことは象徴的であった。ガッデ氏はプラットフォーム上の有害言論に対する厳格な姿勢で知られていたが、その退任によってヘイトスピーチを監視・制裁するこれまでの体制は一掃されてしまった。

マスク氏はコンテンツ規制を緩める一方、「自由な言論は保障するがリーチ（拡散範囲）は制限する」とのモットー（“freedom of speech, not freedom of reach”）を掲げた。これはヘイト的な投稿も原則禁止せず残すが、アルゴリズム上では目立たなくするという方針である。しかしその実効性には疑問が呈されている。というのも、前述のように買収後に実際はヘイト投稿の露出やエンゲージメントが増えており、マスク氏らが主張する「有害コンテンツへの露出減少」という説明と食い違うからである。一因として考えられるのは、マスク政権下でのコンテンツ管理の混乱である。買収後には旧来のルールがしばしば覆され、例えばTwitterは2023年に「シスジェンダー」という言葉を憎悪表現として禁止用語指定するなど、一般の研究コミュニティの定義とかけ離れた独自基準を打ち出した。またCOVID-19誤情報に関する削除方針の撤廃など、重要なルール変更が突然なされるケースもあった。こうした方針転換や整備不足により、ユーザーには何が許容され何が禁止なのか不透明な状況が生まれ、結果的に悪質ユーザーが付け入る隙が広がったと考えられる。

さらにマスク氏は買収後、凍結されていた多数のアカウントに「大赦」を与えて復活させた。ドナルド・トランプ前大統領のアカウント復活が象徴的だが（2021年1月の永久凍結を覆し、マスク氏が行った投票の結果に基づき2022年11月に復活）、その他にも著名な極右論者や陰謀論者など、多数のアカウントが戻ってきた。加えて、買収直後に導入された有料認証（Twitter Blueによる認証バッジ販売）は、従来であれば得られなかった過激勢力にプラットフォーム上の信頼性を与える結果となった。Qアノン陰謀論を拡散するユーザーが月額課金で公式認証バッジを取得する事例も報告されている。これにより、従来は半ば地下化していた陰謀論や過激主張が、公的なお墨付きを得た形で拡散力を強めた可能性がある。

このようにマスク氏の買収後、Xではモデレーションの大幅緩和と方針混乱によってヘイトスピーチ拡散のハードルが下がったと総括できる。その影響として既に見たようにヘイト投稿は増加・拡散し、プラットフォーム上でマイノリティに対する攻撃的言論が横行する傾向が強まっている。加えて、ヘイトや陰謀論の拡散を懸念する広告主の離反も相次ぎ、Xの収益モデルにも悪影響が及んでいると報じられる（ブランドセーフティの低下による広告収入減）。一方で緩和された環境を好む一部ユーザーの利用は活発化し、例えば以前は規制を嫌ってTwitterを離れていた層が戻ってきたとの指摘もある。このようなユーザー層の変化も含め、マスク体制下のXは「ヘイトに寛容で管理が行き届かない空間」との評価が広がりつつあり、これまでTwitter上で結束していたマイノリティ・コミュニティが居場所を失い離散する動きも報告されている。注意経済の圧力下でモデレーションを緩めた結果、プラットフォームの健全性や多様性が損なわれている現状は、重大な社会的課題と言えよう。

Meta（Facebook）との比較：Facebook社内部資料の示唆

X（Twitter）で顕在化したヘイト拡散の構造的問題は、Facebookなど他の主要SNSでも形を変えて存在してきた。Facebook Papers（フランシス・ホーゲン氏が2021年に公開した内部告発文書群）や既存研究は、Facebookが直面していた類似の課題と対応策を示唆している。その比較から、プラットフォーム運営の方針如何でヘイト拡散に差が生じることが浮き彫りになる。

まずアルゴリズム面について、Facebook内部では前述の通りエンゲージメント重視のアルゴリズム変更（2018年）に伴い分断的・過激なコンテンツが増幅される現象が確認されていた。この問題に対しFacebook経営陣は一部対策を検討したが、ユーザーの利用時間減少などとのトレードオフもあり抜本策を講じることに消極的だったと報じられている。実際、社内プレゼン資料には「極端な集団への参加の64%はFacebookの推薦ツールが原因」との分析があり、アルゴリズムがユーザーを過激主義の巣へと誘導する役割を果たしていることが示されていた。しかしこれらの知見が外部に積極的に共有されることはなく、一部幹部は対策を先送りしたとも伝えられる。この点、マスク政権下のXが直面する課題（アルゴリズムがヘイト扇動に加担し得る構造）はFacebookでも周知だったが、プラットフォーム事業者は収益への悪影響を懸念して抜本的改善に二の足を踏んできた歴史がある。

しかし他方で、Facebook（Meta）は外圧や内部告発を受けて一定の是正措置も講じてきた点で、現在のXとは対照的である。例えばFacebookは2020年前後にAIによるヘイト発見・削除技術を強化し、2021年には「ヘイト発言の有害度に応じた優先度付け削除」を導入する試み（いわゆる「worst of the worst」プロジェクト）も行われた。その過程で、自社のヘイト検出AIが削除しているコンテンツの約90%が白人や男性に対する罵倒で占められ、本来もっとも悪質な黒人やユダヤ人などへの差別投稿を十分検出できていないという欠陥も判明した。この問題に対しFacebookは2021年以降、ブラックユーザーへのヘイトをより厳格に取り締まるポリシー改定（反黒人ヘイトスピーチの優先削除）に踏み切った。またホーゲン氏の告発後、Metaはサードパーティ研究者へのデータ提供を拡大し透明性向上に努める姿勢も打ち出している。さらにFacebookでは危険人物やヘイト団体のアカウントを明確に禁止指定し（例：白人至上主義団体の排除）、トランプ前大統領のように規約違反の著名アカウントを停止するなどの対応も比較的取られてきた。これらのモデレーション強化策により、Facebook上でのヘイトスピーチ露出は一時「全閲覧物の0.03%未満」にまで低減したと同社は主張している（この数字には議論があるものの、一定の効果を示唆する）。

Facebook Papersで明らかになったように、Meta社内では「プラットフォーム設計そのものがユーザーの負の感情を増幅し社会に害を及ぼしている」との自己批判もなされていた。Facebook創設者の一人は「我々の製品は社会の仕組みをズタズタに引き裂いている」とまで語っている。こうした内省を経て、Metaはアルゴリズムの改良（例えば「高怒り度」の投稿のランキング抑制）や有害なグループ推薦機能の停止など、一定の手直しを行ったとされる。それでも依然としてFacebook上ではヘイトや誤情報の拡散問題が残存しており、特に英語以外の言語圏での対策不足がミャンマーのロヒンギャ迫害など深刻な結果を招いた例もある。すなわち大規模SNSにおけるヘイト拡散問題は依然進行形だが、少なくともMetaは公的な批判や内部知見を踏まえてモデレーション強化の方向に動いてきた。一方のマスク氏のXは、批判に対して「むしろ旧経営陣の検閲こそ問題」と反論しつつモデレーションを緩和する逆方向に舵を切っている点で対照的である。この違いは、ヘイト拡散の実態にも表れていると考えられる。前述のとおりXではヘイト投稿が増加傾向にあるが、FacebookではAI削除の精度向上等により一定のヘイト減少効果が報告されている。もっともFacebookも完全には程遠く、対応の遅れた国・地域では被害が顕在化したことを踏まえると、最適なモデレーションの在り方は依然模索中と言える。

以上より、Meta（Facebook）の事例は注意経済の圧力下でも規制を強化する努力がヘイト拡散抑制にある程度寄与しうることを示す。一方でマスク時代のXはモデレーション緩和によってヘイト蔓延を許容しつつあり、プラットフォーム運営方針の差が利用者コミュニティの安全性・健全性に直結する現状が浮かび上がる。

YouTube・TikTokとの比較：ヘイト拡散の傾向と対策の差異

注意経済と憎悪扇動の問題は、テキスト中心のTwitter/XやFacebookに限らず、動画プラットフォームであるYouTubeや短編動画のTikTokにも存在する。それぞれのプラットフォームでアルゴリズムの特性やモデレーション方針が異なるため、ヘイトコンテンツの拡散様相や対策にも差異がみられる。

YouTubeにおいては、2016年前後より「レコメンド算法による過激化」の問題が指摘されてきた。ユーザーが無垢な興味から視聴を始めても、関連動画推薦を経て次第に極端な陰謀論やヘイト動画へ誘導される「ラビットホール（落とし穴）」現象である。この批判を受け、YouTubeは2019年初頭に「ボーダーライン上の有害コンテンツは推薦しにくくする」と公約し、アルゴリズムの調整を行った。YouTube社はその結果「人種差別や性差別など有害動画の視聴時間が推薦経由で少なくとも50%減少した」と発表したが、独立の検証は限定的だった。しかし2023年に発表された学術研究（Science Advances誌）によれば、現在のYouTubeでは一般ユーザーがアルゴリズムによって過激な動画ばかりに晒される傾向は以前より緩和されている可能性が示唆された。すなわち、YouTube側の2019年の措置は一定の効果を上げ、無差別なヘイト動画拡散は抑制されつつあるという。一方で同研究は重要な点も指摘している。それは過激・憎悪的コンテンツ自体は依然プラットフォーム上に蔓延しており、そうした動画を積極的に探し求める「既に素地のあるユーザー層」には今もアルゴリズムがそれらを届けているということである。要するに、YouTube全体としてはヘイト動画が無差別に拡散される状況は改善したが、特定のコミュニティ内では相変わらずそれが視聴・共有されエコーチェンバー（反響室）的に増幅している。この点はプラットフォーム運営側も認識しており、専門家からは「YouTubeは改善を評価されるべきだが、まだ徹底には程遠い。少数でも過激化されるユーザーがいれば社会全体への悪影響は看過できない」との指摘がある。実際、YouTubeは過去にヘイト思想に染まった人物が起こした凶悪事件との関連も疑われており（例：ある銃乱射犯がYouTubeで極右動画を履修していたケース）、引き続き対策強化が求められる。

TikTokは、短尺動画を無限スクロールで提供する独特のアルゴリズム「For Youページ」によって爆発的なユーザーエンゲージメントを実現している。そのレコメンド精度の高さは際立っており、ユーザーのわずかな操作履歴から嗜好を鋭敏に学習して関連動画を次々と提示する。しかしこの高感度アルゴリズムがもたらす負の側面として、ヘイトや過激コンテンツの「ラビットホール」への陥落が極めて迅速に起こり得ることが指摘される。ガーディアン豪州版の実験報告によれば、まったく新規作成した白紙のTikTokアカウントでさえ、数日のうちに特定の事件報道をきっかけに反移民・反LGBTQ的な憎悪動画ばかりが流れてくるフィードに変貌したという。その実験ではユーザーが「いいね」など明示的反応を一切示していないにもかかわらず、保守系キリスト教説教動画を視聴しただけでアルゴリズムが嗜好を推定し、以降3か月にわたり極端な宗教右翼・反同性愛・移民排斥的コンテンツ（中にはドラァグクイーンを木材破砕機で処刑すべきと示唆する暴力的内容まで）が次々と表示され続けた。このようにTikTokでは、ユーザーの視聴時間や一時的興味に反応して関連コンテンツを大量投入する仕組みゆえに、本人が意図せずとも過激思想の渦に巻き込まれるスピードが非常に速い。アルゴリズムの感度が高いぶん「負のフィードバックループ」も瞬時に形成されやすいのである。

TikTok社は公式には「憎悪表現や偏見の助長を許容しない」とのコミュニティガイドラインを掲げており、実際に2020年にはヘイトポリシー違反で38万本の動画を削除・1,300のアカウントを禁止したと発表している。しかし欧米の評価では、TikTokのコンテンツ規制は他プラットフォームに比べ不透明で、違反コンテンツの残存率が高いと指摘される。特にライブ配信やコメント欄ではヘイト的発言が放置されるケースも多いと言われる。またTikTokは中国系企業のサービスであることから、政治的・文化的な判断基準が独特との見方もある（例えば中国政府に敏感な話題には素早く検閲が働く一方、西側社会のヘイト問題には対応が緩慢など）。こうした特殊事情を差し引いても、TikTokのアルゴリズム駆動型拡散力は突出しており、対策が追いつかなければ最も若年層に人気のSNSでヘイト拡散が深刻化しかねない。実際、TikTok上で白人至上主義や反ユダヤ陰謀論が拡散しているとの調査報告もある。他方、TikTokは問題視された人物（例：女性蔑視発言で知られるインフルエンサーのアンドリュー・テイト氏）を比較的迅速にプラットフォーム追放するなどの動きも見せている。総じて、TikTokはそのアルゴリズム特性ゆえにヘイト扇動のリスクが高い反面、運営の恣意性や不透明性もあって対策評価が難しい状況にある。

以上をまとめると、YouTubeはアルゴリズム改善やポリシー整備により一定のヘイト拡散抑制に成功しつつあるが、完全ではなく残存する過激コミュニティへの対応が課題である。一方TikTokはアルゴリズム起因の急速なヘイト拡散リスクが指摘され、対策も模索段階にある。Facebookは強大な組織力でモデレーション改善に動いてきたものの各国で濃淡があり、Twitter/Xは逆にモデレーションを後退させている点で際立つ。各プラットフォームのアプローチ差異はあるものの、注意経済下でヘイトが拡散しやすい構造自体は共通している。アルゴリズムの透明性向上や外部監査、法規制の導入など、プラットフォーム横断的な対策が議論されるゆえんである。

結論

SNSにおける注意経済の構造的問題と憎悪扇動の拡散メカニズムについて、X（旧Twitter）を中心に考察してきた。エンゲージメント至上主義のアルゴリズム設計はユーザーの関心を引くためにしばしば対立的・刺激的コンテンツを増幅し、その結果ヘイトスピーチが拡散しやすい土壌を作り出す。イーロン・マスク氏のTwitter買収後、この傾向はモデレーション緩和によって一層顕在化し、実際にヘイト表現の投稿量・エンゲージメントは大幅に増加した。これは注意経済の負の側面が実例として噴出したものであり、同様の課題はFacebookやYouTube、TikTokといった他プラットフォームにも程度の差こそあれ見られる。もっとも、各社の対応には明暗がある。Facebook（Meta）は内部告発を機にアルゴリズムやポリシーの改善に着手しつつあり、YouTubeも2019年以降の取り組みで無差別な過激動画拡散を一定程度抑制した。対照的にXはモデレーションを緩め「荒野」の様相を呈し始めた。TikTokは強力なアルゴリズムを武器に急成長する中で有害コンテンツ対策が追いつかず、潜在的リスクが指摘される。

結局のところ、注意経済のもとでは「人々の注意を集めるもの＝儲かるもの」となるため、プラットフォーム事業者には有害な扇動コンテンツを放置・助長してしまうインセンティブが内在する。この構造的ジレンマを解消するには、プラットフォームの収益モデルやアルゴリズム設計の在り方そのものを問い直す必要があるだろう。例えば、エンゲージメント指標一辺倒ではなくユーザー満足度や健全性を評価に組み込むアルゴリズムへの転換、ヘイト拡散に歯止めをかける法規制（アルゴリズムの透明化要求や違法ヘイト投稿への罰則強化）、市民社会による監視とカウンター・スピーチの促進など、多角的な対策が求められる。プラットフォーム企業自らも、「表現の自由」を盾に有害コンテンツを放任するのではなく、安全で包摂的な空間を維持する責務を負っている。

本稿の分析から浮かび上がったのは、注意経済の時代においてヘイト扇動の拡散は技術的問題と経営判断が交錯した複合的な現象であるという点である。アルゴリズムという技術要因が憎悪表現の伝播を加速しうる一方、最終的にはそれを制御・抑止するか放置するかという経営・政策上の意思決定が、各SNSプラットフォームの方向性を大きく左右する。現在、Xは残念ながら緩和路線によって「ヘイトの温床」と化しつつあるが、この動きに対し社会からの批判やユーザー離れも起きている。注意経済の負の帰結に対抗し、健全なオンライン公共圏を守るためには、プラットフォーム・利用者・規制当局を含む社会全体での取り組みが不可欠である。今後も実証研究とエビデンスに基づく議論を積み重ね、SNSの構造的欠陥に対処していくことが求められている。