2-0-1-テクノロジーによる民主主義への攻撃
Gemini Advanced.icon 2024/4/1
一方で、テクノロジー（ソーシャルメディア、暗号技術、その他一部の金融技術など）は、社会構造を破壊し、分極化を高め、規範を侵食し、法執行を弱体化させ、金融市場のスピードを加速させ、その範囲を拡大し、民主的な政治に対して説明責任を果たせない状態にしていると考えれられている。この脅威を「反社会的な」脅威と呼ぼう。対して、別種のテクノロジー（例えば機械学習、基盤となるモデル、IoT）は、中央集権的な監視の能力を高め、少数のエンジニアグループが数十億人の市民や顧客の社会生活のルールを形作るシステムのパターンを設定する能力を高め、人々が自分たちの生活やコミュニティを形作ることに意味ある形で参加する余地を狭めている。これらの脅威を「集権型」の脅威と呼ぼう。どちらの脅威も民主主義の中核を直撃する。アレクシ・ド・トクヴィルが『アメリカのデモクラシー』で強調したように、民主主義が繁栄するためには、深く多様な、市場的ではない、分散型の社会的・市民的つながりが必要なのだ。 最近のテクノロジーによる反社会的な脅威
は、社会的、経済的、法的、政治的、実存的な側面を持つ。
社会的側面: ソーシャルメディアが、これまでは社会的に孤立していた人々（例えば、保守的な地域の性的マイノリティや宗教的マイノリティ）がつながりを作るための強力なプラットフォームを提供してきたという証拠がある一方で、平均的には、これらのツールは社会的孤立と疎外感を悪化させる一因となっていることが示されている5。 経済的側面: インターネットやテレワークによって促進された地理的、時間的、多様な雇用形態の柔軟性により、発展途上国や伝統的な労働市場に適合しにくい労働者にも機会が広がった。しかし、労働者がこうしたシステムの恩恵を受けることができるようにする適切な労働市場制度（労働組合や労働規制など）の出現には大きく追いついていない。それゆえ、こうしたシステムは職場の不安定性を高め、多くの先進国における中間層の「空洞化」に寄与する傾向があった6。 政治的側面: 先進国を含む多くの民主主義国家では、分極化や過激派政党の影響力が次第に高まっている。インターネットベースのソーシャルメディアが果たす役割については学術的な議論が続いているが、最近の調査では、これらのツールは異なる立場間の社会的・政治的絆を強化するという当初の期待には程遠く、2000年以降の分極化の長期的な傾向、特に米国における傾向に寄与している可能性が高いことが示唆されている7。 法的側面: 過去数十年の金融イノベーションの急増は、消費者への具体的なメリット（リスク削減、資本配分、信用へのアクセスなど）が限定的である一方で、金融システム全体の多くにおいてリスクを高め、金融商品の数を増大させてきた。その結果、これらの弊害を軽減するための既存の規制制度に異議を唱えたり、回避したりすることさえある8。2008年の金融危機に至るまでの住宅金融に関連するイノベーションはその最も重要な例であったが、おそらく最も極端な（ただし、より抑制された）ケースは、最近活発になっているデジタル上の「暗号」資産や通貨である。既存の規制制度との不一致を考えると、これらは投機、ギャンブル、詐欺、規制や租税回避、あるいはその他の反社会的活動の機会を広範囲に提供してきた9。 実存的側面: ますます高度化する大量破壊技術に対して、社会的な意味形成や集団行動能力が分断されることは危険であるという懸念が高まってきている。その影響は、環境破壊（気候変動、生物多様性の損失、海洋酸性化など）から、より直接的な兵器による世界終末的な破壊（AIと生物兵器の誤用など）に至るまで多岐にわたる10。 テクノロジーが民主主義社会の結束を弱めると見られている一方で、政府の統制を強化し、少数の民間関係者の手に権力を集中させることによって、民主主義を脅かすとも考えられている。
社会的側面: おそらく、情報技術のもたらす最も一貫した影響は、情報の入手可能性を拡大し、その伝播を加速させたことだろう。これにより、プライバシーの領域が劇的に浸食され、より広範囲にわたる情報が公開されるようになった。こうした透明性は、原則的には様々な社会的効果をもたらし得るが、そうした情報を処理し理解する能力は、特権的な情報アクセスと大規模な統計モデル（すなわち「AI」）に投資する資本を併せ持つ企業や会社に、ますます集中する傾向にある。さらに、これらのモデルはより多くのデータと資本へのアクセスによって大きく向上するため、中央の主体が非常に大きなデータプールと資本を保有している社会は、「AIレース」における先頭集団になりやすい傾向がある。その結果、すべての社会において、競争力を高めるためにこうした情報力（権力）の集中を許容すべきだという圧力がかかるのだ 1。これらの力が合わさり、前例のない監視システムと情報フローの中央集権化が常態化した。 法的側面: 近年におけるAIの急速な発展は、多くの民主主義社会における中核的な権利を脅かし、重要な判断を限られた、社会的に似た経歴を持つエンジニア集団の手に委ねている。知的財産権やその他の創作活動の保護は、「コンテンツのリミックスや置換」が可能な大規模AIモデルによって事実上無効化されてしまった。プライバシー制度は、情報の爆発的な拡散に追いついておらず、差別に関する法律は、ブラックボックス化したAIシステムに内在するバイアスが引き起こす問題に対処するにはあまりにも不十分である。その一方で、これらの問題を解決できそうなエンジニアは、営利企業や国防部門で働くことが多く、非常に特殊な教育的・人口統計学的背景（典型的には白人またはアジア人、男性、無神論者、高学歴など）出身者が圧倒的だ。これにより、支配する社会の幅広い意思を反映しようとする、民主主義的法律制度の中核となる理念が揺らいでいる11。 経済的側面: AI、そして1980年代半ば以降、情報技術が人間の労働（特に低学歴の労働）を補完するのではなく置き換える傾向にあることは、過去数十年にわたり、所得に占める資本（労働ではなく）の割合が劇的に増加した中心的な要因であり、それによって先進国における所得格差拡大の主要な原因となってきたことが、次第に明らかになっている12。特に情報技術を最も積極的に導入した国や産業において、労働分配率の低下とともに、市場支配力、利幅、および（一貫性はないが）産業集中の傾向が強まっている13。 (地政学的側面): 上記の力は、権威主義的な政権や民主主義国家に対する政治運動を強化してきた。 大規模な監視のためのツールとインセンティブの両方が生まれることで、政府は直接的に検閲や社会統制を維持しやすくなった。経済力と社会支配の梃子を少数の（しばしば企業の）要所に集中させることで、資本所得と市場支配力の拡大、そして少数のエンジニア集団の影響力拡大は、権威主義政権が望むならば、経済と社会の「戦略的要所」を操作または掌握しやすくさせている14。 さらに、これら2つの脅威は相互に関係している。権威主義的な政権は、しばしばソーシャルメディアと暗号通貨の「混乱」を利用して、民主主義国に内部分裂と対立を植え付けてきた。大手ソーシャルメディアプラットフォームは、ユーザーのサービス利用を最適化するためにAIを活用しており、それがしばしば誤情報や意見の分断化という遠心的な傾向を助長する。しかし、両者が積極的に補完し合っていない場合でも、多くの点で真逆の動機を持っている可能性がある場合でも、両方の力は民主主義社会に圧力をかけ、その信頼を損なうように働きかけている。現在、多くの先進民主主義国では、この信頼度が測定開始以来、最低水準にまで落ち込んでいる15。 脚注
3. Daron Acemoglu, and James A Robinson, The Narrow Corridor: States, Societies, and the Fate of Liberty. (New York: Penguin Books, 2020). ↩
4. Such relationships differ from those established in markets, which are based on bilateral, transactional exchange in a “universal” currency, as they denominate value in units based on local value and trust. ↩
5. Mary Gray, Out in the Country: Youth, Media, and Queer Visibility in Rural America (New York: NYU Press, 2009). See also O’Day, Emily B., and Richard G. Heimberg, “Social Media Use, Social Anxiety, and Loneliness: A Systematic Review,” Computers in Human Behavior Reports 3, no. 100070 (January 2021), https://doi.org/10.1016/j.chbr.2021.100070; and see also Hunt Allcott, Luca Braghieri, Sarah Eichmeyer, and Matthew Gentzkow, “The Welfare Effects of Social Media,” American Economic Review 110, no. 3 (March 1, 2020): 629–76. https://doi.org/10.1257/aer.20190658. ↩ 6. Siddharth Suri, and Mary L Gray, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass, (Boston: Houghton Mifflin Harcourt, 2019). David H. Autor, "Why Are There Still So Many Jobs? The History and Future of Workplace Automation", Journal of Economic Perspectives 29, no. 3 (2015): 3-30, https://www.aeaweb.org/articles?id=10.1257%2Fjep.29.3.3&source=post_page. ↩ 7. Steven Levitsky, and Daniel Ziblatt. How Democracies Die, (New York: Broadway Books, 2018).; See also Yascha Mounk, The People vs. Democracy: Why Our Freedom Is in Danger and How to Save It, (Cambridge, Massachusetts: Harvard University Press, 2018); Cass Sunstein, #Republic: Divided Democracy in the Age of Social Media, (Princeton, New Jersey: Princeton University Press, 2017; Kathleen Jamieson, and Joseph Cappella, Echo Chamber: Rush Limbaugh and the Conservative Media Establishment, (Oxford, New York: Oxford University Press, 2008). Levi Boxell, Matthew Gentzkow and Jesse M. Shapiro, "Greater Internet Use is Not Associated with Faster Growth in Political Polarization among US Demographic Groups" Proceedings of the National Academy of Sciences 114, no. 40: 10612-10617. Levi Boxell, Matthew Gentzkow and Jesse M. Shapiro, "Cross-Country Trends in Affective Polarization" Review of Economics and Statistics Forthcoming. ↩ 9. Ben McKenzie, and Jacob Silverman, Easy Money: Cryptocurrency, Casino Capitalism, and the Golden Age of Fraud, (New York: Abrams, 2023); "Financial Stability Board, “Regulation, Supervision and Oversight of Crypto-Asset Activities and Markets Consultative Document,” 2022, https://www.fsb.org/wp-content/uploads/P111022-3.pdf; Greg Lacurci, “Cryptocurrency Poses a Significant Risk of Tax Evasion,” CNBC, May 31, 2021, https://www.cnbc.com/2021/05/31/cryptocurrency-poses-a-significant-risk-of-tax-evasion.html; Arianna Trozze, Josh Kamps, Eray Akartuna, Florian Hetzel, Bennett Kleinberg, Toby Davies, and Shane Johnson, “Cryptocurrencies and Future Financial Crime,” Crime Science 11, no. 1 (January 5, 2022), https://doi.org/10.1186/s40163-021-00163-8; Baer, Katherine, Ruud De Mooij, Shafik Hebous, and Michael Keen, “Crypto Poses Significant Tax Problems—and They Could Get Worse,” IMF, July 5, 2023, https://www.imf.org/en/Blogs/Articles/2023/07/05/crypto-poses-significant-tax-problems-and-they-could-get-worse; and “Crypto-Assets: Implications for Financial Stability, Monetary Policy, and Payments and Market Infrastructures.” ECB Occasional Paper, no. 223 (May 17, 2019), https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391055. ↩ 11. Meredith Broussard. Artificial Unintelligence: (Cambridge, Massachusetts: The MIT Press, 2018), https://doi.org/10.7551/mitpress/11022.001.0001; Cathy O’neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, (New York: Crown, 2016); Ruha Benjamin, “Race after Technology: Abolitionist Tools for the New Jim Code,” Social Forces 98, no. 4 (December 23, 2019), https://doi.org/10.1093/sf/soz162; Victor Margolin, The Politics of the Artificial: Essays on Design and Design Studies, (Chicago: The University of Chicago Press, 2002). ↩ 12. Daron Acemoglu, and Pascual Restrepo, “The Race between Man and Machine: Implications of Technology for Growth, Factor Shares, and Employment,” American Economic Review 108, no. 6 (June 2018): 1488–1542. https://doi.org/10.1257/aer.20160696; Jonathan Haskel, and Stian Westlake, “Capitalism without Capital: The Rise of the Intangible Economy (an Excerpt),” Journal of Economic Sociology 22, no. 1 (2021): 61–70, https://doi.org/10.17323/1726-3247-2021-1-61-70; Ajay Agrawal, Joshua Gans, Avi Goldfarb, and Catherine Tucker, The Economics of Artificial Intelligence, (Illinois: University of Chicago Press, 2024). ↩ 13. Jan De Loecker, Jan Eeckhout, and Gabriel Unger. “The Rise of Market Power and the Macroeconomic Implications,” The Quarterly Journal of Economics 135, no. 2 (January 23, 2020): 561–644, https://doi.org/10.1093/qje/qjz041; John Barrios, Yael V. Hochberg, and Hanyi Yi. “The Cost of Convenience: Ridehailing and Traffic Fatalities,” SSRN Electronic Journal, 2019, https://doi.org/10.2139/ssrn.3361227; and Tali Kristal, “The Capitalist Machine: Computerization, Workers’ Power, and the Decline in Labor’s Share within U.S. Industries,” American Sociological Review 78, no. 3 (May 29, 2013): 361–89. https://doi.org/10.1177/0003122413481351. ↩ 14. Kai-Fu Lee, AI Superpowers China, Silicon Valley, and the New World Order, (Boston Houghton Mifflin Harcourt, 2018); Bruce Dickson, The Dictator’s Dilemma: The Chinese Communist Party’s Strategy for Survival, (Oxford, England, New York: Oxford University Press, 2016); Nick Couldry, and Ulises Mejias, “Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject,” Television & New Media 20, no. 4 (September 2, 2019): 336–49. Steven Feldstein, The Rise of Digital Repression: How Technology Is Reshaping Power, Politics, and Resistance, (New York: Oxford University Press, 2021). ↩
15. Richard Wike and Jannell Fetterolf, "Global Public Opinion in an Era of Democratic Anxiety" Pew Trust Magazine May 27, 2022. Ironically, in fragile democracies where the state has limited capacity for technology governance, chaos (the collapse of the prevailing order through disruptive technologies) could be an ally of democracy. From the Arab Spring that swept across North Africa in the early 2010s to Nigeria's #EndSARS movement in 2020, autocracies and fragile democracies have recorded the rise of an emerging class of social media-savvy, financial technology (fintech)-enabled and cryptocurrency-empowered class of young citizens deploying these technologies to challenge authoritarian state institutions. These disruptors have been aided by the algorithms of the technology companies, albeit to the extent that the objectives of such social movements align with the commercial interests of the corporations. Michael Etter and Oana Albu, “Activists in the Dark: Social Media Algorithms and Collective Action in Two Social Movement Organizations.” Organization 28, no. 1 (September 29, 2020): 135050842096153. https://doi.org/10.1177/1350508420961532. In some cases, such movements have been boosted by the explicit endorsement and backing of the influential founder. Jack Dorsey (@Jack) “Donate via #Bitcoin to help #EndSARS 🇳🇬…,” X, October 14, 2020, 10.05pm, https://twitter.com/jack/status/1316485283777519620? Without a doubt, such interventions foster democratic movements and amplify the otherwise repressed voices of citizens. However, aside from the risk of poor understanding of context and potential divisiveness that such foreign interventions could be prone to, they underscore the debate around the impact of non-state actors such as the global corporation on state sovereignty in Africa and the global South by extension. Ohimai Amaize, How Twitter Amplified the Divisions That Derailed Nigeria’s #EndSARS Movement, Slate Magazine, April 20, 2021, https://slate.com/technology/2021/04/endsars-nigeria-twitter-jack-dorsey-feminist-coalition.html. ↩