計算論的世界観への懐疑
計算論的思考 computational thinking という語があります。/Nodewww/計算論的思考
問題解決のためにコンピュータ科学者のように考えることを指します。
問題を分解し、パターンを見つけ、アルゴリズム的に手順を考えるといったような能力。
これを踏まえて、計算論的世界観という語を便宜的にこのページのために造語してみました。
計算論的思考をどんどん進めて、社会や人間性の根源にまで適用すること。
「世界は情報処理システムであり、その最適化によって問題は解決できる」という信念。
思考法よりも広範な、思想的あるいはイデオロギー的傾向を指すためにこのページでの読み手の皆さんとの共通言語として、とりあえず置いた語です。
行動主義 → 機能主義 → 計算論的世界観
20世紀前半の行動主義
心をブラックボックスとみなすことで、心理を「科学的」に扱いました。これがbehaviorism。
行動主義と訳されるが、behaviorなので、人間の行動を含む態度全般。
1960年代以降の機能主義
心の状態は、それを構成する物質(脳の神経細胞や信号など)ではなく、機能(function)によって定義されるべきだというのが、ファンクショナリズム(functionalism)。
$ f(x)の$ fは、function(機能)の$ fのこと。
例えば
$ xとして「パクチーを口に入れる」と入力
$ f(x)として「これはパクチーだ!」という認識が出力される
who-red.iconさんの心の内では「爽やかでフレッシュなハーブの風味!」と感じていて、who-blue.iconさんの心の内では「カメムシみたいな不快な味!」と感じているかもしれないが、機能主義ではこの差異は扱えない。
なぜなら、who-red.iconさんもwho-blue.iconさんも両者とも、「パクチーを正しく認識する」という機能(function)を、まったく同じようにはたしているから。
心の働きさえ再現できたように映れば、その媒体(ハードウェア、身体)は問わないという考え方が人工知能
computational theory of mind
世界が計算論的世界観でみなされつつある近年
computational worldview
——という語にしてみたが、これを表す別の語がもしあれば教えて欲しいterang.icon
他に似ているかもしれない語
サイバネティクス
dataism (ハラリ)
人間の心に限らず、社会、政治、経済、創造性などあらゆる複雑な人間の営みを、本質的に「情報処理システム」と捉える世界観
この世界観に立つと、あらゆる問題は「情報処理の問題」として再定義され、その解決策は「より優れたアルゴリズムや計算プロセスを設計すること」に求められます。
これは機能主義の考え方を心の問題から社会全体へと拡張あるいは一般化してものと言えると思います。
これを踏まえて、計算論的世界観の特徴を整理してみます。
以下のような信念の集合体と思われる:
(繰り返しになるけど)世界を情報システムと捉える
複雑な社会や人間の営みは、本質的に情報処理のシステムとしてモデル化できる
計算過程優位
個人の知恵や権威よりも、“正しく”設計されたアルゴリズムや手順の方が、よい結果を生む。
スケールを善とみなす
大規模に適用できること自体を、その過程や手順の優位性の証拠と考える
内面性の軽視
数値化、データ化しにくい人間の内面(感情、身体感覚、直感など)は、ノイズか、あるいは処理すべきデータとみなす
この世界観を肯定できる点
「優れた手順」の有効性
構造主義的な考え方からも、慎重に設計されたシステムが、特定の個人の能力(たとえそれが専門家や知恵者と呼ばれる人のものであっても)を上回る場面は多いと思います。
それは個人のバイアスや欲求を抑制し、集合的な知性を生むために有効な「構造」だと思う。
例えば企業などにおける不正のトライアングル防止策など
ただ、それは「システムだけがすべてではない」という留保付きではあります。
規模がもたらす恩恵
現代社会は、人間個人の認知能力を超える規模のものがほとんどだと思います。
活版印刷や電卓がそうであったように、AIを含むテクノロジーが、人間の能力では扱いきれない規模の問題に取り組むためのヒューマン・エンハンスメント道具として、大きな可能性を秘めていると思います。
原理的に受け入れ難い点
人間や社会の、情報への還元主義的態度
合目的であることを留保なしに善とは言えない。
もっとラディカルには、アーレントが殺人的な帰結をもたらすと言ったように。
こう思うのは、「計算機が合目的でない方が創造性があるから」ではない
Stanley and Lehmanが以前、目的神話をこの文脈で否定していたが。
それは人間や社会は、情報やデータに還元しきれない身体性、一回性、予測不可能性といった価値を持つと考えるから。
道具は故障する
あくまで人間が主体であり、システムは主体ではありません。
そんなシビュラのような統治システムはごめんである。
システムも道具の一種であって、道具が故障した(というか故障したように映る)という直感をいつも働かせていなければならない。
特に、AIのように我々の認知能力を超える規模で動作する「道具」が、なんらかの「善」を示唆したとしても、それを盲目的に信頼することはできない。なぜかといえば、我々は自らの倫理的判断が及ばない「規模」の事象を扱っているため。
その「善」がなぜ「善」であるのかを判断し、その結果に対する最終的な責任を引き受けるのは、道具ではなくて、あくまで我々でなければならないと思います。
ファシリテーターの、科学との向き合い方