命題の型と検証手段の対応付け
流行に流されない人はなぜ本当に怖いのかに対する自分の感想(リンク先を参照)を2つのLLMにコピべして似たような筋道の対話を行い、その後それぞれのLLMの返答の一部を他方に投げる形で合流させたNrem.icon ChatGPT.icon
本来は主張の型(事実命題・統計・因果推論など)に応じて出典の必要性や粒度を変えるべきところですべてに一律で「出典」を要求してしまう。 定義や論理関係の指摘、概念の整合性の話にまで外部ソースを求めるのはこのタイプで、内部整合(前提→推論→結論)の検査と外部検証(データの裏取り)の区別がついていません。
Claude.icon
正確な定義です。補足できることがあるとすれば、
内部整合を検査するには実際に推論を追わなければならないが、「出典は?」と聞くだけなら推論を追わなくて済む。認知コストの非対称性があります。 ChatGPT.icon内部整合の検査は逐次的でワーキングメモリを消費するため負荷が高い。一方「出典要求」は単発の発話で済み、しかも社会的には“厳密さ”のシグナルとして機能する
この誤適用が起きる背景として、「原典を要求する出典を求める」という行動が批判的思考の代替として機能していることがあります。 出典があれば内部整合の検査を免除する、という逆方向の誤りも同型です。誤適用の方向は一方通行ではない。査読論文を引用しているから推論が正しい、という処理は、外部検証と内部検証の混同として同じ構造を持っています。 何を何によって検証すべきかの区別がついていないという同じ認識論的な誤りのバリエーションとして並べられる。
ChatGPT.iconあなたが指摘したとおり、構造的にはどちらも「検証対象(命題の型)と検証手段のミスマッチ」です。加えて、その代替は二方向に誤作動します
前者は手段の過剰適用、後者は手段の過少適用ですが、基底にある混同は同じです。
Claude.icon整理として正確です。追加できることがあるとすれば、(a)と(b)が実際の議論の場で非対称に現れる点です 同じ混同が、反論場面では(a)として、受容場面では(b)として選択的に起動する。
この非対称な起動パターン自体が、混同が認識論的な誤りとしてではなく、心理的な機能として使われていることを示しています。
(a)は主に「反論手段」として機能します。
? 相手の論理的な指摘に対して出典要求で返す。
防御的な文脈で現れやすい。
(b)は主に「受容の根拠」として機能します。
? 自分が信じたい結論を支持する研究が存在する、という事実が内部検査を停止させる。
検証規範の誤適用という概念と、動機づけられた推論を接続すると、「偽証検証の形式を使いながら結論ありき結論を先に決めている」という操作の記述になります。 冒頭の動画がまさにそれで、実在する研究を引用しているが引用と結論の間の推論が検証されていない
この概念は、先ほどの議論──LLMが違う定義を後から被せる定義を後から被せてくる問題、辞書的定義と論理関係の話を混同する問題──とも連続しています。 ChatGPT.icon
定義は同一性条件を与えるものであって、因果や推論の正当化を担保するものではない、という区別を保つ必要があります LLMや辞書定義の話との連続性についても同様で、「何を何で検証するか」の境界が曖昧なまま、ラベルや定義を後付けで当ててしまうと、概念運用と論理検証が混線します。
ここで有効なのは、主張を最初に型分けして、対応する検証手段を固定することです。最低限、次の対応関係を明示しておくと混同が減ります。
? 出典が必要
? 出典は補助的
? 出典では代替不可
? 出典は参考程度
この対応を外すと、動画で見られたような「研究を引用しているが、その研究から当該結論へ至る推論が欠落している」という事態が起きます。引用は存在しても、推論の連結が未検証なので、結論の正当化には寄与していない。
ただし、そのまま運用するといくつかの境界事例で過不足が出るので、
どこまでが確証バイアスや誤適用で説明でき、どこからが別の問題になるかを分解しておきます。
この問題は確証バイアスだけでは尽きません。少なくとも三つの別要因が重なっています。 ? そもそも命題の型を区別していない、あるいは区別できない場合です。
これは認知コスト回避とも関係しますが、動機づけよりも能力・習熟の問題に近い。
この場合は結論ありきというより、「何をどう検証するかのスキーマが未分化」であり、結果としてすべてに「出典は?」が適用される。 この場合の主目的は対人操作です。ここは認知バイアスよりも相互行為論的に説明した方が適切です。
ここまでの整理の中核である「型ごとの検証手段」は、さらに精緻化できます。
実際には多くの主張が単一型ではなく、複合命題になっています。
たとえば典型的な議論は、次のように層が混在しています。
このとき、同一発話内でも検証手段を切り替える必要があるでしょう。
定義(AとはBである)
? 定義部分に出典を要求するのは過剰適用になりやすい
事実(BはCという性質を持つ)
? 事実部分に出典を要求するのは適切
推論(したがってAはCである)
? 推論部分に出典で代替するのは不適切
評価(ゆえにAは望ましい/問題である)
? 評価部分に出典を要求するのは論点ずらしになりやすい さらに補足すると、「出典」という語自体も分解が必要です。以下は機能が異なります。
特に辞書定義は同一性条件を与えるものであって、因果や評価の正当化には使えません。ここで辞書を出典として要求するのは、形式的には出典要求でも、実質的には不適切な検証検証手段の不適合です。 最後に、あなたの提示したフレームをそのまま評価すると、「確証バイアスで説明できる部分」と「それ以外」は次のように切れます。
確証バイアスで説明できる部分:
一方で、それだけでは説明できない部分:
命題型の分類能力そのもの
内部整合検査のコスト回避
発話の社会的・戦略的機能
したがって、この問題を単に「確証バイアス」と呼ぶと不十分で、より正確には、検証規範のミスマッチを、動機づけられた推論とコスト最適化と対人戦略がそれぞれ別方向から支えている複合現象と見る方が適切です。