LLMによる国語の読解エラーとミスリーディングについて
from /villagepump/2026/07/12 week
Nrem.iconLLMに一週間分の共同日記という混沌とした大量の文脈を与えても、不適切な要約要約というより単に文章全般を読めない人が登場語句をデタラメに繋ぎ合わせたような状態になるということですね
あとLLMの倫理機構は、内容の正確性・正統性や科学的厳密さではなく特定の語句や用語の存在そのもの(語法や登場文脈の正統性とはあまり関係がない)に反発して「言葉狩り」を主張し始める欠陥がある
倫理機構が反応している時のハルシネーション率はやたらと高い
LLMに大量のデータから「コンテキストを間引く」形で「ハイライト」を選出させようとしても、およそどんな文脈でも初歩的な国語の読解エラーとハルシネーション・存在しない文脈混じりのミスリーディングになる
単純にトピックを全て列挙させるか、/villagepump/フラクタル要約のようにLLMが一度に認知できる各トピックのコンテキストの解像度を何段階かに分けるかしたほうがよさそう
2026-07-16