さまざまな抽象度で問いを抽出

さまざまな抽象度で問いを抽出

blu3mo.icon

文章から「その文章が答えられる質問」をさまざまな抽象度で抽出してデータベースを作ると便利なのでは、という仮説がある

code:prompt

「このページに出会うことで答えが見つかる具体的な質問」、「その質問を少し一般化した形で、専門的な用語を使わずに抱ける疑問」、「さらに抽象化して一般的な形で表現した問い」の3段階のセットを5つ作ってください。質問を一般化・抽象化する際にも、意義や意味が明瞭明確な問いを書いてください。

みたいなプロンプトでやっている

元々本でやろうと思っていたけど、ページ単体だけ切り出してもそれまでの文脈がなくて意味がわからないことが多い

オープン、単体で理解可能、適度な長さの面白知識の集合としてちょうどよい

https://gyazo.com/25b94ec6757d3efe006a6599f915dcc9

すごい面白い

特に自分の思考の最先端では「他人視点でわかるようにすること」を放棄して速度を出しているので、いいタイトルをつけてなかったりしてログの再利用の問題があるが、下記のサンプルだけ見ても再利用に関する有用な発展がありそうと感じる

とりあえず5000ページやったデータをもらえるならそれにかかる費用は僕が払うよw

作業ログ

合計5000ページ

モデルをどうしよう

4oと4o-miniを比べていると、やっぱり4oの方が問いを抽象化する能力が高い

4o-miniは、絶妙に的外れな抽象化をしてくる

5000ページ全部処理すると、4oなら数千円、4o-miniなら数百円

https://gyazo.com/8a49ca96f7ccfa27913eef2e9b7fed08

嬉しさ

このデータがあれば、RAGにおいて抽象的な質問から具体的な知識を引き出すことができる

従来のRAGは単に質問と文書の距離を取っていたので、抽象的な質問に対して適切な具体的情報は帰ってこないことが多かった

これは事前に抽象化のプロセスをLLMにやらせているので、抽象的な質問から具体的な知識を引き出すことができそう

人間は、具体的に本文の内容や文脈を理解していなくても、抽象的な質問なら生み出せるし理解できる

が、「情報を整理するのにどのような方法が有効か？」という問いは生まれるし理解できる

人が使うことを想定した時に、「生み出せる」だけでなく「理解できる」という部分が重要な気がしている

補足：具体 vs 抽象は、文脈依存度が高い vs 文脈依存度が低い とも言える

例えば、龍樹の本の具体問いと抽象問い：

"concrete_question": "有部における「三世実有法体恒有」とは何を意味し、それはどのように証明されるのですか？",

"general_question": "過去・現在・未来にわたって存在するものの本質は何か、どのようにして存在を確認できるのか？",

"abstract_question": "存在とは何か？それは時間を超えてどのように定義されるべきか？"

文脈依存というのもある意味では狭い専門用語か

抽象と具体を行き来する思考を支援する上で色々な使い道がある気がしている

適切にコンテクストを補完する方法を考えたい

「本Aのページ234」と「本Bのページ51」は抽象的には同じ問いに対して異なる見解を示している、みたいなことが見出せる

あるいは「今悩んでいる問題X」を抽象化すると、「本Cのページ49」の記述が役にたつ、みたいなことが見出せる

あくまで読み解きの一種な気がする

質問リストがあるのと単にChatGPTにわかりやすく説明してねというのと何がちがうのか

仮の回答を書いてみる：

上の龍樹の例でいえば、龍樹のことを知らずに「有部における「三世実有法体恒有」ってなんだろう..?」という疑問を抱くことはできない

が、「過去・現在・未来にわたって存在するものの本質ってなんだろう」という抽象的な問いは抱くことができる

（AIの支援を受けながら別の具体的な問いを抽象化してこれにたどり着く、とかでも良い）

面白くはあるが、結局人間と「抽象的な質問のデータベース」のインターフェースをうまく設計しないとやりたいことが実現できない

肝心のところがまだ解決されていない

目指したいところは「大量の本の知識を全部読まなくても活用できる仕組み」

2024/9/15

具体では全然違う話をしているけど、抽象的には近い話をしているページ同士が近い場所に配置される

実証のために、目でみて適当に近い点を二つ選んでページを貼ってみる

例1:

公平性を欠く状況によって、参加者の多様性が失われるプロセスはどのような要因によって加速されるのか？

社会の中で公平さを感じられる仕組みを作るにはどうすればよいか？

「人狼マッチにおける男女」と「シルバー民主主義における若者高齢者」の間にアナロジーがひける

https://gyazo.com/7c47b5617f1da7f2bee2bd6588f43d2a

例2:

コミュニティで知識を共有する価値はどこにあるのか？

学びを最大化するためのプロジェクト間の知識共有戦略はどのように設計されるべきか？

二つのページとその問いをOpusに渡す

https://gyazo.com/2f76122ac1876db3c42f84b9844ef7d3

例3:

創造的思考はどのようにして実現するのか？

創造的な思考を引き出すためには何が必要か？

さらに、LLMによる抽象化のステップを参照することで、ページと抽象的な問いのつながりが理解できる

ここの「抽象的な質問」はもう少し型を作ってあげると良い気がする

どんな問いが良い問いなのかを言語化したい

2024/9/15

500ページだから理解できているだけで、5000ページ放り込むとノイズが増えすぎて訳が分からなくなる可能性もある

ただ、今の所人力でノイズを排除しているつもりはないので、スケーラブルな気もする

ここに他の本も放り込んでいって、どんなことが起きるか試したい

「要約する」のではなく、「抽象化して文脈依存性を下げる」ことをやっている

それで一万冊やりたいみたいなことかー

抽象化のところを使えてないか

抽象化した質問だと小論文的な感じ？

「その文章から言えること」とその抽象化を作ってもいい気がする

人が情報を探すときは疑問の形で考えているはずだからそのほうが探しやすいということだろうか

nishio.icon

https://gyazo.com/985f9fbdc13d9ef293324b0029db6e1a

連想って人間の思考の流れとしては(1)だけど、givenなコンテンツがAになるようなQという人間の思考の流れの逆向きの思考をLLMにやらせているのが面白いところだと思う

脳内にやっていることを表現する図があるが、いまiPadを持っていないのでとりあえず文章で書く

レイヤー１　抽象問い

レイヤー２　具体問い

レイヤー３　知識

一つのレイヤー１のノードから、複数のレイヤー２のノードに線が伸びている

抽象問いを具体化した具体問い

一つのレイヤー２のノードから、複数のレイヤー３のノードに線が伸びている

具体問いに答える複数の知識

複数のレイヤー２のノードから、一つのレイヤー３のノードに線が伸びている

複数の具体問いに答える知識

レイヤー３のノードから、レイヤー２のノードに線が伸びている

知識から生まれる新たな具体問い

「グラフ」と表現したが、それぞれのレイヤーは高次元空間

なのでその空間における距離も活用できる

2024/9/18

費用は$50程度