なめら会議3
14:00 開会, 開会挨拶
14:10 1人ずつ自己紹介
17:50 飛び込み発表
18:30 閉会挨拶
Semantic knowledge base
本書がなめらかな社会を目指すからには、 敵と味方をなめらかにするという困難な問題にも挑まねばならない。
『なめらかな社会とその敵』文庫版 p340
敵は複雑性か認知限界か
認知限界の外を敵視するタイプの人がある程度いそうだとは思うnishio.icon
統治技術はコミュニケーションの技術
nishio: ジョンデューイが「技術は人々の相互作用の方法を変えるので民主主義もそれに合わせて変わる必要がある」的なことを言ってるってGlen Weylが言ってた
貨幣・投票をコミュニケーションと捉える
生命→自己閉鎖系
自由エネルギー最小化
https://gyazo.com/5b3d2996a442a47e0d27090d2fc89c93
共同注意+名付け→記号の創発
2体のエージェントにより行われるこの名付けゲームは結果としてその2体のエージェントの感覚系を統合した認知システムにおける内的表象のベイズ推論と等価になる --- 『未来社会と「意味」の境界』 谷口忠大 ／ 河島茂生 ／ 井上明人
nishio: これは「名付けゲーム」というゲーム自体に記号コミュニケーションを強制する仕組みがあるよね
nishio: 谷口忠大先生、十分能力が高ければ記号コミュニケーションしないって言ってなかったっけ 認知能力が乏しいから記号コミュニケーションする羽目になってる
メディアとのインタラクションは、人々の認識パラダイムを変える
島宇宙化
知識の蓄積手段
PKMツールの4分類
nishio: 4機能、全部必要では
こばゆ: この4分類もなめらかですよね
自動分類
自動フォルダ
ネットワークから文脈を生成
nishio: 「ネットワークから文脈を生成」文脈とは…
より良い判断をしようとすると多面性を求める方向に進む
フィルターバブルは起きにくくなる
コーディング
関数
友達の間でしか伝わらない言葉
記号創発
nishio: クラスタリングアルゴリズムによって系統樹で表示されるというのは階層的クラスタリングの話なのかな
→Yes
nishio: ベクトル空間に埋め込んでる時点で一つの距離空間を仮定しているわけなんだけど、現実的には意味の関係性って距離空間とは違いそうだよね
AとBが関連しててBとCが関連してても、AとCがあんまり関連してないことがある
こばゆ:
ネットワークの特殊な場合がベクトル空間
Ikumi Akatsuka:
RLHFとかってAIと人間の間の記号創発にあたるのかな
miyabi:
創発、にあたるかは難しいかもですね。相互作用や収束があるか
ナレッジグラフ自体を作るのにデータを能動的に入れる必要はないかもしれないが、統治や政治的に利用するそれには意識的な入力が重要と考えています。
nishio: 最近ベクトル検索エンジンの中で使われてるHNSWの仕組みを読んでて面白かったんだけど、要はグラフを作る時に近いものをつなぐだけではダメで遠いものをつなぐ必要があって、それを実現するために「ランダムに選ばれた頂点の間だけで近いものをつなぐ」ことで遠いリンクを作ってた 意識的情報整理
集合知
統治
胃の集合知
非線形な投票↔一人一票
人間が記録しようとしたもの
人間の意識的情報整理
これを統治に使う方が納得感ある？
nishio: (PKMに情報を)能動的に入れる必要が本質的にあるのかないのか
toori:
メモがグルーピングされてベン図みたいになってるやつで、simpleでsymmetricな11次元ベン図が曼荼羅みたいになることを思い出した
A New Rose : The First Simple Symmetric 11-Venn Diagram
nishio:
何を入れるのかの意思決定が内容に対する価値判断だと思う
「これは労力をかけて書く価値がある」が価値観の表明である感
nishio:
ベクトル空間に埋め込んで勝手にリンクするってことは、その埋め込み方法が正しいと仮定しているわけなのだけど、それでいいのかな
それって一通りの視点に固着してしまうことのような…
モヤモヤしててコメントが難しい
miyabi:
設計に当たって、LLMに任せる側面と、「どれだけLLMと我々の持つ意味や文脈が異なるか？」という視点が重要です。
LMMと人間の記号理解は異なるという前提。リンクも半自動的なもの（サジェスト）を考えています。
LLM独自のパースペクティブに固定化されるのは避けるべきですね。
0xShj:
能動的に入れる必要が本質的にあるのかないのか
これってすごいトンフィさんの質問に重なって聞こえてるんですけど、ぼくだけですか。
nishio:
同感
「人間が意識的に記録しようとしたものによる統治の方が納得感がある」というコメントだったと思う、それがなぜ納得感あるかというと「意識的な選択」が個々人の「価値観」の表明だからだよね
ただ目にしたものが全部記録されるのだと人間は単なる「世界にたくさん配置されたカメラ」に過ぎない
shudo:
(Semantic Knowledge Base のような) ソフトウェアから使いたいような定量的な情報 (単語間の関係の強さとか) は、LLM には確かに入ってるわけだけど、暗に入ってるだけで明に引き出せるとも限らないから、もどかしいな、と思う。Google ナレッジベースみたいなものをみんなが使えるといいのに。
Napier protocol
国によって国家に対する感覚が違う
自国通貨に対する信頼の低い国ではおじいさんでもDEXする
日本が平和だから意識してないだけ
Curveファイナンス
金利スワップ
CRVトークンが分配の意思決定の投票権になる
nishio:
CRVトークンをたくさん持ってるほどたくさん獲得できるから競い合って所有するインセンティブが生まれる？ よく均衡してるな、金持ちの独占に収束しそうな気がするが…
nishio:
「CRVトークンの投票権の価値が定量化しにくいので収益の期待値より高い評価が起きている」バブルでは…
0xShj:
これバブルっぽく聞こえちゃうと思うんですけど、ここが事業者むけの価値として、上乗せされている状況ですね
KOJO:
CRVトークンの投票権が過度に期待値上げてたというのはそうな気がしますね（ステーキングで投票権が得られるシステムは多分Curveが初めて？）
renchon: Curveは半年前にエクスプロイト起こって、その時も色々面白かったですね
Napier AMM
プールの流動性が低い問題を解決？
Napierでリスク管理の選択肢が増える
リスクを避けたい人のための選択肢になる
Curve Warを公共財への投資として捉える
オーストリア学派
固定金利
Curve Warの恩恵を得たい
CRVトークンは期待収益と異なる値付けが起きている
満期付き資産は流動性が減る
Curveのプールを使えば複数の異なる満期の資産をつないで一つのものにすることができる
異なる資産の間で流動性をシェアできる
エコシステムが成熟するまでは満期を長く設定しインセンティブを多めにし、成熟すると短期のものを増やしていく
リアルワールドアセット
社債発行
USボンド
異なるリスク選好の人を結びつける手段
リスク回避の人が固定金利を求める
変動金利でイールドを追う
shudo: 「今 DeFi をいじっているようなリスク選好がバグっているような人達」😁
renchon: DeFiは机上で考えるより、実際に触ってみる方が体得しやすいと思うので、触ってみるのがいいかもしれません(リスク選好バグ)
Ikumi Akatsuka: stable coinをcurveに上場させたい事業者が欲しがるだろうという理由で、手数料からの収益期待値より価格が上がるという理解であってますかね
0xShj: まさにです。
shudo: 金利スワップの DeFi を作る、っていう目のつけどころがすごい＞Napier
KOJO: 長期金利にアクセスできるPJ少ないですよね現状
miyabi:
Difi、リスク選好の強い人が多いということがプロダクトにとって問題因になるのおもしろい
環境バグ？
PixeLAW
Web2.5ゲーム
中央集権性
KOJO: 岡村芳樹さん僕も好きです
フルオンチェーンゲーム
FOCG
ガス代の低下によりすべてチェーンに乗せることが可能に
Nakai: ゲームは互いのデータを隠したい状況が多いと思うが，オンチェーンだと公開されちゃうので大変そう
nuun:
それを解決したのがまさに発表に出てきたdark forestですね
nishio: そうなのか気になる>解決
Nakai:
あ，そうなんですね．ZKかな？？
あと，TX発生するたびにメタマスクの認証ボタンを押すのも大変そう．
nuun:
「Dark Forest」では、zkSNARKsを用いることでそういった課題を解決しながら、MMOゲームをオンチェーンで実現しようと奮闘しており... Autonomous World
世界の三通りの作り方
nishio: 膜を作って内外を分けるということか
nishio: 「世界の三通りの作り方」パワーワードだ
shudo:
「Autonomous Worlds have hard diegetic boundaries, formalised introduction rules, and no need for privileged individuals to keep the World alive.」
nishio: 神は「光あれ」の代わりにスマートコントラクトを作るのか
HiroHamada: 消滅する媒介者
オブジェクト指向ではなくECSフレームワーク
新しいコンポーネントやシステムの追加がパーミッションレス
OPCraft
ダイヤが通貨
ステーキングで区画の所有
国を作った
nishio: 面白すぎる>建国
こばゆ: リアル世界征服
0xShj: メタゲームの側面として、革命を起こすことができるゲームってありますよね
フロントエンドは解釈に過ぎない
Ikumi Akatsuka: ゲームの本質的な面白さってUIに依存しないのかな（しないと信じたい）
0xShj: AWってもしかしたら、UIに依存せずにゲームを試してる人のためかもしれない
EVE Online
数千万円規模の戦争
現実の戦争は数百兆円規模
PixeLAW
最小のAW
複数のFOCGが動く
nishio: PixelのLが大文字になってLAWになってるのか
Ikumi Akatsuka: 「最近悩んでいること」っていうスライド素晴らしいな。
0xShj: 公共財としてのファンディングってこの辺に惹きつける必要があると思うんですよね from なめ敵
https://gyazo.com/77bf0152db5d685230749e87398b1cfe
nishio:
「エログリッドコンピューティング」とも呼ばれる人間の欲望を駆動力にしたアイデア
エロオートノマスワールド！()
ユーザは何を楽しんでいるのか
nishio: 実装されてるゲーム自体より「世界を作る」というところが面白いよね
nishio: tkgshnのコメント: 正の外部性、NumerAI、オンチェーンKaggle
miyabi: 進化アルゴリズムを人間にさせるみたいな？
nishio: トレードAIが欲しい人を顧客にしてそこからお金を取るのか、世界をつくりたい人からお金を取るのか、ゲームを遊ぶ人からお金を取るのか、と顧客の定義の方法が色々あるわけだ
Ikumi Akatsuka: ハードル：レイテンシ
nishio: あー、ボードゲームはレイテンシーが低くても良い、と。なるほど
0xShj: 公共財を立ち上げるために、バブルっぽいものをうまく利用する必要があるんじゃないか
nishio: ボードゲームを作って、多くの人に遊んで欲しい人はいっぱいいそうだし、ボードゲームで強さを示したい人もたくさんいそう
Ikumi Akatsuka: AWでいうブロックチェーンは、トランプみたいなものだと理解した
nishio:
具体的な実装を見ないとどうしてそれが実現可能なのかよくわからないな>衝突判定もオンチェーン
SYORA | PixeLAW:
開発docsとcodeです🙇
「ZKで書いてオンチェーンで検証する流れでは」「それはオンチェーンなのか、意見が分かれている」
nishio: なめ敵ボードゲーム会の機運()
SYORA | PixeLAW:
最後に触れていたnoteです！
お時間ある時に是非！
(AWで出来る新しい遊びだと思っています)
Algocracy
nishio:
人間ではなくAIによる統治！AI独裁バンザイ🙌
支援ではなく代替
愚かなホモサピエンスを代替しよう！こういうの大好き！()
民主主義の方が成長している
中長期的には成長率高いのでは
迅速な意思決定にマイナス
じゃあ独裁政権側としては世界をかき乱して迅速な意思決定が必要な状況を作り出せば有利だな(コラ)nishio.icon
コミュニケーションがボトルネックになる
miyabiさんの「統治技術はコミュニケーション技術では」とつながるなnishio.icon
正当性と正統性
justnessとlegitimacy
一階の公共性と二階の公共性
正統性が根本では？
→納得感
KOJO: 多数決というアルゴリズムに納得感があるということかな
0xShj: 民主主義は、お祭りにしてみんながいっぱい喋った方が機能するはずっていう雑な議論を昔したのを思い出した。
こばゆ: いつも少数派だとそうでもなさそう
nishio: いっぱい喋ったのを聞く人がボトルネックなのでそこをAIで代替しよう
行政機能の代替: 人間が定めた法の範囲での執行
立法機能の代替: 法や予算を決めること
司法機能の代替: 適法性の判断、違憲審査
アルゴクラシー
nishio: AI独裁制って言うと反発されるから今後アルゴクラシーって言っていこう()
AIがアジェンダを設定してそれに投票したら正統性ある？
0xShj: 納得感あるAIを選んで委任する。みたいなことを通じて、アルゴクラシーに正当性を持たせることってできないんだろうか。
こばゆ: AIへの服従を公約とする人間の政治家とか
データが膨大
オンタイムの計算が無理だろ
経済計算論争
今だと計算できちゃうのでは？
目的関数自体が大自由度な問題
miyabi: 目的関数の設定 EBGM
nishio: 頭のいい独裁者が、いい後継者に恵まれなかった時に自分の価値観をアルゴリズム化することで実現されるのではないか
こばゆ: それはいやだ
nuun: 素朴な感情w
nishio: 不老不死としての独裁者のAI化
0xShj:
ニューロマーケティングみたいなところからアルゴクラシーに接線を引くことってできないのか？
消費者の消費行動における選択からの逆算で出来上がったモデルの横転用とか？
miyabi:
「マーケティング」のデータを目的関数に据える妥当性は怪しいですが、クオリア構造学の転用はあり得るかもしれないです
アルゴリズム 意味 クオリアの接地問題（創発問題）
クオリア構造学 - JSPS Transformative Area (A) 2023-2028
土谷・西郷 2019 認知科学 圏論による意識の理解.pdf
感覚質を理解せずに目的関数きめられるのだろうか
nuun:
各々がAI agentに自分の投票権を委任する形で、民主主義国家でアルゴクラシーは達成される気がする
nishio:
「正統性が最も希少な資源」(Vitalik)において正統性のソースはいくつか挙げられてて、パフォーマンスによる正統性ってその一つなんだよね nuun: 自分で自分の投票行動を決定するよりも、自分所有のAI agentに委任した方が正確性高いパターンは大いにありそう
技術者、コミュニケーター
AIの言葉を民に伝える
nishio: なるほど、技術者は贖宥状を売って儲けられる(違うそうじゃない miyabi: デジタルツイン・デジタルひゅーまんによる投票
こばゆ: 投票先、人間…
取締役会と執行部
監督府と行政府
司法府をAIに代替させてはいけないのでは？
nishio: 統治をAIに委ねるか委ねないか、という二値の議論ではなくて、統治の仕組みをいくつかに分解した上で「行政は任せて司法は死守」みたいになったのは、理解の解像度が上がった感じがあってとても面白かった、じっくり考えたい
tkgshnのコメント
AI代議員、Pol.is2.0
直接民主主義をLLMを用いて加速
それがまさに台湾で行われていること
この議論は飛躍しすぎでは、今現実に行われつつあるものを見るべきでは
nishio:
「代議士はコミュニケーションをスケールさせるために置かれた、地方分権も同じ、しかしデジタル熟議ツールによって解決できるのではないか」
が今台湾などで行われている
というtkgshnからの指摘のメモです
「支援自体は、みんなやっていくだろう、アルゴリズムがどこまで代替するのか、どこまで代替させていいのか、ということを考えたかった」
外交はどうなるか
nishio: 「外交」また難しい話になったな
外交は何か
shudo:
今日のDAOだと…
例えばDeFiのDAOなら、執行のほとんどはスマートコントラクトにまかせてるけど、経営は（ガバナンストークンの持ち分に応じた投票で）依然人間が行ってる。
もっと複雑な執行が要るDAOだと、結局、執行まで人間がやってる。
会社やDAO：執行 ～ 経営 ～ 株主総会(?)
国家：行政 ～ 立法 ～ 司法
っていうような相似がありそう。
0xShj:
DAOの中でも委任型の民主主義を作った時に、その一部がAIだったりするとかはできそうですね
nishio:
「国が前提になってていいのか」「メンバーシップもなめらかになるのでは」
shudo:
国、といった枠組みも、一度なかったことにして考え直したい。クリーンスレートアプローチ。
ただ、領土から得られるリソース（農産物とか）に人は依存してるから、それと個人の保障は、なかなかデカップルできなそう。
「外交とは何かというところから新しいスライドが必要では」
地方自治体の間のリソース分配をふるさと納税よりもっと賢いものにしよう()
nuun:
アメリカとロシアがスマートコントラクトで契約したら、どれぐらい履行に強制力あるんだろう
ブロックチェーンのコンセンサスメカニズムに対して、国家ってどれぐらい介入できるのか
KOJO: 司法が訂正可能性になるのか
nishio:
「民衆が何を信じるか、アルゴリズムを信じて委ねて、それは民主主義」
「何かを選ぶ時、安全なものを選ぶか、面白いものを選ぶか」お、DeFi参加者のリスク志向の話かな？()
miyabi
可塑性、進化の斬新性と突然変異、訂正可能性
アルゴリズムで良いかどうかを決定できているうちは民主主義的
KOJO: 安全か面白いか=>保守か革新か、みたいな話に聞こえる
nishio: 面白いからリリースしようぜ()
0xShj:
分散型AIのprojectにritualって名前のprojectがあるのを思い出した。
nishio:
シンセティックテクノクラシー、Glen WeylとAudley Tangの書いてるPluralityの本とかで「21世紀のイデオロギー」と呼ばれてるやつの一つ
3つのイデオロギーがあるよね、という整理をしている
nishio:
具体的なアルゴリズムの使い方、実装の方法に関して、解像度が高まる必要がありそう、今回の発表の「立法府を代替するかどうか」などの切り口は解像度高まってる感
nishio:
無意識的フラストレーションの蓄積によるフェーズトランジション、面白い
nishio:
オイルマネーLLM、割と強いから冗談ではない
アラブ首長国連邦の「ファルコン40B」がスコアボードで首位に：ハギング・フェイスのオープンソースAIモデルに関する最新の独自の検証において世界1位を獲得
Ryuichi Maruyama:
行政にしても立法にしても、「アルゴリズムで代替させるか否か」だけでなく、「どのアルゴリズムを使うか」の選択にlegitimacyの問題が生じるのだろうと感じました。そこをアルゴリズムで決めると無限遡行になるので、どこでどのように人間が判断するのか。
nishio:
「ぜひ面白い事例をどんどん投げつけてください、仕事早いので全部盛り込むことに疑問の余地はない」無茶振りが行われているw
0xShj:
DAOをgoogleとかtwitterくらいでかいもはや公共財と呼ぶべきものを統治するためのものとして解釈するのと似たものを感じた。
今の実社会での国家にAIを組み込ませるのは難しくても、DAOが影響範囲を広げる中で、AIの必要性が生じる。みたいな文脈で開発インセンティブが生まれそう。(質問には直接答えていないが)
nishio:
DAOとセットで広がるのかDAOと無関係に既存組織のDXとして支援から代替へと進むのかは疑問、割とDAO関係ないのではと思ってる
miyabi:
どんな言語でAGIがつくられるかによってある種の文化侵略が危惧されることは、植民地支配や帝国主義に似ている。
どんな文学性がどんなAGIを作るか
nishio:
ある文化圏では区別するものを、別の文化圏では区別しない場合に、区別しないLLMが圧倒的になると区別するマイノリティの側に余計なコストが押しつけられる
日本の田舎でハラルフードを食べるのに苦労するのと同じ
miyabi:
これ、LLMが現状複数の言語で同時演算しにくいという前提が根にありますよね。
支配的言語モデルによる分節化の押し付け。明治期の概念輸入をそう見ることもできそう
前回のPlurality Tokyoでの西尾さんのスライドが言語とその表現系の多元性の話でしたので、興味ある方ぜひ
ブロックチェーントリレンマ
トリレンマ知ってる人！だいたいみんな知ってるね！
nishio: トリレンマ知らないです！
nishio: 「3つのうち2つしかできない」と「3つの積が定数」後者の方が解像度高い
1/F
0xShj: フォーク率の逆数がセキュリティってわかるようで腑に落ちきらない。
shudo:
フォークが起きると、マイナー達がマイニング対象とするチェーン（先頭ブロック）が分かれてしまいます。5割 vs. 5割とは言いませんが、例えば 8割 vs. 2割とか。すると、その分、総ハッシュレートが下がったことになって、いろいろな攻撃に対して弱くなります。ある程度時間が経つと、うまくいけば収束するわけだけど。
0xShj:
「ダブルスペンディング攻撃とか、攻撃パターンから考えると、fork率が高いほどそれが容易になるから、fork率が低い方が安全である。」っていう風にも言っていただいて、めちゃくちゃ納得しました、ありがとうございます！！！
H
ハッシュレートの割合のベクトル
P
伝搬時間
ノード間の通信時間が一定であると仮定するとHHIになる
一般の場合でもシミュレーションによって強い相関があることを示した
nishio:
「フォーク率は直接コントロールできるパラメータではなく他のパラメータによって決まる」気になってたところの補足が入った
シミュレーションでこの式がほぼ定数になることを示した
nishio:
SYORA | PixeLAW:
セキュリティのところ僕も疑問だったので聞いてくださって助かりました！
PoWじゃなくてPoSの時の表現も気になる
改善の方法は二通り
ブロックサイズを小さくする
Pを最適化する
Q: シミュレーションはなぜ必要？
A: 必要ないと思うが、しないのかと言う人が多いのでやった
フォーク率を実測しているので、間接的に理論フォーク率が正しいことの検証になっている
地理的なノードの分散
談合との関係
東西で別のブロックチェーンに分かれてしまうかも
PoSになると？
フォークが発生しない
別のモデルになる
談合を別のレイヤーで考えた方がいいかも
0xtkgshn Awesome talk about blockchain trilirnma https://pbs.twimg.com/media/GDtY624bUAAB7IR?format=jpg&name=medium#.png
17:50 飛び込み発表
民間組織の新しい科学
クリプトを財から問い直し世界と接続
nishio: Funding the Commonsの話
3つのイデオロギーのスライド出てきた
3つのイデオロギーのAI代議士を作って好きな配分で投票できるようにしたら面白いかな
Pluralityのオンライン読書会を1/20に行うのでこの辺の話に興味があればぜひ
公共財を生み出す生成メカニズム
Peter Frumkin
ryoar:
林篤志さんの山古志村の事例が横展開するととてもFtC的に進みそうですね
フィランソロピーの水道システムの話、パナソニックの水道哲学にも通じる話っぽいなと思いました
締めのコメント
Kenさんから振られて首藤先生がコメント
普段技術の分野にいる、ここに来て金融や社会について目が開いてよかった
アカデミアと実業家の交流が薄いのは、主に余裕がないことによる
nishio:
今回もまとめページを作るつもりですけど月曜以降になるので「この話面白かったなー」とか、この後の懇親会で理解が深まったとか、そういうのをどんどん投稿しておいてもらえると助かります！
nishio:
懇親会メモ:
nishio:
「Glen Weylが日本に来てたんですか！？」という話があったのでまとめページ
Plurality Bookの「21世紀のイデオロギー」の節はここから
HiroHamada
ちなみに昨日 @miyabi さんが話していた内容については、心理学的な構成概念を使った距離関係についてはベクトル空間と意味関係は対応があるのではというを言語処理学会に原稿提出しました。 https://osf.io/nsqba/ OSF 言語モデルによる心理学的構成概念の再構成
miyabi
濱田さん、ありがとうございます。拝読させて頂きます！
HiroHamada
埋め込みモデルも悪くない意味の関係とベクトル空間の関係はそれなりに対応がありそうでした。ただLLM系はベクトル空間をプロントで制約をかけることができると思うのですが、お金が掛かるので埋め込みモデルが普段使いには良さそうという感じでした！
Sho Yokoi
ChatGPT と自然言語処理 / 言語の意味の計算と最適輸送 「Workshop OT 2023 最適輸送とその周辺 – 機械学習から熱力学的最適化まで」で用いたスライドです
nishio
miyabiさんのスライドを見返してて、これはすごく面白いスライドだと思うのだけど1枚のスライドを理解するのに背景知識としてスライド10枚くらいの知識が要求されてて、あの速度の口頭プレゼンを理解するのは僕には無理だなぁという気持ちになりました。これこそScrapboxか自作のPKMかでネットワーク状の構造にして、そこからうまいこと伝達可能にできたらいいなぁと思います。
情報量が多いから両界曼荼羅が出てくる頃には2体のエージェントの名付けゲームが感覚系統合と等価になる話を忘れてたw LLMと人間の感覚系統合は熱い🔥