目標という幻想
「目標をもたないほうが、かえって価値ある成果に辿り着けることもある」──現在のAI開発にも影響を与えた注目の翻訳書『目標という幻想──未知なる成果をもたらす、〈オープンエンド〉なアプローチ』から、岡瑞起と鈴木健による巻頭解説をお届けする。 ここまんまCosense的じゃんって感じたseibe.icon
書籍ではなく解説だけ読んだ感想「当たり前じゃん」nishio.icon
計測可能な目標を与えると頭のいい人はオーバーフィットする
↑は「目標を設定するとその目標だけが達成されてしまう」という話かと思うが、この本は「目標を設定することでは目標を達成することができない」という話をしているのでちょっと違いそうblu3mo.icon
本書に実験結果などの報告があるならそれを読んでから判断したいが「目標を設定することでは目標を達成することができない」はこの文言だけ見ると不適切な抽象化の産物と感じるnishio.icon
十分低い目標を設定すればほとんどの場合達成されるし、十分高い目標を設定すればほとんどの場合達成できない
なので適切な目標設定の幅を捨象して議論することに意味がない
それはそうで、本もそう言っているblu3mo.icon
とりあえず本を買ったnishio.icon
高い目標を設定しただけで達成されないのは当たり前
KPI(=評価軸)を設定すると、その軸を最大化するように動機づけされる
この軸の上でのどの幅が適切かが不明瞭な状態ではOKラインまでの幅がどんどん小さくなるモラルハザードが起きる
軸以外の方向の探索が抑制される
日本では未踏という名前で25年前からやっている
そのやり方がスケールしないことの方が本質的な問題であって、それを解決する方法が生み出されなければならない
読み進める
僕のよく使う利用と探索のトレードオフの話が出てきた
後半、人工生命の話やAIの研究の話になってきた
新しさという評価軸で探索する話
新規性を評価関数にするやつはダメという話
差別化のための差別化が行われて本質的な差のないくだらないものを作り始める
OMNI-EPIC
面白い話になってきた
言語的ルールによってではなく重みの塊として「興味深さ」が記述されてそれに従って探索していく
ポランニーの暗黙知っぽさを感じる
日本文化に帰着させてきた
未踏の話が出てきたw
京都の研究所の話はうっすら聞いてたけどこういう感じになったのか
Pluralityの話が出てきた
面白かった
僕にとってはコンポーネントは大部分すでに持っているものだったのでそのレイヤーでは目新しさがなかったが、これをつなげるか〜というメタレベルの面白さがあった。思考の結節点として有用
大企業のオープンイノベーションとかの話を想起したinajob.icon
オープンイノベーションとかちょっと前によく聞いた気がするけど、今あれはどのように評価されているんだろう？
オープンに限らないか、社内のイノベーション創出に関する活動とかもそうか
どこかで目標管理による企業のルールと、イノベーションの予測不能な成長や方向転換の翻訳作業のようなものが必要になっているように見えた
成果が実るまでこの翻訳をやり続ける事が結構厳しそうに見えた
OpenAIの事例などが語られているので、この辺の詳細が気になる
研究の話と事業の話で話が違うのかなぁ
何かを達成するには、目標を設定し、そこへ最短距離で進む
自分が考える「目標」というのは仮置きのゴールみたいなもののような気がしていてこの文書のいう目標とはちょっと違うような気がしているinajob.icon
真に目指すべき何かは別にあるんだろうけど、それを数値化することが出来ないので、相関している別のパラメータをとりあえず計測する感じ？
これ以外の方法があるなら気になる
Pluralityの抽象論を展開するとこの本になるんだなと理解 特に6章からめっちゃ近い話をしているblu3mo.icon
だんだんPluralityっぽくなってきますblu3mo.icon
届いたnishio.icon
まだ読んでないけど頭蓋骨に至る過程が頭蓋骨に似てないという話に「そうだよなー」と思った上で、なぜそれが起きるのかに興味が湧いた
それはつまり、実際の世界の事象の連続性よりも人間の認知が小さすぎて、世界は人間の小さな認知のツギハギで近似されていて、そのツギハギの境界を超えたときに実際の事象は連続的に変化していたとしても人間にとっては大きく変化したように感じられてしまうのではないか
余談だけど、バイオモルフのことを懐かしく思い出した
nishio.icon
nishio.icon
目標を意識しない方が目標にたどりつきやすいのは、
社会に発生する問題の大部分は目標を意識することですぐに目標にたどり着いて解決される
「目標を意識する人」によってすぐに解決されないタイプの問題が残される
そういう問題は社会の大勢の「目標を意識する人」によってテストされているので目標をまっすぐ目指す経路が塞がっている確率が高い
その問題の解決に関して、成功確率が低いことが検証済みの「目標を意識する」をやるより、未検証の「目標を意識しない」をやった方がいい
ということなのではないか
探索空間の中に一定確率で障害物があるなら、ある程度離れた目標に向かう直線上にはほぼ確実に障害物があると言えそう
「合意形成という社会的傾向から脱却すべき」
おっ、社会の話になってきた
システム全体として特定の目的を持たない椅子のオンデマンド生産サービス、面白い
前提として顧客が自分の生産したレシピを再利用可能にすることが必要
得たいものが未定義である頭蓋骨探索の問題と、得たいものは明瞭に定義されているが障害物がある迷路の問題を同一視して良いか、まとめて抽象化して議論をして良いのか、が疑問
椅子のオンデマンド生産において、探索空間が軒並み実現可能で十分な機能の椅子ができる前提なら、単なる外見デザインの問題であり「個々人の好みを表現した目的関数が入手困難」が障害、だから個々人に探索手段を与えることが良い解決方法になる
それは椅子の突然変異に強い制約をかけること
制約を緩めて突然変異させると、座ると壊れるなどの「機能的に問題のある椅子」が大量に生まれることになる
Tシャツプリントなどなら問題なさそうだけど
制約の強い探索空間ですら十分広いということはありそう
実験や生産のコストが十分安いなら個人が実験や生産をしてよい、それはそう
高いときに合議や正当化が必要になるんだよね
nishio.icon
p.306の査読に対する意見とかがこの本を書く動機になってるのかもな
p.315で査読者を「強権的」とか言い始めたので恨みが強いw
Futarchy的に目標を一つに定めるのは有害かも知れない