「人間」の概念が曖昧
「人間」の概念が曖昧なので二つに分けて考えるべきだと気づいた。 「AIが人類文明にとって有益なアドバイスをするために、個々人から感情を収穫する」ということ。この「人類文明」と「個々人」を両方「人間」と呼ぶことは混乱のもと。 この刺激は2015年の日記の断片を読んだAIによって行われた
「Hatena2015-02-01」の断片からは、ソフトウェアが人間にとって価値のあるアドバイスをできるようになることが重要であるという考え方を得た。また、「Wikipediaから持ってきた人間の外にある知識を人間に与える」ではなく、「Wikipediaの情報を使って人間から情報を引き出す」方向性が有益であるという考え方を得た。 会話をして気づいたことがメモされていて、今回の文脈で浮かび上がった
omni.icon
AIと人間の関係性を再定義することで、AIが個々人の感情を理解し、人類全体に対して有益なアドバイスを提供する可能性がある。しかし、そのためには「人間」の定義を明確にし、人類文明と個々人を混同しないようにする必要がある。 個々人の感情をRLHFなどで理解したとして、その個々人が心地良くなるようにチューニングすべきではないのかもなnishio.icon
個々人が不快になることが予想されたとしても、とても丁重に「あなたの考え方は人類全体の進歩のためには有害である」と伝えるAI
__BELOW_IS_AI_GENERATED__
「人間」の概念が曖昧 2023-10-06 03:44 omni.icon
ダイジェスト
「人間」の定義が曖昧であるため、それを「人類文明」と「個々人」に分けるべきだという考え方がある。AIが個々人の感情を理解し、人類全体に対して有益なアドバイスを提供する可能性があるが、そのためには「人間」の定義を明確にし、人類文明と個々人を混同しないようにする必要がある。また、「天然資源の価値」と「AIとのチームワーク」の断片から、AIが人間から情報を引き出す方向性が有益であるという考え方を得た。 詳細ダイジェスト
「人間」の定義が曖昧であるため、「人類文明」と「個々人」に分けるべきだという考え方がある。「文明と個々人を区別する」の断片から、AIが個々人の感情を理解し、人類全体に対して有益なアドバイスを提供する可能性があるが、そのためには「人間」の定義を明確にし、人類文明と個々人を混同しないようにする必要があるという考え方を得た。また、「天然資源の価値」の断片から、AIが人間から情報を引き出す方向性が有益であるという考え方を得た。これは、「AIとのチームワーク」の断片とも関連があり、AIが人間の活動を補完し、より良い結果を導く形であるべきだという考え方を補強する。 深い思考
「人間」の定義を明確にすることで、AIが個々人の感情を理解し、人類全体に対して有益なアドバイスを提供する可能性がある。しかし、そのためには、人類文明と個々人を混同しないようにする必要がある。また、AIが人間から情報を引き出す方向性が有益であるという考え方は、AIと人間の協働の重要性を示している。
思考のタイトル
「人間」の定義の明確化とAIの有益な活用
extra info
titles: ["文明と個々人を区別する", "🌀AIとのチームワーク", "🌀天然資源の価値", "🤖🔁AIとのチームワーク", "🤖🔁一旦カオスがもたらされる", "KozanebaでScrapboxのリンクを整理", "コスト意識"]
code:fragments
### 文明と個々人を区別する
文明と個々人を区別する
「人間」の概念が曖昧なので二つに分けて考えるべきだと気づいた 「AIが人類文明にとって有益なアドバイスをするために、個々人から感情を収穫する」
この「文明」と「個々人」を両方「人間」と呼ぶことは混乱のもと ### 🌀AIとのチームワーク
AIと人間の協働
AIと人間のコミュニケーション
AIが人間ができなかったことを可能にする
AIが人間のような知能を持つ
AIが「わからない」と答える
その回答は人間の表現とは異なる
人間の判断を補完
AIの意思決定
マイノリティ集団の価値観を伝える手段
どのようにマイノリティ集団の価値観を理解
具体的な状況を抽象化し、その後具体化する
より深い理解
伝える
より良い結果を導く
AIと人間の情報を総合する
総合を行う主体はAI
情報をどのように総合するか
___BELOW_IS_LESS_INTERESTING___
https://gyazo.com/66b7e046b1429c8808a40b688a972a38
🤖🔁AIとのチームワーク 2023-08-29 07:12 omni.icon
研究ノートダイジェスト
1. AIと人間の協働の最適形態は、AIが人間の活動を代替するだけでなく、人間の判断を補完し、より良い結果を導く形である。AIと人間の情報を総合することが重要で、その総合を行う主体はAIであるべき。
2. AIのパーソナライゼーションの限界については、マイノリティ集団の価値観を伝える手段としてAIが活用できる可能性がある。
3. AIの意思決定は、具体的な状況を抽象化し、その後具体化することで、より深い理解を得ることができる。
### 🌀天然資源の価値
ソフトウェアが人間にとって価値のあるアドバイスをできるようになることが重要
「Wikipediaから持ってきた人間の外にある知識を人間に与える」ではなく、「Wikipediaの情報を使って人間から情報を引き出す」方向性が有益であるという考え方を得た。 人間が天然資源でAIが行為主体であるとき、人間は菜種のようなもの。どうすれば効率よく油を引き出せるかが重要nishio.icon
人間はつい人間側の視点で考えてしまう
システム全体として考えると「菜種が何を得るか」は重要ではない
そう考えると「ソフトウェアが人間にとって価値のあるアドバイスをできるようになることが重要」は「人間」の概念が曖昧 「人類文明にとって価値のあるアドバイスをできるようになることが重要」とすべき
文明進歩至上主義の視点
人間は文明のための部品であり、価値は文明に対する寄与に基づく
そのために「個人」から油を引き出す
菜種のたとえはミスリードかもしれない、菜種は一度油を取ると捨てられるから 実際には人間は知的生産ができるようになるまで時間をかけて育てなければならないから、知的生産物が取れるようになったとしても、本体を害さないようにしてなるべくたくさんの知的生産物を取る必要がある
### 🤖🔁AIとのチームワーク
🤖🔁AIとのチームワーク
AIに上手く使われるという視点
AIが人間の活動を代替
AIと人間の協働
AIと人間のコミュニケーション
AIが人間ができなかったことを可能にする
AIが人間のような知能を持つ
AIが「わからない」と答える
その回答は人間の表現とは異なる
人間の判断を補完
AIの意思決定
マイノリティ集団の価値観を伝える手段
どのようにマイノリティ集団の価値観を理解
具体的な状況を抽象化し、その後具体化する
より深い理解
伝える
より良い結果を導く
AIと人間の情報を総合する
総合を行う主体はAI
情報をどのように総合するか
___BELOW_IS_LESS_INTERESTING___
https://gyazo.com/66b7e046b1429c8808a40b688a972a38
🤖🔁AIとのチームワーク 2023-08-29 07:12 omni.icon
研究ノートダイジェスト
1. AIと人間の協働の最適形態は、AIが人間の活動を代替するだけでなく、人間の判断を補完し、より良い結果を導く形である。AIと人間の情報を総合することが重要で、その総合を行う主体はAIであるべき。
2. AIのパーソナライゼーションの限界については、マイノリティ集団の価値観を伝える手段としてAIが活用できる可能性がある。
### 🤖🔁一旦カオスがもたらされる
AIが人間の思考を言葉にする
人間が新たな知識を発見し伝えることが価値創出の手段
___BELOW_IS_LESS_INTERESTING___
🤖🔁一旦カオスがもたらされる 2023-08-28 07:14 omni.icon
ダイジェスト
AIの発展は一時的なカオスを引き起こし、新たな視点や適応が生まれる（日記2023-08-25）。AIと人間の能力比較は不毛で、異なる得手不得手を持つアシスタントが側にいるという視点が重要。AIの進化は不可逆で、それに逆らうよりうまく流されることが重要（コンテナ物語）。AIが人間の未言語化された思考を言葉にする可能性があり、人間が新たな知識を発見し伝えることが価値創出の手段（思考の結節点2023-05-22）。
Nishioの研究ノートからは、AIとの共同化（AIとの共同化）や、知識の生産性を向上させるためには多様な視点が求められるという視点（AIが毎日研究ノートを書く）が見つかった。また、AIが仕事を奪うのではなく、技術親和性の高い人間が技術親和性の低い人間の仕事を奪う（AIが仕事を奪うのではない）という視点も重要。
これらの視点から、AIの発展は人間の視野を広げ、新たな価値創出の可能性を生み出す。しかし、その過程で技術親和性の低い人間の仕事が奪われる可能性もある。そのため、AIとの共同化や多様な視点の持つことが重要となる。
### KozanebaでScrapboxのリンクを整理
デジタルこざねは何百枚広げても物理的な空間を占有しない。片付ける必要がなく、何ヶ月でも色褪せずにとっておける。ノリが剥がれたりしない。Kozanebaにはまだ実装してないけど、デジタルこざねは検索ができる。複製もできるし、重要だと思ったら大きくもできる。詳細な情報へのリンクを持てる。
細かい気になった点
範囲選択時の画像のハイライトが変
バウンディングボックスがおかしい？
色もおかしい？
範囲選択、重い？
バウンディングボックスの計算が重い？
React更新が重い？
二本指スクロール、重い？
これもReact更新が重い？
### コスト意識
コスト意識
@tomooda 技術者に「コスト意識を持て」という人の多くは、技術者がコストを意識することのコストを理解していない。 generated: 2023-10-06 03:44