2025年6月3日 bioshokさんへの相談
public.icon
AGIがいつできるのかという議論がある。
AI研究がどれぐらいできて、スピードアップにつながるのか.
どうかよくわかってないというのが
2027年ぐらいにはほぼ認知タスクで人間を超える。
ダニエルさん、トムデビッドソン、スコットそこら辺の人たち。
エポックAIというのがある。
https://epoch.ai/team
計算資源がボトルネックになるのでは？
計算資源が多ければ多いほど良いが、進化の過程が
これに対する反論もある。
AIはもっと少ない計算量でも有望なものを見つけられるだろう。
予測ができる時には同じ土台に乗っている。
Anthropicは楽観的な人が多い
70%-80%ぐらいで、ノーベル賞取れるようなものが出てきそう
https://www.dwarkesh.com/p/sholto-trenton-2
AGIがなくとも経済的インパクトができそう。
実質的にみんなが思うようなものが出てきてもおかしくない。
知能爆発は前から言われている
産業爆発
労働力 x 生産性？
実質総生産（GWP）
1000倍、100万倍
あんまり反論意見がない
宇宙開発競争になっていくはずだという話が
宇宙における統治をどうするのか
AIとの共生との関係が繋がってくる
AIの権利をどう持つべきか、意識があるならどうするべきなのか
もう一個があるのが、
AGIが二、三人に1人がヒューマノイドが出てくる可能性がある。
コントロールやアライメントとは別の議論
AIとの交渉論の話が
共生論のフレームワークを考える
AIとは別に持続的に発展させようという話が出始めてきた。
EAって選りすぐりのエリートをハッキング
人が単一障害ポイントになってしまう
サムアルトマンが単一障害点になる
独裁者になる
ハッキングされる
つまりヒト自体の分散性が大事になる
人が豊かになるとデジタルデモクラシーに投資されられていく
中東の人たちもAI safetyを三分の一を投資した方が良いという話もあった。
プラクティカルに重要な考えになりそう。
https://www.g42.ai/
以下関係ありそうな話を貼っておきます
https://x.com/bioshok3/status/1891014221720433039?t=aegi9Dru8xtvDi6jo5o3qw&s=19
AIとの共存系のリプツリー
https://x.com/bioshok3/status/1729367477489111423?t=h85rfO9_OR2HTURhbmwQew&s=19
d/acc,cryptとEAやxriskとの交わり
https://x.com/bioshok3/status/1919411790381035863?t=S4mSbJyRfKBJjBIsHl3iiQ&s=19
https://x.com/bioshok3/status/1919411790381035863?t=XpWXzLggTN99Lw06s4kPRA&s=19
https://x.com/bioshok3/status/1926222543788065151?t=j0YOtqC-v6IER6NpkfDaSg&s=19
https://x.com/bioshok3/status/1729367477489111423?t=VOMX2Gk2-hQVWyAUkJStUw&s=19
知能爆発について賛否
https://x.com/bioshok3/status/1916316438484423109?t=wHRGhszSgGUr_VodXnGnRQ&s=19 (edited)
:heart_on_fire:
1
11:15
産業爆発について
https://singularity.jp/20250504/
https://x.com/bioshok3/status/1899358726752178683?t=QOPlQywg6E33_W7-eQ75ng&s=19
https://note.com/bioshok/n/n3141e2a6f45f
長期的な課題意識がプラクティカルになる
https://note.com/bioshok/n/n03fe54948889 (edited)
X (formerly Twitter)X (formerly Twitter)
bioshok（INFJ） (@bioshok3) on X
EAのCarlShulmann氏はAGIや超知能実現以降10年以内という極めて短いタイムラインで1000倍のエネルギー消費をするような文明にまで進歩する直感的には信じられない程の文明変化の可能性をその理数的な機序を詳らかにしながら分析し議論している。（特に米中の宇宙開拓競争圧力で規制より安全保障上の資
note（ノート）note（ノート）
宇宙規模の産業爆発が数年以内に始まる可能性（GWP1000万倍/100京人労働力)｜bioshok
あなたは2030年にAGI（人間のできることならほぼ何でもコスト効率よく実行可能なAIシステム）により実効労働力が人間換算で2000億人、2040年にそれが100京人になり、実質GWPが現在の1000万倍、エネルギー使用量は少なくとも1000倍以上、汎用ロボットの数は百兆を超え、カルダシェフスケール文明タイプ1-2の間に到達すると言われたら信じられるだろうか。 私もここ数ヶ月信じられていなかった。信じられないと言うか空論すぎると考えていた。(この数字は後で解説するEpochAI GATEによるシミュレーション結果) ちなみに普通の経済予測だと2040年の実質gwp成長予測はおよそ「
https://note.com/bioshok/n/n3141e2a6f45f
note
技術/産業爆発がもうすぐなら突如として意識/AIとの共存/脆弱な世界仮説の問題系は「プラクティカル」な問になる。｜
技術・産業の爆発的進展シナリオが、現実味を帯びつつある。超知能の登場からわずか数年から10年程度で、エネルギー消費量や実質世界総生産（GWP）が1000倍以上に増加し、それに伴って本来であれば人類単独では100年〜1000年かかるような技術革新が、短期間で実現してしまうという見通しだ。
中でも「マインドアップロード」は、様々なディープテックの中でも最も難易度が高く、現時点では実現の目処すら立っていないSF的領域にあると考えられているだろう。 しかし、もしこの技術が数年〜10年という短期間で実現する可能性が出てきた場合、「意識の理論」や「意識主体の権利」といった問題を、早急に議論し
https://note.com/bioshok/n/n03fe54948889
バイオテロ
https://x.com/bioshok3/status/1876342183101685892?t=t56NOuc3zLUhBAc_HnkHcQ&s=19
X (formerly Twitter)X (formerly Twitter)
bioshok（INFJ） (@bioshok3) on X
今後AIによりバイオテロの脅威が大きくなることへの対策として核酸観測所の世界的設置が一部で考えられているが、それに利用可能なパンデミック監視用に設計された7bパラ数のメタゲノム基盤モデルMETAGENE-1が発表された。廃水から配列された1.5T 塩基対を超えるDNA/RNAで学習されている。
Anthropicの研究者の方でタイムラインは早そうな印象を受けるインタビュー
https://www.dwarkesh.com/p/sholto-trenton-2
dwarkesh.comdwarkesh.com
How Does Claude 4 Think? — Sholto Douglas & Trenton Bricken