AI
AGI（汎用人工知能 - Artificial General Intelligence） 一方、AGIは、特定のタスクに限定されず、人間と同じように、あるいはそれ以上に、あらゆる知的タスクを理解し、学習し、実行できるAIを指します。SFの世界で描かれるような、自意識を持ち、人間と自然に対話し、未知の問題にも柔軟に対応できるAIがこれにあたります。
AGIに期待される能力:
常識的な推論: 文脈や状況を理解し、人間のような常識に基づいた判断を下す。
自己学習: 新しい知識やスキルを自ら学び、応用する。
創造性: 新しいアイデアや芸術作品を生み出す。
身体性: ロボットの身体を通じて、物理的な作業を行う。
誤差逆伝播法（ごさぎゃくでんぱほう、Backpropagation）**とは、一言でいうと「間違い（誤差）から学び、ニューラルネットワークを賢くさせるための最も重要な学習アルゴリズム」。しかし、人間が誤差逆伝播を行っている根拠はまだみつかっておらず、AIよりも少ない学習数でどのように認知を行っているかは不明。 誤差逆伝播法の仕組み
誤差逆伝播法は、大きく分けて4つのステップで進みます。料理のレシピのように、順番に処理を行っていくイメージです。
ステップ1：順伝播（Forward Propagation）- まずは予測してみる
まず、入力データ（例えば、猫の画像）をニューラルネットワークに入力します。データは入力層から中間層（隠れ層）を通り、出力層へと一方向に流れます。各層を通過する際に、データは「重み」と呼ばれるパラメータで加工され、最終的に「これは猫である確率が80%」といった予測結果（出力）を出します。
ステップ2：誤差の計算 - 間違いの大きさを測る
次に、ネットワークが出した予測結果と、あらかじめ用意しておいた「正解」（この画像は猫である、という正解ラベル）を比べます。この予測と正解のズレが「誤差」です。誤差が大きいほど、ネットワークの予測が間違っていることを意味します。この誤差は、「損失関数」という計算式を使って数値化されます。
ステップ3：逆伝播（Backward Propagation）- 間違いの原因を探る
ここがこの手法の核心です。計算した「誤差」を、今度は出力層から入力層に向かって逆方向に伝えていきます。
このとき、各層のニューロンが最終的な誤差にどれだけ「責任」があるかを、微分（連鎖律という数学のルールを使います）によって計算していきます。出力に近い層ほど責任は重く、入力に近い層になるにつれて、その責任の大きさが少しずつ分配されていくイメージです。
ステップ4：重みの更新 - パラメータを調整する
各ニューロンの「責任の大きさ（勾配）」が分かったら、それに応じて「重み」の値を少しだけ調整します。誤差を大きくした原因となった重みは、次回同じようなデータが来たときに誤差が小さくなるように修正されます。
この「予測 → 誤差計算 → 逆伝播 → 重み更新」のサイクルを、たくさんのデータを使って何回も繰り返すことで、ニューラルネットワークは徐々に賢くなり、予測精度が向上していくのです。これを「学習」と呼びます。
トランスフォーマーとは、現代のAI、特に自然言語処理の分野で革命を起こした技術モデルであり、その核心は文章全体の文脈を的確に捉える「セルフアテンション（Self-Attention）」という仕組みにあります。これは、文章中の一つの単語の意味を理解するために、他のすべての単語との関連性の強さに「注目」し、どの単語が重要かを判断する能力です。例えば、「そのロボットはボールを拾えなかった。なぜならそれは重すぎたからだ。」という文において、トランスフォーマーは「それ」が「ロボット」ではなく「ボール」を指していることを、単語同士の関連性から正確に推測します。この能力によって、従来のモデルが苦手としていた長文の読解や複雑な文脈の理解が可能となり、ChatGPTや高精度な機械翻訳といった今日のAIサービスの基盤となっています。
LLMとは「Large Language Model（大規模言語モデル）」の略で、膨大な量のテキストデータを学習することで、人間のように自然な文章を理解したり生成したりできるAIモデルのこと 事前学習は、LLMの基礎能力を築くための最初の、そして最も重要な学習フェーズです。
目的: 幅広い知識と言語能力（文法、事実、推論能力など）をゼロから身につけること。
方法: 特定の目的を持たせず、とにかく膨大な量のテキストデータをひたすら読み込ませます。具体的には、「文章の次の単語を予測する」という単純なタスクを何十億、何兆回と繰り返します。
例えるなら: 「基礎学力をつけるための義務教育」のようなものです。特定の専門家になるためではなく、まず国語、算数、理科、社会といった幅広い知識を身につけて、世の中の常識や言葉の使い方を学ぶ段階です。この段階で、AIは汎用的な「物知り」になります。
. 事後学習 (Post-training) / ファインチューニング (Fine-tuning) 事前学習で「物知り」になったAIを、特定の目的に合わせて専門家へと育てるのが事後学習です。このプロセスは特に「ファインチューニング」と呼ばれます。
目的: 汎用的なモデルを、特定のタスク（対話、要約、翻訳など）に特化させたり、人間の意図や倫理観に沿った応答をするように調整（アライメント）したりすること。
方法: 事前学習済みモデルに対して、より質の高い、目的に特化した小規模なデータセット（例：高品質なQ&A集、特定の専門分野の文書など）を追加で学習させます。
例えるなら: 「専門知識を身につけるための大学や専門学校」です。義務教育（事前学習）を終えた人が、医者になるために医学部で専門知識を学んだり、弁護士になるために法学部で法律を学んだりする段階に相当します。これにより、AIは「対話が得意なAI」や「医療情報に詳しいAI」といった特定の役割をこなせるようになります。
このように、LLMは「事前学習」で広範な基礎知識を身につけ、「事後学習（ファインチューニング）」で特定のスキルを磨くという2段階のプロセスを経て、私たちが普段利用しているような高性能なAIへと進化していくのです。
AIによって認知限界が必要なくなったため、既存の組織論が崩壊する。
AIで生成されたものが著作権にあたるときに、サービス開発者にだけ責任があると思っていたが、生成者にも責任があると知ったので今後は気をつけていく。また、AIがいかにも人間らしく話すので話半分として活用して、芸術や身体知などは残していきたい。
https://scrapbox.io/files/6a46d1250c5d6666392428a0.png