線形代数
線形代数マジで何にでも出てくる・・
史上最高にわかりやすいPDFだと思ってます
「じっくり数学 (夏学期)」
線形代数を計算のパートと概念のパートに分けて説明する。
——計算のパートにおける二大柱——
・基本変形
基本変形の規則を理解し、基本変形を用いて、与えられた行列Aのrankや逆行列を求めたり、連立一次方程式の解を求めたりできるようになる
-基本変形と基本行列の対応
-行列のrankと基本変形を用いたrankの計算法
-基本変形を用いた逆行列の計算法
-基本変形を用いた連立一次方程式の解法
・行列式
行列式の概念を理解し、行列式の持つ基本的な性質を理解する。また、行列式の計算法を理解して、具体的な行列に対して行列式を計算できるようになる
-行列式の幾何的な意味
-行列式を特徴づける3つの性質
-行列式の持つ基本的な性質
-行列式の展開公式
-余因子行列とCramerの公式
基本変形
線形代数学の目標は行列の性質をよりよく理解できるようになること。
まずは、計算のパートとして、行列を数が並んだものとして、行列に対する理解を深めることが大切になるが、このための2大柱が基本変形と行列式である。
・基本変形とは
基本変形とは、与えられた行列Aに対して、
(1)ある２つの行を入れ替える
(2)ある行に別な行の何倍かを足す
(3)ある行を何倍かする
という３種類の操作を行に関する基本変形と呼び、列に対しても同じように存在する
・基本変形と基本行列の対応
行に関する基本変形は行列を左から掛け算することにより実現でき、列に関する基本変形は行列を右から掛け算することにより実現できる
基本変形に関して大切なことは、単に基本変形の手続きを覚えるのではなく、行や列に関する基本変形を施すことは対応する基本行列を左や右から掛け算することで実現されることをしっかりと理解することである
・行列のrankとは
行列のrankとは、Aは行や列に関する基本変形を施して見やすい形に変形させられる。
見やすい形の対角線上に残った1の数の行列Aの階数と呼び、Aのrankは行列Aを掛け算する写像の大まかな様子を教えてくれる基本的な不変量である
・基本変形を用いた逆行列の計算法
AのよこにIを並べてBとし、Bに行変形だけを施してAをIにすること考えると、IはAの逆行列になっている
・基本変形を用いた連立一次方程式の解法
行変形だけで見やすい形に書き換える。
解集合は変わらないので、見やすい形の行列を解けば良い。
行列式
一般に、正方行列に行列式と呼ばれる数を対応させることができる
・行列式の幾何的な意味
行列式を、a1~anのn個のベクトルを変数とする関数として考察することが大切なポイントとなる
すると、行列式は、符号付き面積を対応させる関数であることがわかる
・行列式を特徴づける３つの性質
(1)多重線形性
(2)歪対称性(交代性)
(3)規格化条件
符号付き面積や体積は上の３つの性質を持つことを納得することが大切である
また、その値は３つの性質を用いて完全に計算できてしまうことを納得する
計算結果が教科書に載っている行列の定義式である
・行列式の持つ基本的な性質
(1)(2)という性質を持つ関数は行列式の定数倍しかないという事実を使うと、
det(AB) = det(A)det(B)
det(AB) = det(BA)
det(P-1AP) = det(A)
がわかる
３つ目は、概念のパートで重要な役を果たす
・行列式の展開公式
左上の対角線上に1が１つだけある行列はそれを省いてもおk
これを利用すると、いろんな行列を展開できる
また、列と行どちらでも展開できることがわかる
いきなり展開公式を使うのではなく、行や列に関する基本変形を行ってある行あるいはある列になるべくたくさん０が登場するようにしてから展開公式を用いるのが良い
・余因子展開とCramerの公式
一般にn行n列の行列Aに対して、i行目とj列目だけを1で十字形に0を並べた行列式を行列Aの第(i,j)余因子と呼ぶ。
余因子を用いると行列式の展開公式を簡単に表せる
行列Aの第(i,j)余因子をj行i列とする行列を余因子行列と呼ぶ
このとき,AA(余因子行列) = detA Iとなる
逆行列が存在するための必要十分条件はdetA not 0である。
行列式が0じゃないときは、上記の式を行列式で割れば逆行列の公式(Cramerの公式)の出来上がり
————————————————————————————————————————————
「じっくり数学 (冬学期)」
——概念のパートに関する基本事項（その１）———
・線形空間と線型写像
数ベクトル空間を座標軸を外して眺める視点を導入する
-線形空間
-線型部分空間
数ベクトルに行列を掛け算する操作に注目し、行列を数が並んだものではなく、写像として眺める視点を導入する
-線型写像
-数ベクトル空間の間の線型写像と行列の関係
・線形空間の番地割り
基底を用いて線形空間に番地割りして考える
-線形空間の基底
-線型空間の元の線形独立性
-線形空間の次元
・線型写像の表現行列
基底を用いて線形空間を番地割りして考えたときに、線型写像は行列の姿に化けることを理解する
-線型写像の表現行列
——-概念のパートに関する基礎事項（その2）——
・線型写像の大まかな様子
表現行列が見やすい形になるようなうまい番地割りを用いて表すことにより線型写像の大まかな様子がKernelやImageという概念を用いて記述できることを理解する
-線型写像のkernelとimage
-次元公式
-行列のrankの意味
・行列の標準形の問題
与えられた行列Aを第一印象で眺めるのではなく、本来の形で眺めるような視点を見つけることができるようになる
具体的には与えられた行列Aに対してQ-1AP = Λ となるような見やすい形の行列Λと正則行列P,Qを求めることができるようになる
-行列の標準形の問題（その１）
-行列のrankの計算の見直し
・表現行列の変換公式
与えられた線形空間に対して、異なる基底がどれだけ存在するのかということを理解し、線形空間の番地割りを取り替えたときに線型写像の表現行列がどのように姿を変えるのかを理解する
-基底変換の公式
-表現行列の変換公式
・行列の標準形の問題（その２）
与えられた正方行列Aを第一印象で眺めるのではなく、本来の姿で眺めるような視点を見つけることができるようになる
具体的にはP-1AP = Λとなるような見やすい形の行列Λと正方行列Pを求めることができるようになる
-行列の標準形の問題（その２）
——概念のパートに関する基本事項（その３）——
・行列の対角化の問題
見やすい形として対角行列をとる
固有値や固有ベクトルという概念に注目して与えられた正方行列Aに対してP-1AP = Λとなるような対角行列Λと正方行列Pを求めることができるようになる
-行列の対角化の問題
-固有値と固有ベクトル
-直和と固有ベクトル空間分解
・内積を持つ線形空間
内積の概念を導入する
線型空間上に内積の概念を導入し、対称行列やエルミート行列など、行列Aが内積と相性の良い行列の場合には対角化の問題がいつでも解決できることを理解する
-線形空間上のユークリッド内積（エルミート内せき）
-対称行列と直行行列（エルミート行列とユニタリー行列）
-線型部分空間の直行補空間
-対称行列の直行行列による対角化（エルミート行列のユニタリー行列による対角化）
-正規直交基底とグラムシュミットの直交化法
——-概念のパートに関する少し進んだ話題——
・Jordan標準形の問題
見やすい形としてJordan標準形をとることにより、行列の標準形の問題（その２）がいつでも解決できるようになることを理解する
また、与えられた正方行列Aに対してP-1AP = JとなるようなJordan標準形Jと正則行列Pを求めることができるようになる
-Jordan細胞とJordan標準形
-最小多項式
-べき零行列の標準形
-一般固有ベクトル空間分解
・Jordan標準形の応用例
線形代数学の立場から見直すことにより、数列に対する定数係数の線型漸化式や関数に対する定数係数の線形微分方程式の一般解の構造を理解する
-数列に対する定数係数の線型漸化式と行列のn乗の計算との関係
-関数に対する定数係数の線形微分方程式と行列の指数関数の計算との関係
線形空間と線型写像
行列とは見方を変えるとコロコロ姿を変えるものであり、最初に与えられた姿ではなく、見やすい形になるような視点から眺めてやることでよりよく理解できるのではないかという作戦が概念のパートの話である
姿を変えるというような言明が意味を保つためには行列を数が並んだものではなく別の視点から眺める必要が出てくる
この目的のために導入されたものが線形空間と線型写像である
・線形空間とは
最初に与えられた姿に騙されずに行列のことを理解するためのアイデアは、数ベクトル空間から座標系を外して眺めるという視点を導入することである
座標は具体的な計算を進める上で便利であるものの、物事の本質には関わっていないと思われる。
数ベクトル空間から座標軸を外してみると、原点のある真っ直ぐな空間が残るように思われるが、原点のある真っ直ぐな空間こそが線形空間である。
足し算やスカラー倍ができるということが数学的に言い換えであると考えて、これらができる空間を線形空間と定義する。
・線形部分空間とは
一般に線形空間の部分集合が、線形空間と同じような性質を満たすとき、それを線形部分空間であるという
・線型写像とは
行列を数が並んだものとしてではなく、別の視点から眺めてみるというのが概念のパートにおける基本的な考え方
そのためのアイデアは、行列を掛け算する操作に注目するということ
２つの条件を満たすときに写像fを線型写像という
つまり行列を掛け算する操作は線型写像であると考えられる
・数ベクトル空間の間の線型写像と行列の関係
一般にm行n列の行列Aに対して、行列Aを掛け算する操作
fa:Rn → Rm
は線型写像になることが分かるが、逆にRnからRmへの線型写像はこのようなものしか存在しないことが分かる
すなわち、fを線型写像とすると、それはm行n列の行列で表せるということ
またAがBでないとすると、写像としてもAがBでないということが分かる
つまり、数ベクトル空間の間の線型写像とは行列を掛け算する操作に他ならないことが分かる
数が並んだものとしての行列Aを掛け算する操作と同一視して考えることにより行列Aを座標系によらずに眺める視点が獲得できたことになる
線形空間の番地割り
線形空間や線型写像という概念を導入することにより、行列Aを座標軸によらずに眺める視点が得られることになる
逆に一見抽象的に見える線形空間や線型写像も基底という概念を用いて座標づけすることで数ベクトル空間や行列の姿に見えてくることが分かる
こうした二通りの視点を行ったりきたりすることが大切
・基底とは
線形空間に座標づけするための概念が基底である
(1)Vの全ての元に対して番地が割り振られる
(2)番地割りに二重番地のような混乱が生じない
という２つの条件が満たされるときにe1,e2を線形空間の基底と呼ぶ
このような基底を勝手に一つ定めると、Vの元と番地全体の集合であるRmの点がぴったり一対一に対応して、同一視できる
・線形空間の元の線形独立性
一般に線形空間の元が基底の条件のうち２番目を満たすとき、その基底を線形独立であるという
線型独立とは、基底が別の方向を向いていることの数学的な表現になっている
・線形空間の次元
一般に線形空間Vの番地割りをするために必要な基底の元の個数を次元と呼びdimVで表す
線形空間Vの規定の取り方は一通りではないが、どのようなとり方をしても基底の元の個数は等しくなる
・線型写像の表現行列
一般に２つの線形空間の間の線型写像が勝手に一つ与えられているとして、基底を勝手にそれぞれ１つずつ持ってきて、番地割りによって座標づけしてみると、線型写像fはあるm行n列の行列を掛け算するような写像faのように見えることが分かる
すなわち線形空間Vのどの点が線形空間Wのどの点に写るのかという記述ではなく、線形空間Vのどの番地が線形空間Wのどの番地に至るのかという記述を行うと、線型写像fは行列の姿Aに化けることが分かる
このようにして得られる行列Aを線型写像fのVの基底とWの基底に関する表現行列という
表現行列の変換公式
線形空間の規定を定めて、番地割りして考えることで線形空間V,Wの間の線型写像は行列の姿に化けることが分かる
ここで、線形空間VやWの基底を取り替えて、新しい番地割りのもとでの同じ線型写像を行列の姿にばかしてみると、線型写像の表現行列は最初の番地割りのもとでの表現行列と姿を変えることが分かる
そこで、業況をよりよく理解するために、与えられた線形空間に異なる基底がどれだけ存在するのかということと線形空間の番地割りをとりかえたときに線型写像の表現行列がどのように姿を変えるのかということを理解することが大切になる
・基底変換の行列
番地割りの基準と番地を同時に表す便利な記法を用いて議論する
基底変換の行列がわかる
新しい行列が基底になるための条件は、基底変換の行列が正則であることである
GL(n,R)で実数を成分にもつn行n列の正則行列全体の集合を表す
一つ、Vの基底を基点として勝手に選ぶと、線形空間Vの異なる基底はちょうど正則行列分だけ存在することが分かる
・表現行列の変換公式
旧番地割りによって座標づけして表した時の線型写像fの表現行列をAと表すことにすると、VやWの基底を取り替えて、新番地割りのもとで座標づけして考えた時の線型写像fの表現行列をA’と表すことにする
この時、２つの表現行列AとA’の間には
A’ = Q-1APという関係式が成り立つ
行列の標準形の問題
VやWの基底を取り替えてそれぞれの線形空間の番地わりの仕方を変えたときに線型写像fの表現行列は A’ = Q-1APというように形を変えた
このことは、正則行列P、Qを用いて、このように表せるm行n列の行列AとA’は本質的に同じ行列であることを意味している
つまり、これらの行列はいずれもfという
同じ線型写像を表している
すなわち行列としての姿が違って見えるのは異なる視点から眺めているだけに過ぎない
そこで、行列Aが勝手に一つ与えられているとして、最初に与えられた須賀τない騙されずに A’ = Q-1APという見やすい形になるような視点から眺めることを考える
・行列の標準形の問題
与えられたAに対してAが見やすい形になるような視点を見つける問題を一般に行列の標準形の問題という
数学的に表現すれば、Q-1AP = Λとなるような見やすい形のΛと正則行列P,Qを見つけよということになる
ただし、
(1) P と Qが独立のとれる場合
(2)P = Q
と取らなければいけない場合の二通りがある
例えば、(1)はAが正方行列ではない場合あるいは、Aを掛け算することにより定まる線型写像の大まかな様子を調べる場合が(1)
Aが正方行列でA^nやexp(xA)などを考えたい場合が(2)にあたる
・行列のrankの計算の見直し
(1)は実は、行列のrankの計算をするときに行っていることを反省してみると実は解決済みである
行や列変形に関する正則行列をQとPに取れば良い
線型写像の大まかな様子
V,Wの次元をそれぞれ、n,mとし、VからWへの線型写像fが勝手に与えられているとする
このときVとWの基底を勝手に一つずつ取ってきて、これらの規定に関する線型写像の表現行列をAと表すことにする
Aが見やすい形の行列になるようにうまくVやWの基底を取り替えることを考えてみる
Λ = (Ir)となるようなうまい番地割りのもとで線型写像を考えてみる
・線型写像の大まかな様子（その１）
いま、Vのうまい番地を最初のrことその他残りの(n-r)この成分に分けて表してみる
また、Wのうまい番地も最初のrこの成分と残りの(m-r)この成分に分けて表する
すると、このうまい番地割りのもとで線型写像はとても簡単な形で記述できることが分かる
・線型写像のkernelとimage
一般に、
Imf = {f(u)∈W|u∈V}という式によって定まる線形空間の部分集合Imfを線型写像の像と呼ぶ
また
f-1(w) = {u∈V|f(u) = w}という式で定まる線形空間Vの部分集合を線型写像fによるwの逆像という
特にWの原点の逆像を特別扱いして、線型写像fの核と呼び、記号でKerfと表したりする
特に行列に対して定まる線型写像のばあいには行列Aの像や核という
・線型写像の大まかな様子（その２）
そこで、うまい番地割りを用いて線型写像の様子を直接調べてみる
以下では、線形空間の点とうまい番地を同一視して表すことにする
すると線型写像は、すとんと落ちてくる写像のように見えることが分かる
線型写像fの核KerfはVにおけるy方向に対応していることが分かる
逆像は、Kerfを特殊解u0だけ平行移動したような真っ直ぐな集合になっていることが分かる
線型写像とは、うまい番地割りを用いて、線形空間V,Wをそれぞれ縦方向と横方向に分解したときにVの縦方向であるKerfの方向を潰して Wの横方向であるImfにそのまま落とすような写像であることが分かる
・線型写像の大まかな様子（その３）
前項でみた線型写像の具体的な記述を用いると、線型写像の全射性や単射性が次のように記述できることが分かる
全射になるためのじょうけんはImf = W ⇔ m = r
単射になるための条件はKerf = {0} ⇔ n=r
特にn=mのときは上の条件は全く同じになるので、単射であることだけ確かめられれば後は自動的に全単射であることが結論になる
・次元公式と行列のrankの意味
KerfとImfの２つの線形空間の次元を足し算してみると、nになり、線形空間の次元となることが分かる
dimV = dimKerf + dimImf
を次元公式と呼んだりする
またAをm行n列の行列として線型写像fとして行列Aを掛け算する写像を考えてみると、
rankA = dimImAであることが分かる
行列の対角化の問題
P=Qと取らなければならない場合にはこれまでの知識だけではまだ問題が解決していないので、行列の標準化の問題の解決を目指すことが主な目標となる
一般には見やすい形の行列として対角行列が取れるとは限らないのですが、model caseとしてまずはこの場合をきちんと理解することが大切です
・行列の対角化の問題
行列の標準化の問題のうち、P=Qと取らなければいけないかつ見やすい形の行列として、対角行列を取った場合を行列の対角化の問題と言う
これを数学的に見れば、
P-1AP = Λ
となる対角行列Λと正則行列Pを見つける問題になります
そのためのアイデアとしては、「AP = PΛ」に書き直して考えることと、「行列Pの列ベクトルに対して何を意味しているのか」ということ考えることである
すると、Au = λuという形の連立一次方程式を解くことに帰着する
・固有値と固有ベクトル
一般にn行n列の行列Aに対して、Au = λuという連立一次方程式を考える
この連立一次方程式が自明でない解を持つとき、複素数λを行列Aの固有値と呼ぶ
また、固有値λに対して、(33)式を満たすようなベクトルuを行列Aの固有ベクトルという
固有ベクトル全体の集合を固有ベクトル空間と呼ぶ
λが行列Aの固有値であるならば(λI-A)は正則行列ではないつまり、行列式が0であるということが分かる
この行列式を特性多項式と呼ぶ
そして、λが固有である条件の必要十分条件を特性多項式が0であることで特徴付ける
よって、行列Aの固有値を求める方法としては、
(1)行列式を計算sにて特性多項式を求める
(2)特性多項式 = 0 という方程式を解いて、行列Aの固有値を求める
その後は、連立一次方程式を解くことで、固有ベクトルが全て求まる
また、この固有ベクトル空間の固有値の中から適当にベクトルを取り出して正則行列Pを作ることで、行列の標準化ができる
・直和
前節では、線型写像の大まかな様子を調べるために、うまい番地割りのもとで、線形空間VやWを最初のr次元方向と残りのn-r次元方向などに分解するということを考えた
このように、与えられた線形空間をいくつかの線形部分空間の方向に分解することを一般に線形空間Vの直和分解という
そうした分解があれば、線形空間Vの元も成分分解することになるということに注目して直和の概念を定義している
線形空間Vが線型部分空間W1,,,Wmの直和となるためのじょうけん
(1)勝手な元に対して、u = u1 + u2 +でu1とかはW1,,の元が成立
(2)0 = u1 + u2 + ,,,ならばu1などは全て1
という条件が満たされるときに線形空間Vは線型部分空間の直和であるという
・固有ベクトル空間分解
行列Pが正則行列となるための条件は{p1 p2 p3}がCnの基底となることが分かる
よって行列Aの対角化の問題は行列Aの固有ベクトルからなるCnの基底を求める問題であると解釈できる
このことに注意すると、行列Aの対角化の問題を座標軸の取り方によらない形で表現することができることが分かる
つまり
P-1AP = Λとなる対角行列Λと正則行列Pが存在する
⇔Cn = V(λ1) + V(λ2),,と直和分解する
とも言い換えられる
よって固有ベクトル空間の基底を勝手に人くみずず取ってきて、それらの基底の元を全て並べることで正則行列Pを作ることで対角化できることが分かる
固有ベクトルによる空間分解を固有ベクトル空間分解と呼ぶ
内積を持つ線形空間
一般には行列の対角化の問題がいつでも解決するとは限らないが、様々な分野で頻繁に登場する行列で行列の対角化の問題が必ず解決するということが理論的に保障される行列が存在する
その代表が対称行列やエルミート行列である
これらの行列に対してはいつでも対角化の問題が解決することが分かるだけでなく、対角化を実現する正則行列Pとして直行行列やユニタリ行列が取れることもわかる
Rnというユークリッド空間上ではベクトル同士の内積を考えることができる
以下で見るように、直行行列による対称行列の対角化や、ユニタリー行列によるエルミート行列の対角化ということの意味をよりよく理解するためにはRnやCnを単に足し算やスカラー倍できる線形空間にあると考えるのではなく、さらに内積という構造も定まった内積を持つ線形空間であると考えて、基底や線型写像や直和分解などといった概念を内積との関係をもとに見直してみるということが重要なポイントになる
・対称行列（あるいはエルミート行列）
tA = Aという条件を満たすときにAを対称行列という
ユークリッド内積を定義し、ユークリッド内積を用いると、転置行列を考えるということの意味を
<Au, v> = <u, tAv>
というように線型写像の立場から表現できる
特にtA = Aとなる場合を考えると、
<Au, v> = <u, Av>というように対称行列を特徴づけることができる
この式こそが対称行列を考えるということの意味を内積を持つ線形空間という視点から見直したもの
エルミート内積は、ユークリッド内積の後ろの文字を複素数にしたものとして表せる
エルミート内積を用いると、n行n列の複素数行列Aに対して、その随伴行列を考えるということの意味を
(Au,v) = (u, tAv)と線型写像の立場から表現できる
一般に、A = tA複素数 を満たすときにエルミート行列という
また、エルミート行列は
(Au, v) = (u, tAv)で特徴付けられる
その式はエルミート行列を考えるということの意味を、エルミート内積を持つ線形空間という立場から見直したものであるということになる
・対称行列（あるいはエルミート行列）の基本的な性質
上の式をもちいると、エルミート行列の固有値や固有ベクトルに関する基本的な性質がが次のようにしてわかる
固有値に対して、ゼロではない固有ベクトルを勝手に一つ取ってきて、固有ベクトルuに対してv = uとして上の式を適用してみると、Aがエルミート行列→Aの全ての固有値は実数となることが分かる
量子力学において物理量がエルミート行列（エルミート作用素）で記述されるが、この性質は、量子力学において物理量の観測値は必ず実数になるという事実の理論的な保証を与えることになる
また、エルミート行列の異なる固有値から、それぞれの固有値に対応した固有ベクトルをとってきて上の指揮を適用してみると、エルミート行列の異なる固有値に対応する固有ベクトル空間は互いに直交するということが分かる
こちらも、量子力学で波動関数の確率解釈を考える上での理論的な保証を与えることになる
また、実数を成分にもつ対称行列はエルミート行列とみなすこともできるので、対称行列であっても全ての固有値は実数になる
また、対称行列の固有値に対応する固有ベクトル区間は互いに直交するということもわかる
・直行行列（あるいはユニタリー行列）
tPP = Iというn行n列の正方行列Pを直交行列という
P-1 = Ptという形で与えられる
このように逆行列を簡単に求めることができるということが、直交行列を用いて対角化するということのご利益になる
直交行列を考えるということの意味を内積を持つ線形空間という立場から見直してみる
P = (p1 p2 p3,,)
というように行列Pを表して、tPPという行列の行列成分を求めてみると、Pが直交行列になる条件が、Pの列ベクトルが正規直交基底となるというように言い換えることができる
tPP = I ⇔ <Pu, Pv> = <u,v>
というように言い換えられる
すなわち直交行列とは、内積を保つような線型写像を表す行列であることが分かる
つまり、内積を持つ線形空間という視点から見直すことで直交行列の条件を
Pが直交行列となる
⇔ Pの列ベクトルがRnの正規直交基底となる
⇔ PはRnの内積を保つ線型写像を定める
というように言い換えられる
Rn上のユークリッド内積の代わりにエルミート内積を用いても、全く同様な議論ができ、その時をユニタリー行列という
tU(複素数)U = I
Uがユニタリー行列となる
⇔ Uの列ベクトルがCnの正規直交基底となる
⇔ UはCnの内積を保つ線型写像を定める
・内積を持つ線形空間
ユークリッド空間上ではユークリッド内積を考えることになりベクトルの長さや２つのベクトルの間の角度といった概念を意味づけることができる
こうした内積の概念は一般の線形空間にも拡張して考えられ、内積を一つ定めることによってユークリッド空間の場合と同様に線形空間の元の長さや２つの元の間の角度といった概念を意味づけることができる
一般にR上の線形空間Vに対して、
<,> : V×V → R
という写像が
(1)双線形性
(2)対称性
(3)正値性
という３つの条件を満たすとき、<,>を線形空間V上の内積という
特に、正値性という条件から、勝手な元に対してuの長さを二乗のルートで定めることができることが分かる
また、勝手な元に対してSchwarzの不等式がわかる
すると、Schwarzの不等式より、cosを使ってuとvのなす角度が定義できることが分かる
Vを内積を持つ線形空間とすると、標準的なユークリッド内積を持つユークリッド空間の場合と全く同様に、Vのいくつかの元が<ei, ej> = 1(i=j)
を満たすときに正規直交系と呼び、正規直交系からなる基底を正規直交基底と呼ぶ
正規直交基底を用いて線形空間Vに番地割して考えると、内積の構造まで込めて同一視できることが分かる
一見、とても抽象的に見える線形空間もユークリッド空間から座標軸を消し去った真っ直ぐな空間としてイメージすることができるということを意味する
特に、線形空間の元の長さや２つの元の成す角度もユークリッド空間上のベクトルの長さや２つのベクトルのなす角度としてイメージすることができるということが分かる
エルミート内積を一般化して、C上の線形空間に対する内積を考えることもできる
(u, ):V→C
という写像は線型写像ではなく、勝手な複素数に対して、a倍を外に出すときにaの複素共役のものが出ていくので、狭義の双線型ではない
こうした線型写像もどきの写像のことを反線型写像という
・直交補空間
一般に線形空間Vとその線型部分空間Wに対して、
V = W + W’
となるような線型部分空間W’を線型部分空間Wの補空間と呼ぶ
一般に補空間の取り方は色々とあり、一意的に定まるとは限らないが、Vの内積を持つ線形空間の場合には、Wに直交する方向として、Wの補空間を一つ定めることができる
今、Vを内積を持つ線形空間として、Vの線型部分空間Wが勝手に一つ与えられているとする
Wの全ての元と直交するようなVの元全体の集合を考えるとW垂直もVの線型部分空間になることが分かりますが、こうして定まる線型部分空間をWの直交補空間と呼ぶ
直交補空間を用いると、 V = W + W垂直
というように線形空間VはWの方向とWに直交する方向に直和分解されることが分かる
・直交行列による対称行列の対角化
前の項では、行列の対角化の問題の座標軸の取り方によらない表現として、固有ベクトル空間分解ということを述べたが、行列Aが対称行列の場合には実際に数ベクトル空間が対称行列Aの固有ベクトル空間の直和に分解することが分かる
したがって、それぞれの固有ベクトル空間の基底を勝手に１組ずつ取ってきて、それらの基底の元を全て並べることで行列Aを対角化するような正則行列Pが作れることが分かる
ここで、それぞれの固有ベクトル空間の基底として、単なる基底ではなく正規直交基底を選んでくるとどうなるかということを考えてみる
対称行列の性質として、固有ベクトル空間は互いに直交することが分かるので、正規直交基底を１組ずつ持ってきて、それらの基底の元を全て並べたものはRnの正規直交基底となることが分かる
よって、Aが対称行列の場合には行列Aを対角化する正則行列Pとして直交行列をとることができることが分かる
全く同様に、行列Aがエルミート行列の場合には、数ベクトル空間がエルミート行列Aの固有ベクトル空間の直和に分解することが分かる
対称行列と同じような性質があるので、ユニタリー行列で対角化できる
・Gram-Schmidtの直交化法
Vを内積を持つ線形空間としてVの勝手な基底を正規直交基底に作り替える標準的な方法が知られていて、それがGram-Schmidtの直交化法というものである
Jordan標準形
対称行列やエルミート行列など、内積と相性が良い行列の場合には実際に行列の対角化の問題が解決できることを見ましたが、一般には行列の対角化の問題がいつでも解決するとは限らない
したがって、いつでも解決できるようにするためには見やすい形の行列を対角行列より少しだけ一般化して考える必要があり、この目的のために導入されたのがJordan標準形である
・Jordan標準形
対角線上にλが並び、その一段上に１が並んだような行列をJordan細胞と呼ぶ
また、対角線上にJordan細胞がいくつか並んだような形の行列JをJordan標準形と呼ぶ
n=1のとき、Jordan細胞は対角行列を含むことが分かる
Jordan標準形はJ^mを比較的簡単に計算できるので、その意味で見やすい形の行列であると考えられる
J^mを求めるためには、Jordan細胞に対してJn^mを求めることができれば良いということがわかる
べきゼロ行列を使って、Jordan細胞を書き直せる
べきゼロ行列のn上は、1が対角線の上の方へ一段ずつ押しやられることが分かる
つまり、N^n = 0となる
つまり、にこう展開を用いて、比較的簡単にJn^mを求められる
・最小多項式
勝手な多項式f(x)に対して、変数xのところにAという行列を代入して、f(A)という行列を考えることができる
実は行列Aの性質は行列Aを根に持つような多項式に注目することでよりよく理解することができるということがわかっている
今、行列Aを根に持つような多項式全体の集合を、IAという記号を用いて表すことにすると、行列Aの性質はIAという集合に強く反映されるということがわかっている
よって、行列Aのうまい番地割りを見つけるという行列の標準形の問題を考える上でもIAという集合の持つ性質をよく調べてみることが大切になる
例えば、行列AがJordan細胞のように見やすい行列の時には勝手な多項式に対して直接f(A)を計算できるので、
f(A)=0 ⇔ f(x)は(x-λ)^nで割り切れるとなる
したがって。行列Aの最小多項式、ψA(x) = (x-λ)^n
として、I Aは最小多項式に何かをかけたものとして記述できる
行列Aが見やすい形の行列とは限らない時には勝手な多項式に対して直接f(A)を計算することは困難になるが、この場合にも少し抽象的な議論を行うことで、IAという集合を記述できることが分かる
今、IAに属する0でない多項式のうち、次数が最も低い多項式のうち一つをψA(x)とする
この時
f(A) = O ⇔ f(x)はψ(x)で割り切れる
となることが分かる
したがってIAはψ(x)*何か
というように記述できることが分かる
こうして得られる多項式を行列Aの最小多項式という
・Cayley-hamiltonの定理
行列Aが見やすい形の行列とは限らない時には行列f(A)を直接計算することは困難になるので最小多項式を求めるためには別の工夫が必要になる、その工夫の一つがCayley-Hamiltonの定理に注目するということ
行列を特性多項式をφA(x)として
φA(A) = OとなるのがCayley-Hamiltonの定理である
これによりφA(x)はIAに属することが分かる
つまり、最小多項式は特性多項式を割り切るような多項式であるということが分かる
この事実を用いると、行列Aのサイズがあまり大きくない時には特性多項式を割り切るような多項式に行列Aを代入して、その結果がゼロ行列になるかどうかを調べることで、最小多項式を求めることができることが分かる
・Jordan標準形の存在について
見やすい形の行列として対角行列だけでなく、Jordan標準形まで許すことにすると、行列の標準形の問題はいつでも解決できることが分かります
すなわち、行列Aを掛け算することによって定まる線型写像をJordan標準形という見易い形で表現するようなうまい基底が実際に存在することが分かる
このことをきちんと確かめてみるために行列Aの固有ベクトル空間の概念を少し一般化して、
V(λ)gen = {u | (A-λI)^mu=0となるような自然数mが存在する}
という式によって定まる行列Aの一般固有ベクトル空間に注目して
(1)Cn = V(λ1) + V(λ2) + ,,というように行列Aの一般固有ベクトル空間の直和に分解することを確かめる
(2)それぞれの一般固有ベクトル空間に対してうまい基底をとることを考える
という２つのステップを通して、行列の標準形の問題を解決することを考えるというのが基本的な戦略になる
・一般固有ベクトル空間分解
今、n行n列の行列Aに対して、行列Aの最小多項式の相異なるこんをλ1,,,λLとして、それぞれの根の重複度をd1,,として最小多項式を表す
この時1/ψA(x)という有理関数の部分分数展開を考えて、x=λkに対応した部分を一つの項にまとめて、表すことにする
ここでfk(x)をψAを(x-λk)^dkで割ったものとして、定義して、分母を払った指揮を考えると、
pk = fk*gkとして、
1 = p1(x) + p2(x) + ,,,となる
これを1の分解と呼ぶ
さらに1の分解の式にAを代入することで、単位行列の分解となる
そこで勝手なベクトルに対して、両辺をuに施してみると、ベクトルuが単位行列の分解を用いたベクトルの分解で分解できることが分かる
この時、それぞれのベクトルukは行列Aの固有値λkに対応した一般固有ベクトルとなることが分かり、つまり、行列Aの一般固有ベクトル空間の直和に分解することが分かる
この直和分解を、一般固有ベクトル空間分解という
また、それぞれの一般固有ベクトル空間に対しても、経済的な表示が得られる
この式の表示のもとで直和分解を考えることで、
行列Aは対角化可能である ⇔ 最小多項式が重根を持たない
となることもわかる
・べき零行列の標準形
λkに対応する一般固有ベクトル空間をV(λk)genとすると、線型部分空間V(λk)genは、行列Aを掛け算する操作に閉じていることが分かる
これと直和分解を合わせて考えると、行列Aを掛け算することによって定まる線型写像を、Jordan標準形という見易い形で表現するようなCnのうまい基底を見つける問題が、線型写像をV(λk)gen上に制限することによって得られる線型写像を、Laと表現することにして、V(λk)gen上の線型写像をJordan標準形という見易い形で表現するようなV(λk)genのうまい基底を見つける問題に帰着することが分かる
ここで、V(λk)genの表示に注意すると、(A-λkI)という行列はべきゼロ行列となるとは限らないものの、(A-λkI)という行列を掛け算することによって定まる線型写像を、Cnの線型部分空間V(λk)genに制限してえられる線型写像はべきゼロな線型写像になるということが分かる
すなわちこの線型写像をNkという記号で表すことにすると、Nk^dk = Oとなることが分かる
さらに、線形空間V(λk)genの表現行列と線型写像Nkの表現行列はスカラー行列の差しかないことに注意すると、V(λk)gen上の線型写像LaをJordan標準形という見易い形で表現するようなV(λk)genのうまい基底を見つける問題がV(λk)genのべきゼロ線型写像NkをJordan標準形という見易い形で表現するようなV(λk)genのうまい基底を見つける問題に帰着することが分かる
よって、Jordan標準形の存在を確かめるには、勝手に一つ与えられた線形空間VとV上のべきゼロ線型写像Nに対してべきゼロ線型写像NをJordan標準形という見易い形で表現するようなVのうまい基底が存在することを示せば良いことになる
線型写像Nを施すことによって繋がった一連のベクトルが見つかったとすると、上の式は、
行列を用いて表現することが分かる
また、(um, um-1,,)は線型独立になることもわかる
よって、それらの基底が生成する線型部分空間上で、線型写像Nはその基底に関して、一つのJordan細胞の形で表現されることが分かる
したがって、べきゼロ線型写像Nを施すことによって繋がった一連のベクトルを何組か見つけ、それらのベクトルを全て集めてくることで、Vの基底を定めることができれば、これらの基底に関して、ベキゼロ線型写像NはJordan標準形で表現されることが分かる
実際、いつでもこのような基底を構成できることが分かる
・Jordan標準形を求めるためには
与えられた正方行列Aに対して、具体的にJordan標準形Jや正則行列Pを求めるためには行列の対角化の問題の時と同様の考え方ができることが分かる
つまり P-1AP = J ⇔ AP = PJと書き直して考えることと、行列Pの列ベクトルに対して何を意味しているのかということを考えるということ
上の式は連立方程式の形に書き直せることが分かる
そして、一連の連立一次方程式を解くことによって、正方行列Pが求まることが分かる
ただし、連立一次方程式が解を持つためには、Ker(A-λI)の基底を勝手に一つ取ってきて、勝手に定めるのではなく、p1を選んでからp3を基底になるように選ばなくてはいけないなどの制約がある
一般には、与えられた行列Aの特性多項式を求めただけでは行列AのJordan標準形を決定することはできず、連立一次方程式の回の様子を調べながらJordan標準形Jの形を決定しなければいけないという分だけ少し複雑になっている
・最小多項式とJordan標準形の問題との関係
今、Aを正方行列、Pを行列Aと同じサイズの正方行列とした時に、勝手な多項式に対して、Pは外に出せることが分かる
これをIAの共役不変性という
つまり、最小多項式の共役不変性がわかる
この式を用いると、与えられた正方行列Aの最小多項式を求めることで行列AのJordan標準形に対してある程度の当たりをつけることができることが分かります
Jordan標準形の最小多項式とAの最小多項式は同じである
実際に計算を行ってみると、Jordan標準形の相異なる固有値をλ1,,,λLとして、それぞれの固有値に対して最もサイズの大きなJordan細胞をJm1,,,Jmlとすると、
ψJ(x) = (x-λ1)^m1(x-λ2)^m2,,,となることが分かる
よって正方行列Aに対して、行列Aの最小多項式を求めることによりそれぞれの固有値に対応する最もサイズの大きなJordan細胞の情報が得られるということが分かる
Jordan標準形の応用例
見やすい形の行列として、Jordan標準形を採用することにより行列の標準形の問題をいつでも解決できることを見ましたが、Jordan標準形の知識を用いてすっきりと理解することができる代表的な例として、数列に対して定数係数の線型漸化式と関数に対する定数係数の線形微分方程式がある
・数列に対する定数係数の線型漸化式
漸化式を線形代数学の立場から見直すためのアイデアは「(an-1, an-2)からanが決める」と読まずに、あえて「(an-1,an-2)から(an,an-1)が決まる」というように読み替えることです
この考え方により、「定数係数の漸化式を満たす数列の一般項を求める問題」が「A^nという行列Aのn乗を求める問題」に帰着することが分かる
ここで、Jordan標準形を用いると、A^n = PJ^nP-1としてA^nが求められる
・関数に対する定数係数の線形微分方程式
定数係数の線型常微分方程式を線形代数学の立場から見直すためのアイデアは、あえて「(f’,f)から(f’’,f’)が決まる」と読み替えることである
すると、微分方程式が一階の常微分方程式の形に書き直すことができることが分かる
つまり、定数係数の線型常微分方程式の解を求める問題が、微分するとA倍される関数を求める問題に帰着することが分かる
さらに、この式は、行列の指数関数を導入することにより、具体的に解くことができることが分かる
よって微分方程式を解く問題が、正方行列Aに対して行列の指数関数を求める問題に帰着することが分かる
ここで、Jordan標準形の知識を用いると、exp(xA)を求めることができることが分かる
実際にexp(xA)という行列の行列成分にどのような形の関数が現れるかを知るためには行列AのJordan標準形Jを具体的に求める必要があるが、これは次にようにして求められる
行列Aの特性多項式はψa(x)で与えられる
これは形式的には微分方程式においてf(i) を x^iと置き換えることによって得られることが分かる
さらに、行列Aの最小多項式は常に特性多項式と一致するということもわかる
そこで、特性多項式が因数分解されるとしたら、最小多項式も同じ因数分解で表される
すると、最小多項式はそれぞれの固有値に対応した最もサイズの大きなJordan細胞の情報を与えてくれるので、行列Aの標準形にはJm1,Jm2、、などのJordan細胞が登場することが分かる
これらのJordan細胞を並べた行列を考えてみると、行列AのJordan標準形はこのような式で与えられることが分かる
また、AのJordan細胞にはそれぞれの固有値に対してちょうど一つのJordan細胞が登場することが分かる
これらのJordan細胞のサイズを求めるには、特性多項式を因数分解してみれば良いこともわかった
よって、exp(xJ)がどのような形になるか分かるので、exp(xJm)がもとまれば良いということになる
ここで、Jordan細胞をべきゼロ行列のように分解してみれば比較的簡単に求めることができる
以上の結果を用いて、定数係数の線型常微分方程式の解がどのような形をしているのかということを議論してみると、微分方程式の解を求めるために以下のような戦略を立てられることが分かる
(1)与えられた微分方程式に対してf(i)→x^iという書き換えを行って、行列Aの特性多項式を求めて因数分解する
(2)(1)で得られた因数分解のパターンから重ね合わせを考える
(3)初期値を求めて係数を決定する
このような戦略で微分方程式の解を求めることにすれば正則行列Pを具体的に求めたり、行列の指数関数を計算する必要がなくなるので、物理学の教科書などではこのような開放が説明されていることが多い
線形代数を学ぶ理由
線形代数は理工系の学問のほぼ全ての領域にわたって必須
・フーリエ・ラプラス変換
微分方程式は一般に線形でなければ解くことはできない
この線形微分方程式は、フーリエ変換もしくはラプラス変換で解けるようになる
フーリエ変換や、ラプラス変換は線形代数における基底の変換になっている
f(x)という関数を様々な波数kを持つ基底関数で展開した時の、ある特定のkを持つ基底関数exp(ikx)の係数を計算したことになる
つまり、ある空間から、exp(ikx)という形の規定関数が貼る空間への変換になっている
なぜ、exp(ikx)という形で、展開するのかというと、指数関数が微分演算子の固有関数であるから
これが平面は展開になっている
極座標の計算は面倒だが、球面調和関数を使えば計算が楽になる
これは球調和関数が極座標のラプラシアンの固有関数になっているから
エルミート多項式やルジャンドル多項式も同様
・数値計算
現実世界は微分方程式で記述されており、ほとんどの場合、厳密に解くことはできない
そこで、数値的に近似解を求めることになるが、その際に方程式を離散かすることで数値的に扱えるようにする
すると、微分方程式という連続な世界から、自然に行列やベクトルが出てくる
例えば、熱伝導方程式を離散かすると、状態がベクトルに、時間発展は行列をかけることに対応する
時間発展行列の最大固有値が定常状態に対応する
・シュレディンガー方程式
量子力学において重要なのは、最もエネルギーの低い基底状態と呼ばれる状態
この方程式を離散して、数値的に解くことで規定状態を求めることができる
・運動方程式
ハミルトニアンを考え、行列の形に書く
時間発展演算子が空間の面積を保存するかどうかは時間発展のヤコビ行列式が1になるかどうかで判断できます
このように運動方程式の数値積分という分野にも線形代数が顔を出す
・線型安定性解析
非線形の微分方程式は解くことはできないが、その微分方程式で記述された系の性質を調べたい場合があり、その時使うのが線型安定性解析である
授業めも
「授業(1S,1A)」
線型写像と行列の対応づけ、つまり行列について理解すれば線型写像の理解が進む
線型代数学の萌芽である行列は多変数の連立一次方程式を効率的，統一的に扱う手法として発明された．また，行列式は方程式の解がただ一つ存在するための条件として発見された．ベクトルの概念の起こりは古典力学にあり，その意味で線型代数学の歴史は古い．しかし行列の本質である線型性概念の真の威力が認識され，数学の一分野として線型代数学が確立したのは新しく，20世紀にはいってのことであった．
自然界や社会科学における現象は一般には複雑で一次方程式で表せることはまれだが，一次近似によりその本質的な部分をとらえることは常套手段であり，線型代数学の考え方は非常に有効である．また，量子力学や，フーリエ解析などに現れる無限次元のベクトル空間を扱うための基礎ともなっており，線型代数学の応用については枚挙にいとまがない． このように，線型代数学の考え方は現代数学や理論物理学においてはもちろんのこと，工学，農学，医学，経済学などにおいても基本的な考え方として浸透しており，応用範囲も広い．線型代数学は理論的には単純で明快であるが，その反面，抽象的な概念操作にある程度慣れないと理解しにくい面もある．線型代数学を身につけるには，演習などのさまざまな問題にあたり，理解を深めることが必要である．「数理科学基礎」において学んだ線型代数に関する知識を前提とする．
S2タームの「線型代数学①」で以下の項目1, 2を扱い，Aセメスターの「線形代数学②」で項目3～6を扱うことを目安とするが，担当教員によって，順序や内容に一部変更が加えられる場合がある．
1. ベクトル空間，線型写像
2. 生成系，一次独立性，基底
3. 内積
4. 行列式
5. 固有値，固有ベクトル
6. 対称行列の対角化と二次形式
S2タームの「線型代数学①」で以下の項目1,2を扱い，Aセメスターの「線型代数学②」で項目3～6を扱うことを目安とするが，担当教員によって，順序や内容に一部変更が加えられる場合がある． 参考のため「線型代数学②」の内容を併せて示す．
S2ターム
1. ベクトル空間，線型写像 ：
数ベクトル空間を一般化したものである，ベクトル空間について学ぶ．また，ベクトル空間の間の写像で和とスカラー倍の算法を保つものとして線型写像を定義する．これは「数理科学基礎」で学んだものの一般化になっている．またベクトル空間の部分空間，線型写像の核や像とその性質について学ぶ．数ベクトル空間の場合，核は連立一次方程式の解全体に対応しているが，行列を用いて，それを具体的に求める方法について学ぶ．
2. 生成系，一次独立性，基底 ：
ベクトル空間の生成系，一次独立性について学び，ベクトル空間の基底を定義する．その基底を用いて，ベクトル空間と数ベクトル空間の対応をつけること，および，二つのベクトル空間の間の線型写像を行列として表すことを学ぶ．数ベクトルとしての表現や行列としての表現は基底の取り方に依存するが，どのように依存しているか，その規則について考察し，これらを用いて行列の階数などの量を定義する．
Aセメスター
3. 内積 ：
ベクトル空間には，和とスカラー倍の算法が定まっているが，これに加えてベクトルの内積と 呼ばれる一種の積が定まっているベクトル空間として，内積空間を定義する．高校では ベクトルの長さと角度から内積を定めたが，ここでは逆に内積からベクトルの長さと角度が 定まることを見る．内積空間には，正規直交基底と呼ばれる，長さが1で互いに直交するベクトルからなる基底が定義される．正規直交基底を具体的に求める方法の一つであるシュミットの直交化について学ぶ．
4. 行列式 ：
正方行列の行列式について学ぶ．行列式は行列の成分に関する多項式であって，多重線型性と交代性をもっているところが特徴的である．２次の場合は平行四辺形の面積とも関係している．ここでは一般次数の正方行列に対する行列式を定義し，行列式を用いた行列の正則性の判定条件について学ぶ
5. 固有値，固有ベクトル ：
行列の固有値，固有ベクトル，対角化について学ぶ．固有ベクトルを考えることにより，高い次元のベクトル空間の線型変換を１次元のベクトル空間の線型変換に帰着することを考える．いくつかの固有ベクトルで空間が生成されている場合には線型変換あるいはそれに対応する行列を対角化することができる．また対角化の微分方程式や数列などへの応用を学ぶ．
6. 対称行列の対角化と二次形式 ：
転置行列と内積の間に成り立つ関係式について学び，その性質を用いて対称行列の直交行列による対角化可能について学ぶ．さらに２次形式，つまり２次の同次多項式が対称行列を用いて表すことができることを用いて２次形式が直交行列による変数変換により，簡単な形に変換されることを学ぶ．
1.ベクトルと空間座標
内積、正射影ベクトル、空間座標における直線の方程式、空間座標における平面の方程式
2.行列
行列の積の性質、転置行列の性質、逆行列、ケーリーハミルトンの定理、行列のn乗計算のパターン、
3.行列式
サラスの公式、n次の行列式、余因子による行列の展開、行列式の行に関する性質
4.連立一次方程式
逆行列、クラメルの公式、rank、同次のn元連立方程式、非同次のn次連立方程式
5.線型空間
標準基底、次元、線型結合、元の個数、部分空間
6.線形写像
線形写像の定義、線形写像の性質、線形写像の像、線形写像の核、線形写像と表現行列、同型写像の基本定理、線形写像の基本定理
7.行列の対角化
固有値と固有ベクトルの関係、行列の対角化、ノルムの性質、直交行列の性質、直交行列を表現行列荷物線形変換の性質、シュミットの正規直交化法、対称行列Aは直交行列を用いて必ず体格化できる、エルミート行列はユニたり行列を用いて対角化できる
8.ジョルダン標準形
2次のジョルダン標準形の解法、3次のジョルダン標準形の解法