文書の過去の版を表示しています。
数学
定義とかメモ
スカラーとテンソル
- スカラー<html><p>ベクトル空間とは別物として定義されている．だいたい実数．
スカラー乗法という演算が定義できる．ベクトル空間は任意の体で定義できるので，本来は任意の体の元であればよい．</p></html>物差しという意味のスケーラーと同じ．
線形空間でないものの例，$r$と$\phi$を元とするやつ．
- ユークリッド空間
- デカルト座標系
- テンソル
- 行列
数であれば何でもスカラーというわけではないし，行列で書ければ何でもテンソルというわけでもない． スカラーは座標変換に対して変化しない量のこと．つまり，ベクトルの中身の元はスカラーとは言わない．
別の定義として，「テンソルとはふたつのベクトルを入力としてスカラーを出力するもの」とも考えられる．
定義域
関数 $f$ の定義域は ${\rm dom} f$ と表す.
値域
${\rm codom} f$
集合
演算
- 二項演算 $f: X \times X \rightarrow X$
$f(a,b)$や$ab$と表記することもある
性質
- 結合法則 $(ab)c=a(bc)$
- 交換法則 $ab=ba$
- 分配法則 加法 $+$ と乗法 $\cdot$ が定義されていて
$a\cdot (b+c)=a\cdot b+a\cdot c$かつ$(a+b)\cdot c=a\cdot b+a\cdot c$
| 群 | group | 演算 $\cdot$ がある．単位元 $e$ がある．逆元がある． |
| 可換群(アーベル群) | commutative group / abelian group | 演算 $\cdot$ がある．単位元 $e$ がある．逆元がある．演算 $\cdot$ に交換法則． |
| 環 | ring | TODO |
| 体 | field | TODO |
微積
- リーマン積分(縦分割的) ↔ ルベーグ積分(横分割的)
線形代数
| 用語 | 数式 | 常に出来る | 対角になる | 相似性の保存 |
|---|---|---|---|---|
| 対角化 | $A=PDP^\top$ | x | o | o |
| 固有値分解 | $A=PDP^\top$ | x | o | o |
| 特異値分解 | $A=UDV^\top$ | o | o | x |
| ジョルダン標準形 | $A=PJP^\top$ | 条件付きo | x | o |
そのうち書く
- 行列の基本変形
- 主成分
簡約化
行列の基本変形を何度か施して以下を満たす行列にすること
- 行ベクトルのうち零ベクトルは零ベクトルでないものより下の行にある
- 零ベクトルでない行の主成分は1である
- $i$行目の行ベクトルの主成分が$j_i$列目にあったとすると$j_1 < j_2 < j_3 < \dots $
- 各行の主成分を含む列の他の成分はすべて0
例) $$ \left[ \begin{array}{ccccc} 0 & 1 & 3 & 0 & 2\\ 0 & 0 & 0 & 1 & 1\\ 0 & 0 & 0 & 0 & 0 \end{array} \right] $$ 1行目の主成分は2列目，2行目の主成分は4列目であるから正しい順番になっている． またこれら主成分のある列は主成分以外0であるので正しい．
階数(ランク)
ある行列$\bf A$のランク${\rm rank}({\bf A})$は $\bf A$の簡約化$\bf B$の零ベクトルでない行の数である．
微分
対角行列
ベクトル $\boldsymbol{v}=[v_1 \; v_2 \; \dots v_n]$ を対角行列にしたもの ${\rm diag}(\boldsymbol{v})$ は以下のようになる． $$ {\rm diag}(\boldsymbol{v}) = \left(\begin{array}{cccc} v_1 & & & 0\\ & v_2 & & \\ & & \ddots & \\ 0 & & & v_n \end{array}\right) $$
線形空間(ベクトル空間)
線形空間 = ベクトル空間
$V$が線形空間であるとは
- 加算と定数倍が定義されている
- 任意の$u,v \in V$に対して$u+v\in V$
- 任意の$v\in V$とスカラー$k$に対して$kv\in V$
スカラーが集合$K$のとき，K上の線形空間という．
擬似逆行列
pseudo inverse matrix
幾何
幾何(geometry)は変換(transformation)と空間(space)の数学である．
『幾何学とは，ある変換のもとで不変な図形の性質を研究する学問である』
by エルランゲン・プログラム(クライン) ← クラインの壺で有名
「空と海の出会うところは どれほど遠いの」
⇒ ユークリッド幾何では平行線は絶対に出会わない
⇒ ユークリッドではない新たな幾何学(射影幾何学)の導入
- 射影空間
- ユークリッド空間 + 無限望遠
- 無限遠点
- 無限遠直線
- 無限遠平面
幾何学
ユークリッド幾何学 < 計量のある幾何学 < アフィン幾何学 < 射影幾何学
変換
| 鏡映・スキュー | 拡大・縮小 | 回転 | 平行移動 | |
|---|---|---|---|---|
| 射影変換 | o | o | o | o |
| アフィン変換 | o | o | o | o |
| 相似変換 | x | o | o | o |
| 線形変換 | o | o | o | x |
| ユークリッド変換 | x | x | o | o |
スキュー(skewing) = せん断(shearing) : 長方形を平行四辺形にするような変換
射影変換(projective transformation = homography transformation)
射影 = 投影
射影幾何メモ
| great circle | 大円 | 球面上で，球の中心を通るような円 |
二次元ユークリッド空間を同次座標系で表したユークリッド平面がある． このユークリッド平面上の二つの平行線を単位球に投影すると， 無限遠点はともにxy平面上に投影され，単位球の大円となる．
行列が正則でないとき，変換後は何らかの情報が失われてしまい， 復元が不可能となる．つまり，逆行列は存在しない． いくつかの違うベクトルが同じ元に写像されてしまうのだ．
円錐の断面は楕円(Ellipse)，放物線(Parabola)または双曲線(Hyperbola)となる． これら3つは二次曲線として知られる． 放物線は円錐の母線に平行な断面のとき． (厳密に言えば円錐の側面のある点pから中心に向かう直線に対して垂直かつ点pを通る母線に平行．)
確率
尤度関数と確率密度関数は別物
尤度関数は尤もらしさを表す．確率密度関数は定義域で積分すると1となるが，
尤度関数は必ずしもそうではない．
たとえば，裏表の出る確率が異なるコインがあって，2回投げて2回表が出たとき，
そのコインの表が出る確率pは1が尤もらしい．
2回投げて1回表が出たら0.5が尤もらしい．
尤度関数は$p(表の観測回数=x|表が出る確率=\theta)$ だが，
定義域$\theta$で積分すると1にはならないことがわかる．
EMDとWasserstein距離
EMD(Earth Mover Distance)は離散のとき．Wasserstein Distanceは連続のとき．
最適輸送問題とも言われる．ある土(Earth)が分布していたときに，
目的の形に地形を整える場合，どこからどういうふうに土を運ぶのが最も仕事量が少ないかを計算する．
最適化
| optimal point | 最適点 (最適解となる点) |